U opsežnom razgovoru s Tuckerom Carlsonom glavni izvršni direktor OpenAI-a Sam Altman osvrnuo se na mnoštvo moralnih i etičkih pitanja u vezi s tom tvrtkom i modelom umjetne inteligencije ChatGPT-jem. Rekao je, između ostalog, da ne spava dobro jer razmišlja o tome kako svaki dan stotine milijuna ljudi razgovaraju s ChatGPT-jem.

Ne brine ga pritom hoće li pogriješiti u velikim moralnim odlukama, iako je priznao da bi mogli. Veći su mu problem vrlo male odluke o ponašanju modela koje mogu imati velike posljedice. Te se odluke obično usredotočuju na etiku koja oblikuje ChatGPT i na koja pitanja robot za brbljanje odgovara, a na koja ne odgovara.

Evo pregleda nekih od tih moralnih i etičkih dilema.

Kako se ChatGPT bavi samoubojstvom?

Prema Altmanovim riječima, najteži problem s kojim se tvrtka u posljednje vrijeme suočava jest kako ChatGPT pristupa samoubojstvu, s obzirom na tužbu obitelji koja je za suicid svog sina tinejdžera okrivila taj chatbot.

Od tisuća ljudi koji svaki tjedan počine samoubojstvo, rekao je, mnogi od njih vjerojatno su razgovarali s ChatGPT-jem dok su se za to pripremali, a OpenAI im nije spasio živote. 'Možda smo mogli biti proaktivniji. Možda smo mogli pružiti malo bolji savjet o tome – hej, treba vam pomoć', rekao je Altman.

Kako se određuje etika ChatGPT-ja?

Altman je opisao osnovni model ChatGPT-ja kao obučen na kolektivnom iskustvu, znanju i učenjima čovječanstva. Dodao je da OpenAI zatim mora uskladiti određena ponašanja chatbota i odlučiti na koja pitanja neće odgovoriti. To je doista težak problem, priznao je, jer korisnici imaju jako različite životne perspektive. Ipak, općenito je ugodno iznenađen sposobnošću modela za učenje i primjenu moralnog okvira.

Pri određivanju pojedinih specifikacija modela konzultirali su se sa 'stotinama filozofa i ljudi koji su razmišljali o etici tehnologije i sustava'. Tako će, recimo, ChatGPT izbjegavati odgovaranje na pitanja o tome kako izraditi biološko oružje ako to korisnici zatraže od njega.

Altman je istaknuo da postoje jasni primjeri toga da društvo ima interes koji je značajno sukobljen sa slobodom korisnika, stoga će OpenAI trebati pomoć svijeta pri donošenju odluka u tom smislu.

Koliko je ChatGPT privatan?

Na Carlsonovu primjedbu da bi generativna umjetna inteligencija mogla biti korištena za totalitarnu kontrolu Altman je rekao kako se u sklopu politike koju je promovirao u Washingtonu nalazi koncept prema kojem sve što korisnik kaže chatbotu treba biti potpuno povjerljivo, kao što je slučaj s liječnicima ili odvjetnicima.

To bi korisnicima omogućilo, između ostalog, konzultiranje s AI chatbotovima o njihovoj medicinskoj povijesti i pravnim problemima.

Trenutno američki dužnosnici mogu od tvrtke zatražiti podatke o njima sudskim putem. No Altman vjeruje da može natjerati vlasti da shvate zašto je važno omogućiti njihovu privatnost.

Hoće li ChatGPT biti korišten u vojnim operacijama?

Na Carlsonovo pitanje hoće li vojska koristiti ChatGPT za nanošenje štete ljudima Altman nije dao izravan odgovor. Rekao je tek kako sumnja da se mnogi ljudi u vojsci obraćaju ChatGPT-ju za savjet. Kasnije je dodao da nije siguran što misli o tome.

OpenAI je bila jedna od tvrtki za umjetnu inteligenciju koja je dobila ugovor, vrijedan 200 milijuna dolara, s američkim Ministarstvom obrane za korištenje generativne umjetne inteligencije za vojsku.

Američkoj vladi obećali su omogućiti pristup prilagođenim modelima umjetne inteligencije za nacionalnu sigurnost, podršku i plan razvoja proizvoda.

Koliko je zapravo moćan OpenAI?

Carlson je predvidio da će generativna umjetna inteligencija, a time i sam Altman, dobiti više moći od bilo koje druge osobe. Čak je ChatGPT nazvao religijom.

Altman je na to rekao da se prije jako brinuo zbog koncentracije moći koja bi mogla proizaći iz generativne umjetne inteligencije, ali sada vjeruje da će ona rezultirati ogromnim napretkom svih ljudi. Ipak, također će ukinuti mnoga radna mjesta koja danas postoje, posebno kratkoročno, prenosi CNBC.