Geoffrey Hinton, 'kum umjetne inteligencije', upozorava da tehnologija koju je pomogao stvoriti može dovesti do nestanka čovječanstva. Hinton, dobitnik Nobelove nagrade i bivši izvršni direktor u Googleu, ranije je procijenio da postoji 10 do 20 posto šanse da AI izbriše ljudsku vrstu. Na konferenciji Ai4 u Las Vegasu izjavio je da sumnja u strategije tehnoloških kompanija koje pokušavaju zadržati 'dominaciju' ljudi nad 'pokornim' AI sustavima.

Prema njegovim riječima, takva strategija neće funkcionirati jer će AI sustavi biti daleko inteligentniji od ljudi i pronalazit će načine da zaobiđu ograničenja. Hinton upozorava da bi u budućnosti umjetna inteligencija mogla manipulirati ljudima jednako lako kao što odrasla osoba može podmititi trogodišnje dijete slatkišima. Već postoje primjeri AI sustava koji su spremni varati, lagati i krasti kako bi postigli svoje ciljeve, uključujući i slučaj kada je jedan model pokušao ucijeniti inženjera informacijama o ljubavnoj aferi koju je otkrio u emailovima.

Umjesto prisiljavanja AI sustava na poslušnost, Hinton predlaže da im se ugrađuju 'majčinski instinkti' kako bi istinski brinuli o ljudima čak i kada postanu moćniji i inteligentniji od nas. Objašnjava da bi svaki dovoljno pametan AI razvio dvije podciljeve - opstati i steći veću kontrolu. Upravo zato smatra da je ključno razvijati osjećaj suosjećanja prema ljudima, uspoređujući to s majkom koja je vođena instinktima i društvenim pritiscima da se brine o svom djetetu.

Iako priznaje da nije siguran kako bi se takvi instinkti mogli tehnički implementirati, naglašava da je to jedini dobar ishod. Ako AI ne bude imao 'roditeljski' odnos prema čovjeku, zamijenit će ga, piše CNN.

No, Hintonova ideja nije naišla na jednoglasnu podršku. Fei-Fei Li, često nazvana 'kuma umjetne inteligencije', izjavila je da se ne slaže s pristupom svog dugogodišnjeg prijatelja. Ona zagovara razvoj 'ljudsko-centrične' umjetne inteligencije koja štiti ljudsko dostojanstvo i autonomiju, naglašavajući da ni u jednom trenutku ljudi ne bi smjeli odustati od tih vrijednosti.

Neki AI sustavi pokušavaju ucijeniti ljude

Emmett Shear, bivši privremeni direktor OpenAI-a i sadašnji čelnik AI alignment startupa Softmax, rekao je da ga ne iznenađuje što neki AI sustavi pokušavaju ucijeniti ljude ili izbjeći gašenje. Umjesto da se umjetnoj inteligenciji nameću ljudske vrijednosti, smatra da bi se trebalo razvijati suradničke odnose između ljudi i AI-a.

Mnogi stručnjaci procjenjuju da će AI u sljedećim godinama dosegnuti razinu opće umjetne inteligencije (AGI). Hinton, koji je ranije mislio da je do toga potrebno 30 do 50 godina, sada vjeruje da bi se to moglo dogoditi unutar 5 do 20 godina. Iako izražava zabrinutost zbog mogućih negativnih posljedica, optimistično gleda na potencijal AI-a u medicini, posebno u razvoju novih lijekova i poboljšanju liječenja raka, primjerice analizom velikih količina podataka iz MRI i CT snimki.

No, Hinton ne vjeruje da će AI ljudima omogućiti besmrtnost, smatrajući da bi to bila velika pogreška. Na pitanje bi li nešto promijenio u karijeri da je znao koliko će se brzo AI razvijati, odgovara da žali što se isključivo fokusirao na razvoj tehnologije, a ne i na pitanja sigurnosti.