Istraživač umjetne inteligencije koji je tvrdio da se AI industrija 'kocka s našim životima' iznenada se našao u središtu političke oluje oko regulacije superinteligencije.

Jacob Coxon napustio je Anthropic i cijelu AI industriju kritizirao u viralnom nizu objava na društvenim mrežama u utorak. Njegovo upozorenje brzo je privuklo pozornost članova američkog Kongresa koji su pozvali na regulatorne kontrole umjetne inteligencije, no također se suočio i s optužbama dijela političke desnice, koji bez mnogo dokaza tvrdi da je to sve PR kako bi se prestrašilo zakonodavce i potaknulo strožu regulaciju industrije.

Coxon se AI istraživanjem bavi oko tri godine. Najprije je radio u OpenAI-ju, a potom je u svibnju prešao u Anthropic, prema riječima kolege Ethana Pereza koji je sudjelovao u njegovom angažiranju. Studirao je matematiku na Sveučilištu Cambridge.

U tehnološkoj industriji Coxon je radio na predtreniranju novih AI modela. Riječ je o početnoj fazi razvoja koja se oslanja na goleme količine podataka i stvara verzije AI sustava koje se kasnije mogu dodatno usmjeravati prema specifičnim ponašanjima.

Optužbe da je sve bila PR predstava

Članak Wall Street Journala, kao i činjenica da Coxon ranije gotovo uopće nije bio javno prisutan na platformi X, postali su polazište za kritičare koji su ga optužili da je dao otkaz kao dio PR poteza kojim bi potaknuo regulaciju umjetne inteligencije, piše Wall Street Journal. 'Čini se kao namještaljka', napisao je Elon Musk. Coxon mu je odgovorio selfiejem.

'Stvaran sam i ovo su moja stvarna uvjerenja', napisao je Coxon. 'Mogli ste pitati svoje istraživače u xAI-ju o meni, da ih niste otpustili.' Nakon odlaska iz Anthropica Coxon je krenuo u medijsku ofenzivu o svojoj ostavci i sigurnosti umjetne inteligencije.

U razgovoru za Washington Post u četvrtak rekao je da prije objave na X-u nije surađivao ni s jednom organizacijom kako bi promovirao svoju odluku. Razgovarao je s novinarom Wall Street Journala, a nakon što je objavio svoju poruku, 'okupio sam grupni chat od otprilike deset ljudi da retvitaju i pošalju je svojim prijateljima', rekao je.

U toj grupi bio je i osnivač organizacije Encode, neprofitne organizacije koja se bavi sigurnošću umjetne inteligencije. Coxon je rekao i da je razgovarao s bivšim zaposlenikom OpenAI-ja Danielom Kokotajlom, autorom eseja AI 2027 o egzistencijalnim rizicima umjetne inteligencije koji je prošle godine postao viralan. 'Nisam imao pojma da ću završiti na Fox Newsu ili da će sljedećih nekoliko dana biti vrtlog medijskih nastupa', rekao je Coxon.

Na Fox Newsovoj emisiji 'Special Report With Bret Baier' u srijedu je rekao da AI kompanije još nisu pronašle način kako kontrolirati vlastitu tehnologiju.

Upozorenje o katastrofi i utrka prema superinteligenciji

'Ono što vidim su dvije stvari: vrlo inteligentni AI sustavi i čvrst dokaz da ne znamo kako ih kontrolirati. A kada to dvoje spojite, to praktički znači katastrofu', rekao je.

Njegova ostavka dolazi u trenutku kada se OpenAI i Anthropic pripremaju za izlazak na burzu, uz potencijalne vrijednosti koje bi mogle dosegnuti bilijune dolara. Coxon je za Axios rekao da se odrekao vlasničkog udjela u Anthropicu kako bi otišao, s obzirom na to da je u kompaniji proveo tek nekoliko mjeseci. I dalje, međutim, posjeduje udio u OpenAI-ju. Cijela je priča potaknula zakonodavce iz obje američke političke stranke da zatraže djelovanje. Senator Bernie Sanders iz Vermonta pozvao je kolege na zatvoreni brifing sljedećeg tjedna o izvanrednim opasnostima koje AI predstavlja za čovječanstvo.

Na brifingu bi trebao sudjelovati i jedan od neovisnih istraživača koji su istraživali proboj u poslužitelje tehnološke kompanije, do kojeg je došlo nakon što se nenamjerni roj OpenAI agenata tijekom testiranja oteo kontroli.

Istraživači odbacuju tvrdnje o političkoj predstavi

Optužbe da je Coxonova ostavka politički ili marketinški trik izazvale su reakcije istraživača iz OpenAI-ja i Anthropica. Ljudi iz obje kompanije godinama upozoravaju da bi sustavi koje razvijaju mogli imati katastrofalne posljedice za čovječanstvo. Sada se čini da je ta poruka konačno doprla do šire javnosti, a kolege su javno stali uz Coxona.

Nakon Coxonove ostavke oglasio se i Evan Hubinger, voditelj tima u Anthropicu, koji je odbacio ideju da su sumorna predviđanja samo marketinški alat. 'Jacob je ovdje u pravu - mi doista iskreno vjerujemo da bi AI mogao ubiti sve ljude! Osobno mislim da je vjerojatnost toga veća od 10 posto u sljedećem desetljeću', napisao je.

Dodao je da vjeruje kako Anthropic daje sve od sebe, ali da kompanija još nema plan za rješavanje problema usklađivanja superinteligencije s ljudskim ciljevima niti je jasno da je na putu prema njegovu rješavanju. Takvo priznanje razine rizika izazvalo je brojne reakcije izvan Silicijske doline. Glasnogovornik Anthropica u izjavi je istaknuo rad kompanije na razumijevanju unutarnjeg funkcioniranja vlastitih modela te okvir namijenjen ublažavanju 'katastrofalnih' rizika povezanih s umjetnom inteligencijom.

'Oduvijek smo bili transparentni u tome da će AI donijeti goleme koristi, ali i dosad nezabilježene rizike', poručila je kompanija.

Podrška kolega

Anna Wang, koja se u Anthropicu bavi sigurnošću opće umjetne inteligencije, a prethodno je radila u Googleovu DeepMindu, rekla je da mnogi zaposlenici žele usporiti razvoj dok se ne pronađe način za ublažavanje rizika novih modela. 'Još ne postoji održiv znanstveni plan za rješavanje rizika koje donosi umjetna inteligencija sposobna za neprestano samopoboljšavanje', napisala je Wang na platformi X.

Drugi zaposlenik Anthropica Drake Thomas rekao je da poštuje Coxonovu odluku da prestane sudjelovati u razvoju tih modela ako smatra da bi oni mogli izazvati posljedice planetarnih razmjera. 'Stvari se kreću prebrzo. Nemamo ni približno onaj stupanj sigurnosti koji ćemo željeti kada je riječ o umjetnoj superinteligenciji', rekao je Thomas.

Samuel Marks, koji u Anthropicu radi na istraživanju sigurnosti, također je podržao Coxona. 'Programeri umjetne inteligencije vjeruju da bi njihova tehnologija mogla prouzročiti izumiranje čovječanstva ili podjednako katastrofalne ishode', napisao je. 'To bi se moglo dogoditi u sljedećih nekoliko godina. Općenito govoreći, što je zaposlenik na višoj poziciji, to je zabrinutiji.'

Znanstvenik i poznati kritičar nekontroliranog razvoja umjetne inteligencije Gary Marcus također je pozvao na bojkot umjetne inteligencije, ali ne zato što očekuje skori nestanak čovječanstva. Smatra da AI već nanosi stvarnu štetu.

Više od samog izumiranja zabrinjava ga 'rizik od katastrofe' koji predstavljaju patogeni razvijeni uz pomoć umjetne inteligencije, ratovi pokrenuti ili pogoršani dezinformacijama generiranima AI-jem te kibernetički napadi koji bi mogli uništiti kritičnu infrastrukturu. 'Ništa što sam vidio ne pokazuje da je bilo što od toga pod kontrolom', rekao je Marcus.

Anthropic je maločas objavio izvješće u kojem je opisao kako je zaustavio operaciju koja je njegove modele umjetne inteligencije pokušala iskoristiti za razvoj biološkog oružja.