U eseju s 20.000 riječi, objavljenom u ponedjeljak, Amodei iznosi niz scenarija koji bi se mogli ostvariti ako se razvoj umjetne inteligencije nastavi bez odgovarajućih zaštitnih mehanizama. Među njima su masovni gubitak radnih mjesta, koncentracija ekonomske moći, ali i ekstremni sigurnosni rizici poput bioterorizma.

'Čovječanstvo će uskoro dobiti u ruke gotovo nezamislivu moć, a duboko je nejasno imaju li naši društveni, politički i tehnološki sustavi dovoljno zrelosti da se nose s njom', napisao je Amodei. Esej predstavlja jedno od najozbiljnijih javnih upozorenja koje je dosad iznio jedan od najutjecajnijih aktera u industriji umjetne inteligencije te sugerira da su postojeće zaštite i regulativni okviri nedostatni, piše Financial Times.

Amodei u tekstu opisuje dolazak onoga što naziva 'snažnom umjetnom inteligencijom' – sustava koji bi, prema njegovim riječima, u mnogim područjima bio 'znatno sposobniji od bilo kojeg dobitnika Nobelove nagrade, državnika ili tehnološkog stručnjaka'. Takvu razinu razvoja očekuje već u sljedećih nekoliko godina.

Biološko oružje, čipovi...

Među najtežim rizicima ističe mogućnost da pojedinci uz pomoć AI-a razviju biološko oružje sposobno ubiti milijune ljudi ili, u krajnjem slučaju, 'uništiti sav život na Zemlji'. 'Poremećeni pojedinac koji danas može počiniti masovno ubojstvo, ali ne i izraditi nuklearno oružje ili pustiti smrtonosnu zarazu, mogao bi imati sposobnosti koje su na razini doktora znanosti iz virologije', upozorio je Amodei.

Osim bioloških prijetnji, upozorava na scenarije u kojima bi umjetna inteligencija mogla 'izmaknuti kontroli i nadjačati čovječanstvo' ili 'poslužiti autoritarnim režimima i drugim zlonamjernim akterima, što bi moglo dovesti do uspostave globalne totalitarne diktature'.

Amodei, čija je tvrtka Anthropic glavni konkurent OpenAI-u, proizvođaču ChatGPT-ja, posljednjih mjeseci javno se sukobljavao s Davidom Sacksom, savjetnikom predsjednika Donalda Trumpa za umjetnu inteligenciju i kriptovalute, oko smjera američke regulative. Također je planove američke administracije o prodaji naprednih AI čipova Kini usporedio s 'prodajom nuklearnog oružja Sjevernoj Koreji'.

Trump je prošlog mjeseca potpisao izvršnu uredbu kojom se ograničavaju pokušaji saveznih država da samostalno reguliraju AI kompanije, a ranije je objavio i akcijski plan usmjeren na ubrzavanje američkih inovacija u tom području. U eseju Amodei upozorava i na mogućnost masovnih otkaza te na 'koncentraciju ekonomske moći i bogatstva' u Silicijskoj dolini kao posljedicu ubrzanog razvoja umjetne inteligencije.

'Ovo je zamka: umjetna inteligencija je toliko moćna i toliko primamljiva nagrada da je ljudskoj civilizaciji izuzetno teško nametnuti joj bilo kakva ograničenja', napisao je.

Indirektno prozvao Muska i Grok

U prikrivenoj referenci na kontroverze povezane s AI modelom Grok, koji razvija tvrtka Elona Muska, Amodei je ustvrdio da su 'neke AI kompanije pokazale zabrinjavajući nemar prema seksualizaciji djece u današnjim modelima', dodavši da ga to navodi na sumnju u njihovu spremnost i sposobnost da se u budućnosti nose s još ozbiljnijim rizicima autonomnih sustava.

Zabrinutost oko sigurnosti umjetne inteligencije - uključujući biološko oružje, autonomno naoružanje i djelovanje država koje bi ih koristile u zlonamjerne svrhe - bila je prisutna u javnim raspravama 2023. godine, dijelom zahvaljujući upozorenjima čelnika poput Amodeija. Te je godine britanska vlada organizirala prvi globalni samit o sigurnosti umjetne inteligencije u Bletchley Parku, na kojem su se države i tehnološke kompanije obvezale na suradnju u ublažavanju rizika. Sljedeći takav sastanak planiran je za veljaču u Indiji.

No Amodei upozorava da se političke odluke sve više donose pod pritiskom želje za iskorištavanjem gospodarskih prilika koje nudi AI, a rizici se guraju u drugi plan. 'Ovo kolebanje je zabrinjavajuće jer tehnologiju ne zanima što je trenutačno moderno, a 2026. smo znatno bliže stvarnoj opasnosti nego što smo bili 2023. godine', napisao je.

Amodei je karijeru započeo u OpenAI-u, ali je 2020. napustio tvrtku i suosnovao Anthropic nakon neslaganja sa Samom Altmanom oko smjera razvoja i sigurnosnih ograda umjetne inteligencije.

Anthropic trenutačno pregovara s partnerima poput Microsofta i Nvidije te s investitorima, među kojima su singapurski državni fond GIC, Coatue i Sequoia Capital, o novom krugu financiranja vrijednom 25 milijardi dolara ili više, što bi vrijednost kompanije podiglo na oko 350 milijardi dolara.