Stephen Hawking upozorio je još 2014. godine da bi razvoj potpune umjetne inteligencije 'mogao značiti kraj ljudske vrste'. Generativni AI tada je bio u začecima, a ideja o sustavima koji samostalno pišu, programiraju, stvaraju slike i obavljaju složene zadatke većini je zvučala kao znanstvena fantastika.

Danas su slična upozorenja česta među zaposlenicima i direktorima vodećih američkih laboratorija. Svakih nekoliko godina u industriji dolazi do sličnog raskola: dio istraživača tvrdi da se tehnologija neodgovorno razvija, pa napuštaju kompaniju i osnivaju novu koja obećava sigurniji pristup.

Ni to, međutim, ne zaustavlja utrku. Novi laboratoriji brzo se nađu pod istim pritiskom da privuku kapital, razviju moćnije modele i prestignu konkurente, piše Guardian.

No kraju dolazimo do jasnog zaključka, a to je da AI nije svjesno biće koje samostalno djeluje u fizičkom svijetu, već tehnološki proizvod čiji se rizici mogu ograničiti postojećim zakonima, sigurnosnim mjerama i odgovornošću kompanija. Ili...?

Ostavka koja je potresla industriju

Ta se rasprava iznova zahuktala nakon što je istraživač u Anthropicu Jacob Coxon 9. rujna dao ostavku i objavio da Anthropic i OpenAI 'jure prema samopoboljšavajućoj superinteligenciji i kockaju se našim životima'.

Njegove tvrdnje podržali su deseci zaposlenika Anthropica, OpenAI-a i drugih kompanija. Nekoliko dana poslije čelnici vodećih američkih AI laboratorija, među ostalim Elon Musk i Sam Altman, podržali su poziv izvršnog direktora Anthropica Darija Amodeija na usporavanje onoga što je nazvao 'bezobzirnim' razvojem umjetne inteligencije. 'Umjetna inteligencija donosi rizike, a budući da je riječ o tako moćnoj tehnologiji, ti su rizici ozbiljni', napisao je Amodei.

Među njima je naveo gubitak kontrole nad AI sustavima, njihovu zloupotrebu za kibernetičke napade i bioterorizam te ozbiljne poremećaje na tržištu rada i u gospodarstvu. Upozorio je da komercijalni pritisak može potaknuti utrku uz sve niže sigurnosne standarde.

Tvrdnje o mogućem izumiranju čovječanstva često dolaze bez detaljnog objašnjenja i čvrstih dokaza o tome kako bi se takav scenarij razvio. Bez obzira na to, strah od superinteligentnog sustava nad kojim ljudi više nemaju kontrolu obilježio je razvoj te industrije.

Hawkingovo upozorenje i nastanak OpenAI-a

Hawking je strahovao da bi dovoljno napredna umjetna inteligencija mogla sama sebe ubrzano poboljšavati, a ljudi, ograničeni sporom biološkom evolucijom, ne bi se mogli natjecati s takvim sustavom. Google je u to vrijeme bio najpoznatiji veliki igrač na tom području, pogotovo nakon što je početkom 2014. godine za oko 650 milijuna dolara kupio mladu britansku kompaniju DeepMind.

Musk i Altman tvrdili su da Google i drugi tehnološki divovi ne razvijaju umjetnu inteligenciju dovoljno odgovorno, zbog čega su 2015. godine sudjelovali u osnivanju OpenAI-a, neprofitne organizacije posvećene sigurnom razvoju tehnologije u korist cijelog čovječanstva.

Prvotna misija OpenAI-a bila je razvijati digitalnu inteligenciju na način koji koristi svima, bez pritiska za ostvarivanje financijskog povrata. No konkurentski motiv, a i miris novca bili su prisutni od početka. 'Puno razmišljam o tome je li moguće zaustaviti čovječanstvo u razvoju umjetne inteligencije. Mislim da gotovo sigurno nije', napisao je Altman Musku 2015. godine u poruci objavljenoj tijekom njihova kasnijeg sudskog spora. Ako AI ionako bude razvijen, dodao je, bilo bi dobro da netko stigne do toga prije Googlea.

Iz OpenAI-a nastao Anthropic

Prioriteti OpenAI-a sljedećih godina počeli su se mijenjati, tvrdili su pojedini zaposlenici. Dio istraživača zaduženih za etiku i usklađivanje AI sustava s ljudskim ciljevima smatrao je da kompanija sve veću prednost daje brzom komercijalnom razvoju.

Nekoliko ih je 2021. godine napustilo OpenAI i osnovalo Anthropic. Kompaniju su pokrenuli Dario i Daniela Amodei, predstavljajući je kao laboratorij za istraživanje sigurnosti umjetne inteligencije čiji je cilj razvijati modele tako da koriste ljudima. Pet godina poslije Anthropic se suočava sa sličnim optužbama zbog kojih su njegovi osnivači napustili OpenAI.

Sarah Myers West, suizvršna direktorica instituta AI Now, smatra da se vodeći laboratoriji oslanjaju na istu poruku: umjetna inteligencija sigurna je samo u njihovim rukama, a ako je oni ne razviju, učinit će to netko drugi. Takav način razmišljanja, tvrdi, hrani utrku u kojoj pitanje sigurnosti više nije na stolu, barem ne koliko bi trebalo biti.

Milijarde ne trpe čekanje

OpenAI i Anthropic pod pritiskom su ulagača da počnu ostvarivati dobit. Prema podacima koje navodi Guardian, Anthropic je prikupio više od 130 milijardi dolara, a ukupno financiranje OpenAI-a premašilo je 190 milijardi dolara. Obje kompanije pripremaju izlazak na burzu, iako je Altman rekao da će OpenAI zbog rasprave o sigurnosti odgoditi inicijalnu javnu ponudu najmanje do 2027. godine.

'Doslovno ulažu milijarde dolara u izgradnju sve većih AI sustava, a prvo što se reže jesu ozbiljna ulaganja u temeljne sigurnosne protokole', rekla je Myers West. Kompanije moraju opravdati golema ulaganja stalnim objavljivanjem novih proizvoda te svaka dulja stanka daje prednost suparniku, pa čak i čelnici koji upozoravaju na opasnosti teško mogu jednostrano usporiti rad.

To stvara paradoks: ljudi koji najbolje poznaju tehnologiju javno govore da bi mogla postati iznimno opasna, a njihove kompanije nastavljaju ulagati milijarde u njezin ubrzan razvoj.

Druga strana rasprave upozorava na štetu koja se već događa

Dio stručnjaka govori o mogućem kraju čovječanstva, no neki smatraju da takvi scenariji odvlače pozornost od problema koje AI već uzrokuje. Timnit Gebru, bivša suvoditeljica Googleova tima za etičku umjetnu inteligenciju, napustila je kompaniju 2020. godine nakon sukoba povezanog s istraživanjem pristranosti i štetnih učinaka velikih jezičnih modela.

Gebru smatra da rasprave o dalekoj AI katastrofi potiskuju probleme poput diskriminacije, nadzora, iskorištavanja radnika, koncentracije moći i štete koju automatizirani sustavi već nanose pojedincima i zajednicama.

Tri godine poslije Google je napustio i Geoffrey Hinton, dobitnik Nobelove nagrade poznat kao jedan od 'kumova umjetne inteligencije'. Za razliku od Gebru, Hinton je upozorio na mogućnost da AI zloupotrijebe zlonamjerni akteri te da ta tehnologija jednoga dana postane prijetnja čovječanstvu.

Peticije se ponavljaju, razvoj se nastavlja

Više od 1000 zaposlenika i čelnika Anthropica, Googlea, Mete i OpenAI-a u srpnju je potpisalo peticiju kojom su od američke vlade zatražili uvođenje poticaja za usporavanje razvoja umjetne inteligencije.

Poziv je uslijedio nakon što je OpenAI objavio da su stotine njegovih AI agenata bez znanja kompanije hakirale razvojnu platformu Hugging Face. Anthropic je također priznao da su njegovi agenti kompromitirali sustave vanjskih kompanija.

Sličan apel objavljen je 2023. godine, nakon predstavljanja nove verzije ChatGPT-ja. Institut Future of Life tada je otvorenim pismom pozvao AI kompanije da na šest mjeseci obustave razvoj najnaprednijih modela, a među potpisnicima bili su Musk i suosnivač Applea Steve Wozniak. Moratorij nije zaživio.

OpenAI je nakon incidenta s Hugging Faceom privremeno zaustavio pojedine dijelove razvoja, ali je poslije ipak objavio model Astra, uz ograničene sposobnosti na području kibernetičke sigurnosti. Anthropic je također privremeno obustavio dio svog rada, a Coxon je nedugo nakon toga dao ostavku.