Sigurnosni prekidač (kill switch) za umjetnu inteligenciju koji može provjeriti treća strana možda će morati biti obavezan za tvrtke, uvjeren je Jack Clark, jedan od sedam osnivača Anthropica.

Bio bi to način potpunog isključivanja softvera umjetne inteligencije ako postane preopasan koji bi društvo moglo htjeti regulirati, dodao je. Većina laboratorija ima različite načine isključivanja, uključujući Anthropic, ali nisu na to obvezni zakonski.

Brzi razvoj umjetne inteligencije i strahovi od rizika koje predstavlja za čovječanstvo stavljeni su u središte pozornosti nizom upozorenja direktora i osoblja tvrtki za umjetnu inteligenciju. Neki među njima javno su rekli kako postoji mogućnost da bi tehnologija, ako nije pod nadzorom i kontrolom, mogla ubiti sve ljude.

Glavni izvršni direktor Anthropica Dario Amodei pozvao je na usporavanje tempa razvoja umjetne inteligencije i na pomnije praćenje, kao što je tvrtka to činila i prije, iako ima onih koji su doveli u pitanje motivaciju koja stoji iza toga. Amodei je dodao kako bi svaka akcija za obuzdavanje razvoja umjetne inteligencije trebala biti poduzeta bez žrtvovanja komercijalne prednosti.

Dio šireg političkog razgovora

Clark vjeruje kako bi specifičnosti oko zahtjeva za sigurnosni prekidač i provjere trebale biti dio šireg političkog razgovora koji se vodi oko umjetne inteligencije. Anthropic, koji je 2021. godine osnovala skupina bivših zaposlenika OpenAI-ja, trenutno je u središtu rasprave o sigurnosti umjetne inteligencije.

Prošli tjedan istraživač umjetne inteligencije koji je napustio Anthropic upozorio je kako bi umjetna inteligencija mogla uništiti čovječanstvo. Kao odgovor, znanstvenik Anthropica Evan Hubinger procijenio je kako je mogućnost izumiranja ljudi zbog umjetne inteligencije u slijedećem desetljeću manja od deset posto.

Računalni znanstvenik i dobitnik Nobelove nagrade Geoffrey Hinton, poznat kao 'kum umjetne inteligencije', smatra kako ta procjena nije nerazumna. On i drugi koji dijele sličnu zabrinutost sugerirali su kako bi umjetna inteligencija to mogla učiniti tako što će preuzeti kontrole nad važnim sustavima povezanim s internetom i okrenuti ih protiv ljudi.

Prenapuhana prijetnja?

Ima i onih u industriji umjetne inteligencije koji smatraju kako su ta strahovanja pretjerana, moguće i osmišljena kako bi se stvorila medijska pompa.

Clement Delangue, čelnik razvojne platforme Hugging Face (koju su hakirali botovi tvrtke OpenAI), rekao je kako je pitati katastrofičare o riziku od izumiranja uzrokovanog umjetnom inteligencijom isto kao pitati servisera klima-uređaja o klimatskim promjenama. Ne misli kako ta ideja nije zanimljiva ili pogrešna sama po sebi, ali treba zadržati realnu perspektivu.

George Arison, čelnik aplikacije Grindr, rekao je kako tvrtke koriste strahove vezane uz alate umjetne inteligencije ne bi li poduprle svoje poslovne planove. Tvrtka Anthropic, čija je vrijednost procijenjena na 965 milijardi američkih dolara, priprema se za inicijalnu javnu ponudu dionica.

Očekivalo se kako će isto učiniti i OpenAI, čija je vrijednost nedavno procijenjena na 852 mlrd. USD. Ali, čelnik te tvrtke Sam Altman rekao je kako se to ove godine neće dogoditi zbog trenutačne rasprave o sigurnosti umjetne inteligencije. Američki zakonodavci predložili su zakon Kill Switch Act, koji bi obvezao tvrtke na osiguravanje načina za isključivanje problematičnih alata umjetne inteligencije.

Taj bi zakon također određenim državnim agencijama dao ovlasti za zahtjeve za isključivanje ili ograničavanje rada takvih alata.

Međutim, američki predsjednik Donald Trump odbacio je pozive na usporavanje razvoja umjetne inteligencije, izjavivši na društvenim mrežama kako su priče o tome kako će umjetna inteligencija preuzeti svijet, uništiti čovječanstvo i uzrokovati sve druge loše stvari obična prijevara.

Trump je kasnije usporedio strahove sa zabrinutošću zbog 'prijevare globalnog zagrijavanja od ne tako davno, gdje bi svi umirali od ekstremne vrućine'. Također je uvjeren kako postoji zavjera protiv umjetne inteligencije i podatkovnih centara, koja ide u prilog Kini, piše BBC.