Ujedinjeni narodi pokreću novu inicijativu o vojnoj primjeni umjetne inteligencije, s ciljem rješavanja ozbiljnih zabrinutosti oko prijetnje koju bi ta brzorastuća tehnologija mogla predstavljati za čovječanstvo.

Inicijativa, koju pokreće Institut Ujedinjenih naroda za istraživanje razoružanja (UNIDIR), trebala bi uspostaviti prvi međunarodni forum na kojem će ključni dionici pokušati riješiti to pitanje.

Robin Geiss, čelnik instituta sa sjedištem u Ženevi, poznatog kao UNIDIR, upozorio je kako se prostor za ljudsku prosudbu sve više sužava, uključujući i područje nuklearnog naoružanja.

'Teško je procijeniti koliko je svijet blizu scenariju u kojem bi strojevi mogli djelovati izvan ljudske kontrole. Ta neizvjesnost je problem koji pokušavamo riješiti', rekao je Geiss.

Jedna od prepreka je to što umjetna inteligencija sve više prodire u brojna područja - od sustava ranog upozoravanja do prikupljanja informacija i izviđanja - pa je prilično teško odrediti u kojem trenutku ljudi zapravo gube kontrolu.

Zabrinutost jača od podjela

Dugo je vremena postojao snažan otpor prema uvođenju zaštitnih mehanizama za umjetnu inteligenciju. No, širenje njezinih mogućnosti i potencijalni utjecaj doveli su do spoznaje kako se nalazimo na raskrižju.

'Sad je trenutak za djelovanje, uključujući i područje vojne primjene umjetne inteligencije', uvjeren je Geiss.

Dodao je kako su u UN-u svjesni da globalno nadmetanje za vodeću ulogu u razvoju umjetne inteligencije stvara ozbiljne prepreke.

Ipak, smatra kako zabrinutost zbog utjecaja umjetne inteligencije već nadilazi geopolitičke blokove i potiče velike sile na djelovanje.

Podsjetio je na prijedlog iznesen prošlog mjeseca, prema kojem bi SAD i Kina uspostavili sustav upozoravanja na sigurnosne rizike povezane s umjetnom inteligencijom, a koji bi se odnosio na pitanja što mogu ugroziti nacionalnu sigurnost.

Dobrovoljne smjernice

Rizici povezani s umjetnom inteligencijom bili su jedna od glavnih tema u govorima čelnika mnogih od 193 države članice UN-a tijekom njihova godišnjeg sastanka na visokoj razini, održanog prošlog mjeseca.

UNIDIR je ovog ljeta osnovao Centar izvrsnosti za umjetnu inteligenciju, mir i sigurnost - prvu stalnu platformu UN-a posvećenu tim pitanjima.

Rad Centra financiraju svih pet velikih nuklearnih sila: SAD, Rusija, Kina, Ujedinjeno Kraljevstvo i Francuska.

UNIDIR će tijekom ovog tjedna pokrenuti novi forum s ciljem okupljanja dionika iz svih relevantnih sektora i iz cijelog svijeta koji će se baviti primjenom umjetne inteligencije u vojne svrhe.

Geiss nije precizirao što će točno ova inicijativa obuhvaćati, no napomenuo je da je ona dio šireg skupa aktivnosti vezanih uz umjetnu inteligenciju koje će biti pokrenute.

Jedna od njih bit će usmjerena na ulogu industrije, s ciljem razvoja okvira za odgovorno ponašanje industrije.

'Odluke koje tvrtke donose tijekom dizajna i razvoja određuju hoće li vojne sposobnosti temeljene na umjetnoj inteligenciji na kraju biti pouzdane i predvidljive te mogu li funkcionirati u skladu s međunarodnim pravom, istaknuo je Geiss.

Stoga UNIDIR razvija okvir za odgovorno ponašanje industrije koji će ponuditi praktične, dobrovoljne smjernice usklađene s međunarodnim pravom i zaštitom ljudskih prava.

Ova agencija UN-a konzultirat će se s tvrtkama iz sektora obrambenih tehnologija, razvojnim programerima softvera, podizvođačima, investitorima i drugim dionicima, koji će surađivati ​​s vladama, civilnim društvom, akademskom zajednicom i stručnjacima.

UNIDIR također pokreće inicijativu usmjerenu na rizike zlouporabe umjetne inteligencije od strane oružanih skupina, upozorivši kako takvi akteri već koriste tu tehnologiju kao potporu operativnom planiranju, provedbi operacija i logistici.

'Došlo je vrijeme za udruživanje snaga i izravno suočavanje s pitanjem umjetne inteligencije u vojnom kontekstu', poručio je Geiss, a prenosi AP.