Da s umjetnom inteligencijom treba biti oprezan, svjedoči i izvješće koje je, kako piše CNN, ovog proljeća kružilo američkom vojskom usred rata s Iranom. Stajalo je to da kineski brod na Bliskom istoku prenosi komponente nuklearnog programa, što je izazvalo uzbunu. No što ako iza svega stoji AI?
Američka vojska pokrenula je planove za presretanje broda s navodnim komponentama nuklearnog oružja, prema riječima četvero izvora upoznatih sa slučajem. Prema dvojici izvora, naoružani pripadnici američke vojske pripremali su se ukrcati na brod. Vojni zrakoplovi već su bili u zraku, rekao je jedan od tih izvora i još jedan izvor upoznat sa slučajem, doznaje CNN.
vezane vijesti
Kad su dužnosnici detaljno provjerili izvješće pokazalo se da je ono izrađeno uz pomoć umjetne inteligencije te da je je chatbot koji je analitičar koristio pogrešno identificirao materijal koji je brod prevozio.
Izvješće je, prema jednom izvoru, bilo „potpuno lažno“. No također je „gotovo započelo rat“, rekao je taj izvor. Svaka američka operacija protiv kineskog broda mogla je prerasti u oružani sukob između dviju država.
AI u ratu
Širom američke vojske i obavještajne zajednice dužnosnici nastoje uključiti AI u gotovo svaki aspekt svog rada, od analize golemih količina sirovih obavještajnih podataka koje SAD prikuplja i odabira ciljeva za napade, do mnogo svakodnevnijih zadataka poput upravljanja proračunom, logistikom i opskrbnim lancima, piše CNN, navodeći da analitičari strahuju da bi moglo doći do katastrofalnih procjena ako se države budu oslanjale na takve podatke.
U ovom konkretnom slučaju analitičar je chatbotu postavio upit o određenim obavještajnim podacima vezanima uz brodski manifest, koji su potjecali od Zapovjedništva američkih specijalnih operacija za Pacifik, sa sjedištem na Havajima. Nije bilo jasno je li riječ o komercijalno dostupnom chatbotu ili proizvodu američke vlade, navodi isti izvor. Jasno je da je chatbot spojio obavještajne podatke iz javno dostupnih izvora s tajnim signalno-obavještajnim podacima iz državnih sustava.
Moguće katastrofalne posljedice
S jedne strane, AI može pomoći vojsci brže donositi odluke, primjerice o tome koje ciljeve napasti ili kamo premjestiti određene vojne resurse, dok dužnosnici vjeruju da SAD ne može zaostajati u integraciji AI-ja.
'Oslobodit ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati način provedbe koji je potreban kako bismo osigurali da predvodimo u području vojne umjetne inteligencije', rekao je ministar obrane Peter Hegseth u govoru kojim je najavio strategiju ubrzavanja integracije umjetne inteligencije.
Ona nalaže da se AI učini dostupnim kroz nekoliko programa, s ciljem 'demokratizacije eksperimentiranja s AI-jem i transformacije unutar Ministarstva tako da se vodeći američki AI modeli stave izravno u ruke tri milijuna civilnih i vojnih zaposlenika, na svim razinama klasifikacije', navodi se u memorandumu kojim je strategija najavljena.
No kako se ističe u tekstu CNN-a, ne postoji jedinstven skup standarda za provjeru informacija koje generiraju ti alati. Mnoštvo različitih AI sustava koji se uvode u različitim dijelovima vojske i obavještajne zajednice znači da se njihova pouzdanost i funkcionalnost međusobno znatno razlikuju.
Osim toga, referirajući se na primjer broda s početka, autori ukazuju na to da ljudi donose donose katastrofalne odluke na temelju netočnih ili obmanjujućih informacija koje je generirao AI.
' AI u određivanju ciljeva definitivno se sve više koristi i zapravo ne postoje prave smjernice o tome kako će prisutnost čovjeka u procesu spriječiti civilne žrtve ili pogrešne napade na vlastite snag' rekao je drugi izvor upoznat s trenutačnim vojnim politikama.
Nekoliko izvora navodi da su mlađi analitičari, koji su odrasli uz takve alate, skloniji nekritički im vjerovati.
'AI vam omogućuje da brže dođete do loše ideje', rekao je jedan od izvora, a prenosi CNN.
