U tehnološkom divu Palantiru nisu zabrinuti oko toga može li vojna upotreba njegovih platformi s umjetnom inteligencijom dovesti do nepredviđenih rizika. Odgovornost za korištenje njihove tehnologije prebacuju na kupce. Stručnjaci su već neko vrijeme zabrinuti zbog korištenja Palantirove platforme Maven Smart System za ratna djelovanja, uključujući američki napad na Iran.

Platforma, koja pomaže vojnom osoblju u planiranju napada, ostavlja malo vremena za značajnu provjeru njezinih rezultata, što bi za posljedicu moglo imati pogađanje i nečega što nije bilo u planu.

Nije njihova uloga

Šef Palantira za Ujedinjeno Kraljevstvo i Europu Louis Mosley za BBC je rekao kako u procesu donošenja odluke uvijek postoji čovjek, pa je odgovornost za uporabu platformi poput Mavena na vojnoj organizaciji koja ih koristi. Pentagon integrira Maven u svoje sustave od 2017. godine. Taj je sustav osmišljen kako bi ubrzao donošenje vojnih odluka o ciljanju objedinjavanjem mnoštva podataka, uključujući niz obavještajnih podataka, satelitskih i snimaka dronova.

Sustav analizira te podatke i zatim može dati preporuke za ciljanje. Također može predložiti razinu sile koju treba koristiti na temelju dostupnosti osoblja i vojne opreme, poput zrakoplova.

U veljači je Pentagon najavio kako će postupno ukinuti Anthropicov sustav Claude - koji pomaže u pokretanju Mavena - nakon što je ta tvrtka odbila dopustiti korištenje svoje umjetne inteligencije u autonomnom oružju i nadzoru. Palantir kaže kako ima alternative za njega.

SAD navodno koristi Maven za planiranje udara diljem Irana. Upitan može li predložiti pogrešne ciljeve (poput, primjerice, civila), Mosley je inzistirao na tvrdnji kako je platforma zamišljena samo kao vodič za ubrzanje procesa donošenja odluka za vojno osoblje, ne kao automatizirani sustav ciljanja.

Upozoren na moguću situaciju u kojoj zapovjednici pod pritiskom podređenima narede prihvaćanje Mavenovih sugestija kako službeno odobrenih, Mosley je rekao kako to nije Palantirova uloga, već odgovornost vojnih struktura koje su platformu kupile i koriste.

Posljednjih tjedana dužnosnici Pentagona suočeni su s pitanjima o tome jesu li alati umjetne inteligencije poput Mavena korišteni za identifikaciju ciljeva u smrtonosnom napadu na školu u iranskom gradu Minabu. Iranski dužnosnici rekli su kako je u napadu ubijeno 168 ljudi, uključujući oko 110 djece, na prvi dan rata.

U američkom Kongresu brojni zastupnici Demokratske stranke pozvali su na pojačani nadzor nad platformama umjetne inteligencije poput Mavena. No, Mosley se usprotivio tvrdnjama kako Mavenova brzina potencijalno stvara opasne situacije. Uvjeren je kako je brzina kojom zapovjednici sada poduzimaju akcije posljedica povećane učinkovitosti koju je Maven omogućio.

Pentagon je nedavno proglasio Maven svojim službenim softverom, uspostavljajući ga kao tehnologiju koja će dugoročno biti integrirana u američku vojsku. Trebao bi zapovjednicima pružiti najnovije alate potrebne za otkrivanje, odvraćanje i dominaciju nad protivnicima u svim domenama.