Humanoidni robot Phantom MK-1 izgleda kao vojnik iz znanstvenofantastičnog filma. Njegovo crno metalno tijelo, zatamnjeni vizir i sposobnost rukovanja oružjem – od pištolja i revolvera do sačmarice i replike puške M-16 – ostavljaju dojam stroja koji je stvoren upravo za rat.

Tvrtka Foundation iz San Francisca, koja ga razvija, otvoreno kaže da joj je to i cilj, piše Time.

'Smatramo da postoji moralna obaveza da takve robote šaljemo u rat umjesto vojnika', kaže Mike LeBlanc, suosnivač tvrtke i veteran američkog Marinskog korpusa s više misija u Iraku i Afganistanu. Ideja je da robot jednog dana može koristiti 'svako oružje koje koristi i čovjek'.

Phantom se trenutačno testira u industrijskim postrojenjima i lukama od Atlante do Singapura, no najveća ambicija tvrtke je vojna primjena. Foundation već ima istraživačke ugovore s američkom vojskom, mornaricom i zrakoplovstvom, vrijedne oko 24 milijuna dolara, a robot bi uskoro mogao sudjelovati i u obuci američkih marinaca za probijanje vrata eksplozivom tijekom specijalnih operacija.

U veljači su dva primjerka poslana i u Ukrajinu te će se u početku koristiti za izviđačke misije na bojištu. Pentagon, prema riječima glasnogovornika, razmatra razvoj humanoidnih vojnih robota koji bi djelovali uz vojnike u 'složenim i visokorizičnim okruženjima'. Tvrtka također pregovara s američkim Ministarstvom domovinske sigurnosti o mogućoj upotrebi robota za nadzor južne granice SAD-a.

Rat koji sve više vode strojevi

Brz razvoj umjetne inteligencije posljednjih godina pretvorio je ideje iz distopijskih filmova u stvarnost, a LeBlanc smatra da su humanoidni vojnici logičan nastavak autonomnih sustava poput dronova.

Roboti se, tvrdi, ne umaraju, ne osjećaju strah i mogu raditi u ekstremnim uvjetima – u zoni radijacije, kemijskog ili biološkog oružja. Osim toga, uklanjanje ljudi s prve linije smanjilo bi političke posljedice gubitaka, ratne traume i zločine koji proizlaze iz stresa.

Njegova je vizija čak i radikalnija: ogromne vojske humanoidnih robota mogle bi jednog dana djelovati poput nuklearnog odvraćanja jer bi tehnološka ravnoteža između suparnika smanjila poticaj za eskalaciju sukoba. No kritičari upozoravaju da bi takva tehnologija mogla imati upravo suprotan učinak.

Automatizacija ratovanja, tvrde, snižava političku i moralnu barijeru za pokretanje sukoba, zamagljuje odgovornost za ratne zločine i još više dehumanizira rat.

Pentagon trenutačno zahtijeva da autonomni sustavi mogu djelovati samo uz ljudsko odobrenje, a Foundation tvrdi da će i Phantom raditi u takvom režimu. No na bojištima u Ukrajini već se koriste dronovi koji samostalno pronalaze i napadaju ciljeve kada rusko elektroničko ometanje onemogući daljinsko upravljanje.

'To je sklizak teren', upozorava Jennifer Kavanagh iz američkog think tanka Defense Priorities. 'Privlačnost automatizacije je ogromna, a nedostatak transparentnosti između suparnika stvara dodatne rizike.'

Utrka velikih sila i Trumpov sin

Sjedinjene Države nisu jedine koje razvijaju ovakve sustave. Rusija i Kina također ulažu u slične tehnologije, što stvara novu utrku u razvoju autonomnog oružja. 'Ta utrka već traje', kaže Sankaet Pathak, suosnivač i direktor Foundationa.

Ratovanje je ionako već snažno automatizirano – od pametnih mina i laserski navođenih projektila do proturaketnih sustava. Pitanje je samo gdje je granica autonomije.

Ujedinjeni narodi upozoravaju da bi potpuno autonomno smrtonosno oružje bilo 'politički neprihvatljivo i moralno odbojno'. Unatoč tome, brojne obrambene tvrtke ubrzano razvijaju takve sustave. TIME otkriva i da je Eric Trump, sin američkog predsjednika, investitor i novi strateški savjetnik u tvrtki Foundation.

Ukrajina kao laboratorij

Rat u Ukrajini postao je najveće svjetsko testno polje za automatizirano ratovanje. Ukrajina danas koristi i do 9000 dronova dnevno, a brojni proizvođači na terenu testiraju nove tehnologije. Autonomni dronovi već mogu letjeti stotinama kilometara, identificirati ciljeve računalnim vidom i čak uletjeti kroz prozore da bi napali pojedince.

U siječnju su tri ruska vojnika izašla iz zgrade i predala se malom ukrajinskom kopnenom robotu nalik bespilotnom tenku, a za LeBlanca je upravo to dokaz da oni imaju budućnost na bojištu. U rovovima su vojnici izloženi stalnim napadima dronova čim izađu iz zaklona pa bi humanoidni roboti mogli preuzeti zadatke opskrbe i izviđanja, posebno u zatvorenim prostorima poput bunkera, gdje dronovi teško djeluju.

Budući da imaju ljudski oblik i 'toplinski potpis' sličan čovjekovom, mogli bi zbunjivati neprijateljske senzore. Uz to, mogu koristiti postojeće vojne zalihe oružja. 'Koliko imamo mitraljeza, bacača granata?' kaže LeBlanc, dodajući: 'Treba nam nešto što može koristiti sve to. Humanoidni robot zapravo otključava cijeli američki vojni arsenal.'

Neka ozbiljna pitanja

No takvi roboti imaju brojne slabosti: teški su, skupi, trebaju stalno punjenje i lako se mogu pokvariti. Kretanje humanoidnog robota pokreće dvadesetak motora, a kvar na samo jednom može ga učiniti neupotrebljivim. Postavlja se i pitanje kako će funkcionirati u blatu, kiši ili prašini, uvjetima koji su svakodnevica na bojištu.

Postoji i sigurnosni rizik. Zarobljeni dronovi već sada često služe kao izvor obavještajnih podataka jer sadrže osjetljive informacije. Ako bi neprijatelj uspio hakirati humanoidnog robota, mogao bi preuzeti kontrolu nad cijelom flotom. Još ozbiljnije pitanje je njihova sposobnost da pravilno procijene situaciju. Ako dijete potrči prema vojniku držeći škare, čovjek instinktivno prepoznaje da prijetnja nije ozbiljna. Hoće li to razumjeti i umjetna inteligencija?

'Ovdje je riječ o ljudskom dostojanstvu', kaže Peter Asaro, predsjednik Međunarodnog odbora za kontrolu robotskog oružja, ističući: 'Ovi strojevi nikada neće razumjeti moralne posljedice svojih postupaka.' Razvoj autonomnog oružja otvara i pravna pitanja. Ako robot počini ratni zločin ili ubije civila, tko je odgovoran – zapovjednik, proizvođač ili programer? Međunarodno pravo zasad nema jasan odgovor.

Ujedinjeni narodi i Međunarodni odbor Crvenog križa pozvali su na sklapanje globalnog sporazuma koji bi zabranio potpuno autonomno oružje bez 'značajne ljudske kontrole'. Više od 120 država podržava takvu inicijativu, no velike vojne sile poput SAD-a, Rusije i Izraela zasad oklijevaju.

Ratovi budućnosti

Unatoč svim rizicima, razvoj ide iznimno brzo. Prvi moderni borbeni dron korišten je u Afganistanu 2001. godine, a danas su bespilotni sustavi ključni element ratovanja. LeBlanc vjeruje da će humanoidni roboti biti dio sljedećeg velikog sukoba. 'Ne možemo čekati desetljećima da se ova tehnologija razvije', kaže. 'Naši protivnici sigurno neće.'

Cilj tvrtke Foundation je u konačnici proizvoditi desetke tisuća robota godišnje. Ako proizvodnja jednog dana dosegne pola milijuna jedinica, procjenjuju da bi cijena mogla pasti ispod 20.000 dolara po komadu, no vizija nekih tehnoloških poduzetnika ide još dalje, prema ratovima koje bi vodile flote autonomnih sustava bez ljudi na bojištu.

Hoće li to značiti novu eru stabilnosti ili početak AI apokalipse, ostaje otvoreno pitanje. Kako kaže LeBlanc: 'Ovo što danas gledamo tek je nespretni početak. Prava predstava tek počinje.'