Umjetna inteligencija mijenja način vođenja ratova, ali ne onako kako to sugeriraju scenariji iz znanstveno-fantastičnih filmova. Umjesto autonomnih robota koji samostalno odlučuju o životu i smrti, ključne promjene događaju se u pozadini – u brzini obrade podataka, analizi bojišta u realnom vremenu i podršci zapovjednicima pri donošenju odluka. No upravo se u toj 'tihoj revoluciji' kriju najveće dileme i opasnosti. O toj smo temi podrobnije razgovarali s Marinkom Ogorcem, vojnim analitičarom i profesorom na Veleučilištu Velika Gorica
Ogorec promjene koje umjetna inteligencija donosi smješta u širi povijesni kontekst – kao potencijalno treću veliku vojno-tehnološku revoluciju, nakon vatrenog i nuklearnog oružja.
'Tijekom stvarno duge povijesti ratovanja - praktično od nastanka primordijalne ljudske civilizacije do današnjih dana - tehnologija, strategija i socijalna struktura oružanih snaga doživjela je svega tri revolucionarne promjene: pojavu i operativnu uporabu vatrenog oružja, druga revolucionarna promjena bila je pronalazak i operativna uporaba nuklearnog oružja. Treća vojno-tehnološka revolucija je tek pred nama, iako već živimo u određenim segmentima novog poimanja vojne sile – primjene umjetne inteligencije u ratne svrhe', tumači Ogorec u razgovoru za tportal.
Tri osnovna područja vojne uporabe umjetne inteligencije
Umjetna inteligencija još nije, kaže, do kraja preoblikovala ratovanje, ali je taj proces već počeo.
'Po dosadašnjim saznanjima, vojna uporaba umjetne inteligencije može se usmjeravati na tri osnovna područja: sve veću autonomiju robotiziranih sustava na bojištu, sve do sposobnosti samostalnog odlučivanja po svim pitanjima izvođenja borbenih radnji; prikupljanje, obrada i interpretacije iznimno velike količine informacija u što je moguće kraćoj jedinici vremena, čime bi se omogućilo sustavu zapovijedanja donošenje optimalne odluke u realnom vremenu i analiza borbene situacije, te pomoć zapovjedništvima u procesu zapovijedanja i nadzora.'
Razvoj koji ne treba podcjenjivati
U javnosti se vojni AI najčešće veže uz slike autonomnih robota i scenarije iz znanstvene fantastike - poput SF filmova kao što su 'Terminator', 'Ratovi zvijezda' i 'Zvjezdanih staza' u kojima se vojna primjena umjetne inteligencije najčešće prikazuje u 'obliku bezosjećajnih, visoko sofisticiranih androidnih robota posvećenih samo isprogramiranoj zadaći'.
No Ogorec upozorava da je stvarnost zasad ipak prizemnija. Takvi sustavi još nisu na razini koju prikazuju filmovi, ali razvoj ide brzo i ne treba ga podcjenjivati. Ogorec, naime, kaže da takvi scenariji više nisu tek pitanje mašte, iako još nisu operativna realnost.
'Za sada je dostignuto da takvi robotizirani sustavi prepoznaju situaciju u okruženju i reagiraju sukladno prethodno programiranom odgovoru', tumači.
Konkretnija i važnija primjena, barem zasad, događa se u području prikupljanja i brze obrade podataka. Upravo tu umjetna inteligencija već sada, kaže Ogorec, može dati veliku prednost jer omogućuje brže razumijevanje bojišta i kvalitetniju potporu zapovjednom lancu.
Novo oružje, nova pravila igre
Pitanje ulazimo li u novu globalnu utrku u naoružanju, ovaj put u domeni umjetne inteligencije, Ogorec promatra u širem povijesnom kontekstu – kao još jednu veliku prekretnicu u razvoju ratovanja, ali s bitno drukčijim implikacijama.
'Ne prvi put u povijesti, ratovanje je na novoj prekretnici potaknutoj novim sustavima naoružanja i sve ozbiljnijom prijetnjom vojne primjene umjetne inteligencije', kaže, podsjećajući da su tehnološki skokovi i ranije radikalno mijenjali način vođenja ratova.
Razvoj novih tehnologija, dodaje, oduvijek je oblikovao ne samo vojnu strategiju i taktiku, nego i širi društveni kontekst.
Aktualna promjena razlikuje se od svih prethodnih jer zadire u nešto što je dosad bilo isključivo ljudsko. 'Nova prekretnica suštinski je potpuno drugačija jer počiva na premisi koja je tijekom povijesti bila jedino u domeni čovjeka – razmišljanju i odlučivanju', tumači Ogorec.
Upravo zato, naglašava, pitanje razvoja vojne umjetne inteligencije nije samo tehnološko, nego i političko i društveno pitanje prvog reda. Odgovori na njega neće određivati samo odnose snaga među velikim silama, nego i poziciju Europe – pa i Hrvatske.
'U tom kontekstu bi trebali razmišljati i svi relevantni politički, gospodarski i vojni čimbenici zapadnih zemalja, a i Hrvatska je sastavni dio zapadnog sustava, zar ne?'
O uključivanju AI-ja u samo odlučivanje i etičkim dvojbama
Najosjetljivije je, međutim, treće područje – uključivanje umjetne inteligencije u samo odlučivanje, od taktičke do strateške razine. Tu, kaže Ogorec, počinju i najveće etičke i društvene dvojbe. Za sada umjetna inteligencija ostaje alat za obradu podataka i izradu mogućih rješenja, dok konačnu odluku donosi čovjek. Ogorec kao primjer navodi izraelski sustav Northern Arrow kao pomoć zapovjednicima u planiranju raznih vrsta misija.
'Radi se o sustavu za obradu iznimno velikog broja informacija, od pozicija, oružanih sustava protivničke strane, njihova naoružanja, dometa, logističkih parametara, pa isto tako vlastitih sposobnosti, sve do vremenskih uvjeta, prohodnosti i kontaminiranosti terena i izradu alternativnih rješenja koje se prezentiraju zapovjedniku za donošenje konačne odluke', tumači Ogorec.
Prava prijelomna točka, s kojom dolaze dileme i ozbiljni problemi, nastupit će, kaže, onog trenutka kad se stroju prepusti i 'povjeri' 'sposobnost samostalnog odlučivanja o uporabi pojedinih postrojbi oružanih snaga ili potpuno autonomnih robotiziranih sustava naoružanja'.
Na tom tragu tumači i napetosti koje se javljaju između tehnoloških kompanija i vojnih struktura oko razvoja i primjene AI-ja u obrambenom sektoru. U slučaju odnosa između Anthropica i Pentagona, kaže, u pozadini nisu samo načelne dvojbe oko etike, nego i vrlo konkretni interesi. 'Mislim da se taj 'sukob' može tumačiti uglavnom u kontekstu prethodno obrazložene dileme, pri čemu su gospodarski i financijski čimbenici primarnog karaktera', kaže Ogorec.
'AI neće rat učiniti 'jeftinijim' i time smanjiti ljudske gubitke'
Granica između 'pametnih' sustava i oružja koje djeluje bez izravne ljudske kontrole već danas postoji, ali nije čvrsta ni univerzalna – uvelike ovisi o tome kako je pojedini sustav programiran i koje su mu ovlasti dodijeljene. 'Te granice postoje i za sada su uglavnom u okvirima programiranja pojedinog sustava za ostvarivanje ratnih ciljeva', kaže Ogorec.
No uvriježena ideja da bi umjetna inteligencija mogla učiniti rat 'jeftinijim' i time smanjiti ljudske gubitke, prema njegovim riječima, ne stoji. Naprotiv, logika razvoja takvih sustava ide u suprotnom smjeru.
'Umjetna inteligencija u borbenoj namjeni je koncipirana upravo da nanese što je moguće veće ljudske i materijalne gubitke protivniku koji nije dostigao potrebni tehnološki razvoj za slični odgovor. Najbolje pokazatelje takve situacije - doduše još uvijek u rudimentarnim okvirima - možemo vidjeti u aktualnom ratu u Ukrajini.'
'U kojoj je mjeri etički dopušteno da stroj samostalno ubija ljude?'
Upitan tko snosi odgovornost ako AI sustav pogriješi, Ogorec pojašnjava da je upravo pitanje odgovornosti jedno od najtežih u raspravi o vojnoj primjeni umjetne inteligencije. A ono zasad ostaje bez jednostavnog odgovora. Naime, kako Ogorec tumači, ne radi se samo o tehničkom, već prije svega o duboko etičkom i pravnom problemu.
'Upravo to pitanje je izazov inženjerima, znanstvenicima i tehničarima koji će osmisliti i realizirati tu tehnologiju - bolje rečeno, koji je već realiziraju - ali se moraju postaviti i druga izazovna pitanja: u kojoj mjeri je etički dopušteno da stroj samostalno ubija ljude? Tko je zakonski odgovoran ako isprogramirani robot ne prepoznaje selektivne ciljeve i likvidira sve na svom putu? Tko smije i na koji način programirati ratne robote?'
Na kraju se, kaže, postavlja pitanje svih pitanja: 'Smijemo li uopće dopustiti da umjetna inteligencija zamijeni ljudsku?' U pozadini svega, upozorava, krije se i pokušaj da se odgovornost za najteže odluke prebaci s čovjeka na tehnologiju.
'U osjetljivoj problematici razvoja vojnih sustava budućnosti, možda je upravo najveći problem što čovjek pokušava rasteretiti svoju savjest prebacujući odgovornost (ujedno i krivnju) na umjetnu inteligenciju.'
'Strojevi neće ratovati umjesto ljudi – uvijek će ratovati protiv ljudi'
Ključno pitanje uvođenja umjetne inteligencije u vojne sustave, upozorava Ogorec, nije samo tehnološko, nego prije svega pitanje odnosa čovjeka i stroja u donošenju odluka i odgovornosti koja iz tih odluka proizlazi.
'Temeljno pitanje koje se mora postaviti pri implementaciji umjetne inteligencije u proces odlučivanja je u kojoj mjeri odlučuje čovjek, a u kojoj stroj, ne samo zbog racionalnosti donošenja odluke već prvo i osnovno, zbog odgovornosti za posljedice takve odluke.
Ljudsko biće, upravo zahvaljujući emotivnoj inteligenciji, sposobno je shvatiti svu težinu posljedica svoje odluke, pogotovo kada se radi o sustavu odlučivanja u ratnim situacijama kada takve odluke znače život ili smrt velikog broja ljudi.'
Za razliku od toga, umjetna inteligencija funkcionira isključivo unutar okvira zadane logike i ciljeva. 'Umjetna inteligencija koja raspolaže isključivo matematičkom inteligencijom, ima isto takav matematički pristup prema odgovornosti, drugim riječima - svrstava je u kategoriju učinkovitosti prema zadaći koju treba realizirati i ništa više', napominje Ogorec.
Upravo ta razlika, zaključuje, otvara niz ozbiljnih dilema o tome koliko daleko tehnologiju uopće treba uključiti u vojne programe. 'Upravo te spoznaje otvaraju cijeli niz pitanja i dilema uključivanja umjetne inteligencije u vojne programe, bez obzira o kojem modelu i razini se radilo', kaže naš sugovornik.
Bez obzira na tehnološki napredak, Ogorec napominje da odgovornost ostaje isključivo ljudska:
'Potrebno je naglasiti kako strojevi - bez obzira na to koliko inteligentni i samostalni bili - neće ratovati umjesto ljudi – uvijek će ratovati protiv ljudi, jer čovjek je taj koji vodi rat i zbog čijih interesa se vodi rat. Strojevi, pa ma koliko inteligentni bili, ne vode politiku (barem još uvijek ne).
Politika je imanentna samo ljudskoj vrsti, a samim time i odgovornost za sve političke odluke, uključujući i rat kao izraz najsloženijeg organiziranog nasilja. Tu odgovornost nije moguće prebaciti na nikakvu umjetnu inteligenciju.'
Destabilizacija bez ispaljenog metka
U području kibernetičkog ratovanja umjetna inteligencija već danas donosi konkretne i mjerljive promjene – napadi su brži, precizniji i obuhvatniji, a potencijal štete znatno veći nego ranije. 'Može u značajnoj mjeri paralizirati nepripremljenu i kibernetički nedovoljno otpornu državu', upozorava Ogorec.
Drugim riječima, scenarij u kojem se država može ozbiljno destabilizirati bez ispaljenog metka više nije teorija, nego realna sigurnosna prijetnja, osobito za sustave koji nisu dovoljno zaštićeni. Najveće ranjivosti pritom su upravo oni segmenti na kojima počiva funkcioniranje društva: infrastruktura, komunikacijske mreže i financijski sustavi.
Kao ilustraciju takvog razvoja Ogorec navodi već poznat primjer iz novije povijesti: 'Najbolji primjer je tzv. 'Kolovoški rat', odnosno rusko-gruzijski rat u kolovozu 2008. godine u kojem je Rusija upravo zahvaljujući apsolutnoj premoći u kibernetičkom sustavu uspjela poraziti gruzijske vitalne sustave u nekoliko dana.'
Iako su se od tada sigurnosni sustavi značajno razvili, pitanje stvarne spremnosti Europe i dalje ostaje otvoreno. 'Upitno je koliko su današnje europske države spremne za takav tip sukoba, ali svakako ne bi bile zatečene takvim napadom u obliku i intenzitetu koji se dogodio Gruziji', tumači naš sugovornik.
'Oružane snage treba razvijati uravnoteženo'
Na pitanje treba li se u novim okolnostima više fokusirati na specifične niše poput dronova, kibernetičkih sposobnosti i obrambenog softvera, a manje na klasično naoružanje, Ogorec odgovara: 'Ne. Bez obzira na ozbiljne tehnološke promjene u sustavima za vođenje ratova, kinetički sustavi i dalje će ostati značajni čimbenik oružanih snaga, ponekada i odlučujući.'
Drugim riječima, iako umjetna inteligencija i digitalne tehnologije ubrzano mijenjaju način ratovanja, one ne zamjenjuju tradicionalne vojne kapacitete.
'Oružane snage je potrebno razvijati uravnoteženo, sukladno ciljevima i strategiji koji se pred njih postavljaju i s operativnim mogućnostima koje im pojedina zemlja može pružiti. To podrazumijeva optimalnu razinu konvencionalnog naoružanja i kibernetičkih sustava, kako bi se stvorile učinkovite oružane snage kojima je primarna zadaća odvraćanje potencijalne agresije', kaže Ogorec.
Upitan što je danas veća prijetnja - nuklearno oružje ili nekontrolirani razvoj umjetne inteligencije, Ogorec zaključuje: 'Sve više je pokazatelja kako se to dvoje može objediniti u krajnje nepoželjni sustav u kojem bi umjetna inteligencija mogla donositi odluku o uporabi nuklearnog oružja. Nadajmo se da će se odgovorni politički, gospodarski i vojni vođe osvijestiti prije nego do te situacije uopće i dođe.'
