Na vojnoj paradi u Pekingu prošlog rujna kineski predsjednik Xi Jinping s ruskim predsjednikom Vladimirom Putinom i sjevernokorejskim vođom Kim Jong-unom promatrao je demonstraciju nove generacije vojne tehnologije: autonomnih dronova sposobnih letjeti uz borbene zrakoplove i sudjelovati u borbi bez izravne ljudske kontrole. Poruka je bila jasna - i u Washingtonu je ozbiljno shvaćena
Prema trojici američkih obrambenih i obavještajnih dužnosnika, Pentagon zaključio je da Sjedinjene Države zaostaju za Kinom u razvoju bespilotnih borbenih sustava. U nekim segmentima, smatraju, i Rusija ima prednost, osobito u razvoju proizvodnih kapaciteta za napredne dronove.
Nije dugo trebalo čekati na reakciju. Američke vlasti izvršile su pritisak na domaću industriju, a startup Anduril Industries pokrenuo je proizvodnju autonomnih dronova pogonjenih umjetnom inteligencijom u tvornici u državi Ohio, i to tri mjeseca prije planiranog roka. Cilj je smanjiti zaostatak, no ovaj potez samo je dio šire slike. Svijet ulazi u novu utrku u naoružanju, onu u kojoj ključnu ulogu ne igraju nuklearne bojeve glave, već algoritmi.
O tim je temama tportal ranije razgovarao s profesorom i vojnim analitičarem Marinkom Ogorecom te sa stručnjakom za kibernetičku sigurnost Alenom Delićem.
vezane vijesti
Od dronova do AI sustava koji biraju mete
Nova generacija oružja dizajnirana je tako da djeluje samostalno te umjetna inteligencija preuzima zadatke koji su donedavno bili isključivo u domeni čovjeka – od prepoznavanja ciljeva do donošenja odluka o napadu. Radi se o sustavima koji identificiraju i gađaju mete bez ljudske naredbe, koordiniraju napade u zraku na brzinama nedostižnima pilotima te analiziraju ogromne količine obavještajnih podataka i predlažu ciljeve u realnom vremenu.
Utrka se više ne vodi samo između SAD-a i Kine. U igri su i Rusija, Ukrajina, Indija, Izrael i Iran, a i europske države ubrzano ulažu u obrambene sustave zbog nesigurnosti oko buduće uloge NATO-a, piše New York Times. Kako upozoravaju dužnosnici, države žele biti spremne za scenarij u kojem se sukobi vode 'dron protiv drona' i 'algoritam protiv algoritma'.
Nova verzija Hladnog rata
Situacija sve više podsjeća na početak nuklearne ere. 'Rusija, Kina i Sjedinjene Države razvijaju AI oružje kao sredstvo odvraćanja i koncept 'uzajamno zajamčenog uništenja'', rekao je Palmer Luckey, osnivač Andurila. No za razliku od nuklearnog oružja, čije su posljedice dobro poznate, stvarni domet umjetne inteligencije u ratovanju tek se počinje razumijevati. Znamo jedino to da će ratovi biti brži, kompleksniji i nepredvidljiviji.
Tko zapravo vodi u razvoju takvog oružja? Točan odgovor nitko ne zna. Programi su često u fazi razvoja, budžeti su tajni, a države pomno prate jedne druge proučavajući vojne parade, industrijske pogone i obavještajne podatke.
Prema američkim izvorima, Kina već razvija sustave u kojima deseci autonomnih dronova koordiniraju napade bez ljudske intervencije dok Rusija radi na letjelicama koje samostalno kruže i biraju mete, a još 2017. godine Vladimir Putin je upozorio: 'Tko postane lider u umjetnoj inteligenciji, vladat će svijetom.' Xi Jinping je pak 2024. godine novu tehnologiju nazvao 'glavnim bojištem geopolitičkog nadmetanja'.
Rat u Ukrajini kao laboratorij
Ako je postojala sumnja kako će sve to izgledati u praksi, rat u Ukrajini ju je uklonio. Jeftini, improvizirani dronovi postali su smrtonosnije oružje od topništva, a obje strane ubrzano integriraju autonomne funkcije. 'Četiri godine brutalnosti na bojištu u Ukrajini poslužile su kao laboratorij za cijeli svijet', rekao je Michael Horowitz, bivši dužnosnik Pentagona.
Današnje ratovanje već uključuje sustave koji rade gotovo autonomno. U jednom od prikaza modernog vođenja operacija AI sustav analizira satelitske snimke, identificira mete, predlaže oružje, izračunava logistiku i generira plan napada – u svega nekoliko sekundi.
Ljudska uloga svodi se pritom na nekoliko klikova. 'Lijevi klik, desni klik, lijevi klik', opisao je taj proces jedan od američkih dužnosnika.
Tehnološki sektor ulazi u rat
Za razliku od prošlih vojnih utrka, ključnu ulogu sada imaju privatne kompanije. Startupovi, investitori i tehnološke tvrtke postaju jednako važni kao države, ali umjetna inteligencija više nije ekskluzivna tehnologija – dostupna je i manjim zemljama, što širi utrku.
Etička pitanja – poput onih treba li strojevima prepustiti odluke o životu i smrti – sve više padaju u drugi plan, a i neki stručnjaci smatraju da AI nije samo još jedna utrka u naoružanju.
'Umjetna inteligencija je tehnologija opće namjene, poput električne energije. Ne govorimo o utrci za električnom energijom', rekao je Michael Horowitz. No razlika je ključna, a sastoji se u tome da AI sustavi donose odluke i to brže nego što ih ljudi mogu pratiti.
U simulacijama koje datiraju još iz 2020. godine istraživači su pokazali kako autonomni sustavi mogu ubrzati eskalaciju sukoba. U jednom scenariju sustav je samostalno odgovorio na raketni napad i pokrenuo neočekivani protunapad – bez ljudske odluke. 'Brzina autonomnih sustava dovela je do nenamjerne eskalacije', zaključeno je u analizi organizacije RAND Corporation.
General Jack Shanahan, koji je pomogao pokrenuti američki AI program u vojsci, danas otvoreno upozorava na opasnosti. 'Postoji rizik od spirale eskalacije u kojoj ćemo početi koristiti netestirane i nesigurne sustave jer mislimo da druga strana skriva nešto od nas', rekao je. 'Ako se granice ne postave na vrijeme, tehnologija bi mogla izmaknuti kontroli', upozorava Shanahan.
