Rasprava o novoj generaciji AI alata intenzivirala se nakon što je američka tvrtka Anthropic u travnju predstavila model Mythos, a on je opisan kao 'prekretnica' za područje kibernetičke sigurnosti.

Tvrtka je tvrdila da je riječ o sustavu koji je uspio otkriti ranjivosti u svim glavnim operativnim sustavima i internetskim preglednicima, pri čemu su neke od njih desetljećima prolazile nezapaženo. U pojedinim slučajevima model je navodno mogao i osmisliti načine iskorištavanja tih sigurnosnih propusta.

Nakon predstavljanja najnovije verzije Mythosa ovog mjeseca američka vlada izdala je direktivu vezanu uz nacionalnu sigurnost zbog koje je Anthropic privremeno ograničio pristup tom sustavu svim korisnicima. On je naknadno djelomično vraćen, ali samo odabranim i provjerenim američkim organizacijama.

Razlog za takvu odluku leži u sve većoj zabrinutosti da će upravo umjetna inteligencija postati jedno od glavnih oružja budućih kibernetičkih sukoba.

Novo doba kibernetičkog ratovanja

Najnovija generacija AI modela sposobna je pronalaziti i iskorištavati softverske ranjivosti brzinom i opsegom kakvi dosad nisu bili mogući.

U slučaju kibernetičkog sukoba neprijateljska država mogla bi takve sustave usmjeriti na kritičnu infrastrukturu protivnika, od elektroenergetskih mreža i financijskih sustava do satelitskih komunikacija, vojnih sustava, pa čak i nuklearnih postrojenja.

Druga strana mogla bi koristiti vlastite AI sustave za otkrivanje napada i automatsko zatvaranje sigurnosnih propusta, a takav sukob odvijao bi se brzinom strojeva, toliko brzo da bi ljudski promatrači teško mogli pratiti razvoj događaja.

Stručnjaci upozoravaju da bi u takvom scenariju ljudski nadzor mogao postati i svojevrsna prepreka: kibernetički sukob mogao bi započeti, eskalirati i završiti prije nego što politički i vojni čelnici uopće shvate što se događa.

No potpuno prepuštanje obrane umjetnoj inteligenciji nosi i ozbiljne rizike. Ako bi AI pogrešno protumačio običan tehnički kvar kao državno sponzoriran napad, posljedice bi mogle biti katastrofalne.

Kako bi izgledao kibernetički rat?

Države već danas provode kibernetičke operacije velikih razmjera. Kina i Rusija raspolažu naprednim sposobnostima za to, a sigurnosni stručnjaci navode da često koriste hakerske skupine da bi mogle zanijekati svoju izravnu umiješanost.

Značajne kibernetičke programe imaju i Iran te Sjeverna Koreja, a među najaktivnijim i tehnološki najnaprednijim akterima nalaze se i zapadne države poput SAD-a i Ujedinjenog Kraljevstva.

Sveobuhvatni kibernetički rat mogao bi izazvati nestanke električne energije, prekide komunikacijskih i bankarskih sustava te kolaps logističkih mreža kod svih sukobljenih strana. Posljedice bi tako uključivale ozbiljne gospodarske poremećaje, ali i probleme u radu bolnica, zračnih luka i drugih ključnih javnih službi.

Zbog toga pojedini stručnjaci govore o konceptu 'uzajamno zajamčenog kolapsa', svojevrsnoj digitalnoj verziji nuklearnog odvraćanja temeljenoj na ideji da bi razoran kibernetički napad nanio štetu i napadaču i napadnutome.

James Griffiths, bivši zaposlenik britanske obavještajne agencije GCHQ i osnivač konzultantske tvrtke UtopianKnight, smatra da dio izjava o novim AI alatima treba promatrati i kao geopolitičku poruku. 'To može biti demonstracija moći. Poruka je jednostavna: nemojte koristiti takve alate protiv nas jer ćemo ih mi koristiti protiv vas', rekao je Griffiths za Independent.

Dodaje da zasad nije moguće potvrditi jesu li tvrdnje o sposobnostima novih sustava u potpunosti točne, ali priznaje da bi mnoge vlade mogle biti zabrinute.

Katastrofalan napad mogao bi se dogoditi za nekoliko mjeseci

Pojava naprednih AI sustava potaknula je i upozorenja obavještajnih službi.

Obavještajni savez Five Eyes, koji čine Australija, Kanada, Novi Zeland, Ujedinjeno Kraljevstvo i SAD, ovog mjeseca upozorio je da bi upravo napredni AI modeli mogli predstavljati najveću prijetnju računalnim sustavima koji koriste zastarjeli softver.

'U pitanju nisu godine nego mjeseci', navodi se u zajedničkom priopćenju. Savez upozorava da umjetna inteligencija može temeljito promijeniti i napadačke i obrambene kibernetičke sposobnosti te poziva vlade i organizacije da hitno ojačaju zaštitu kritične infrastrukture.

Jedan od najvećih strahova stručnjaka jest da bi novi AI alati mogli omogućiti napredne kibernetičke napade akterima koji dosad nisu raspolagali potrebnim znanjem i resursima za to, što bi moglo dramatično povećati njihov broj i intenzitet te potpuno promijeniti postojeću ravnotežu snaga u digitalnom prostoru.

'Nalazimo se u trenutku koji podsjeća na rasprave o razvoju atomske bombe, s posljedicama koje bi mogle biti vrlo teško obuzdati', upozorila je Yogita Parulekar, izvršna direktorica tvrtke za kibernetičku sigurnost Invi Grid. Prema njezinim riječima, tvrtke i vlade moraju hitno provjeriti izloženost svoje infrastrukture, sigurnost aplikacija i razinu autonomije AI sustava. 'Prozor za djelovanje postoji, ali je vrlo kratak', zaključila je.