Američka tvrtka Anthropic stvorila je toliko moćan sustav da ga se boji pustiti u javnost. Novi AI model pod nazivom Mythos u svega nekoliko tjedana razbio je sigurnosne iluzije digitalnog svijeta: pronašao je tisuće kritičnih propusta u vodećim operativnim sustavima i internetskim preglednicima, uključujući one koji su ostali neprimijećeni 27 godina. Ako se takav alat nađe u pogrešnim rukama, lako bi mogao postati opasno oružje za sve sofisticiranije kibernetičke napade, upozoravaju stručnjaci, pa i sam Anthropic.

Mythos je izazvao takvu paniku da ministri financija, čelnici središnjih banaka i financijski stručnjaci na kriznim sastancima raspravljaju o tome da bi taj AI model mogao ugroziti sigurnost globalnih financijskih sustava. Stoga će mu pristup zasad imati ograničen broj partnera iz tehnološkog i sigurnosnog sektora, uključujući velike kompanije poput Amazona i Microsofta, a testiraju ga i američke vlasti te veliki financijski konglomerati JPMorgan Chase i Goldman Sachs.

Jedan od suosnivača Anthropica, Jack Clark, potvrdio je da je kompanija predstavila Trumpovoj administraciji svoj novi AI model, unatoč tome što se se sudi s državom.

Potencijalna prekretnica?

Razvoj naprednih AI alata za kibernetičku sigurnost otvorio je tako novu fazu digitalne utrke u naoružanju, a Anthropicov Mythos se sve češće spominje kao potencijalna prekretnica. No koliko je ta tehnologija zaista revolucionarna, a koliko je riječ o hajpu, pitanje je koje dijeli i stručnjake.

Hrvatski stručnjak za kibernetičku sigurnost Leon Juranić upozorava da su procjene o Mythosu zasad kontradiktorne. 'Neki ga hvale kao potpunu revoluciju u otkrivanju sigurnosnih ranjivosti dok drugi kažu da ima dosta lažno pozitivnih nalaza', kaže. No dodaje da već i djelomična točnost tih tvrdnji zabrinjava: 'Ako je samo pola od onoga što se govori i piše o Mythosu točno, to je već zastrašujuće.'

U svojoj srži, on je alat koji bi trebao automatizirati otkrivanje sigurnosnih ranjivosti u softveru, ali bi potencijalno mogao otići i korak dalje – u njihovo iskorištavanje. Zasad još nije dostupan javnosti, već se koristi u kontroliranom okruženju. 'Trenutno je Mythos zatvoren za širu javnost i služi za obranu i otkrivanje sigurnosnih ranjivosti u plemenite svrhe zaštite sustava, no samo je pitanje vremena u kojem će i zlonamjerni napadači doći do slične ili iste tehnologije', upozorava Juranić.

To je jedan od ključnih razloga zbog kojih Anthropic ograničava pristup tom modelu. Prema dostupnim informacijama, Mythos može pronaći sigurnosne propuste stare i više od dva desetljeća, čak i u najsofisticiranijim sustavima, a Juranić upozorava da bi njegovo javno objavljivanje moglo imati ozbiljne posljedice: 'Prema Anthropicu, puštanje Mythosa u javnost ugrozilo bi sigurnost milijuna sustava i dovelo u pitanje i nacionalnu sigurnost.'

Stručnjake najviše brine činjenica da AI ne samo da pronalazi ranjivosti, nego i generira takozvani exploit, a to je kod kojim se te ranjivosti iskorištavaju. Time se drastično spušta prag znanja potreban za napad, što znači da bi tehnologija koja je donedavno bila rezervirana za državne aktere i vrhunske hakerske timove mogla postati dostupna znatno širem krugu korisnika.

Takvim razvojem događaja dolazimo do scenarija u kojem obrambeni sustavi ne mogu držati korak. Ako AI počne masovno otkrivati ranjivosti, mogli bi se iscrpiti kapaciteti za njihovo otklanjanje, tumači nam Juranić. 'Navala tisuće i tisuće sigurnosnih ranjivosti u kritičnoj infrastrukturi zatrpava one koji bi je trebali braniti, a napadačima na pladnju servira koji će exploit upotrijebiti', upozorava.

Posebno je stoga ranjiva tzv. nevidljiva infrastruktura – slojevi softvera koji čine temelj digitalnog svijeta, ali često nisu u fokusu sigurnosnih ulaganja. Upravo ondje bi, ako bi došlo do masovne automatizacije otkrivanja ranjivosti, mogli nastati najveći problemi.

Izazov predstavlja geopolitička dimenzija razvoja ovakvih alata. Dok američke institucije i kompanije već eksperimentiraju naprednim AI sustavima, Europa se još uvijek fokusira na regulatorni okvir. Juranić u tome vidi ozbiljan rizik te ističe: 'Dok se europski birokrati natežu oko regulacije AI sustava, firme kao što je Anthropic razvijaju nezaustavljive AI 'robote hakere' koji nikada ne spavaju i traže sigurnosne ranjivosti.'

Pritom upozorava i na ograničene kapacitete industrije da odgovori na takav tempo. Upitan imaju li kompanije dovoljno resursa za obranu u slučaju masovnog otkrivanja ranjivosti, kaže: 'Da budem kratak – niti najmanje. Ako je sve o Mythosu točno, to je lavina koja bi potencijalno mogla zatrpati IT svijet.'

U konačnici, razvoj ovakvih alata mogao bi promijeniti samu prirodu kibernetičke sigurnosti. Umjesto ljudi, u središtu će biti AI sustavi – i na strani napadača i na strani obrane. 'Mythos bi mogao okrenuti cijelu tu priču naglavačke, pa će ljudi možda asistirati AI sustavima u otkrivanju ranjivosti i pisanju exploit programa', smatra Juranić.

Ako se takve prognoze pokažu točnima, pitanje više neće biti tko ima bolje stručnjake, nego tko ima napredniji algoritam. A u toj utrci, zaključuje Juranić, čovjek bi mogao početi gubiti kontrolu nad tempom otkrivanja sigurnosnih prijetnji i pisanju exploitova za njih.

Dobar PR ili stvarni tehnološki iskorak?

Domaći stručnjak za kibernetičku sigurnost Alen Delić kaže da je to u svojoj osnovi vrlo konkretan alat: 'Mythos je AI model specijaliziran za pronalazak ranjivosti u softveru. Laički rečeno, ranjivosti su greške koje, ako ih netko otkrije i iskoristi, mogu otvoriti vrata u sustav. Tko zna za njih, ima prednost, bio to napadač ili onaj tko brani sustav.'

Anthropic tvrdi da je njihov model u tome iznimno učinkovit, no Delić misli da stručna zajednica još nije jednoglasna u stavu o tome. 'Sigurnosna zajednica uglavnom to smatra očekivanim korakom. Ima i skeptika koji smatraju da se više radi o dobrom PR-u nego o stvarnom tehnološkom iskoraku. Istina će se pokazati u praksi', kaže.

'Anthropic tvrdi da je Mythos previše opasan za javnu objavu, što je, ako je model doista toliko dobar, logičan zaključak. No ograničen pristup nije garancija sigurnosti; što je veći krug korisnika, to je veći rizik da model završi u pogrešnim rukama', tumači Delić u razgovoru za tportal.

S jedne strane, takav alat može značajno pomoći obrani jer ubrzava pronalazak i ispravljanje ranjivosti. No s druge pak strane, isti ti kapaciteti izuzetno su privlačni napadačima. 'Zlonamjerni akteri aktivno žele doći do upravo ovakvih sposobnosti i pitanje nije hoće li pokušati, nego hoće li uspjeti u tome, odnosno kada', upozorava.

'Situacija nije tako katastrofična'

Može li obrana uopće pratiti takav tempo? Scenarij u kojem AI masovno otkriva ranjivosti nije nerealan, ali Delić upozorava da situacija ipak nije nužno katastrofična. 'Nisu svi sustavi jednako zanimljivi napadačima u isto vrijeme. To daje prostora za prioritizaciju i prilagodbu', kaže Delić pa dodaje da će se obrana, kao i dosad, prilagođavati novim prijetnjama, iako sporije nego što bi željela.

Ne treba zanemariti ni geopolitički kontekst. Europa nema kontrolu nad razvojem ovakvih tehnologija, upozorava. 'Proizvođači ovakvih alata su izvan Europe i oni kontroliraju tko dobiva pristup, pod kojim uvjetima i kada. Rezultat je očit. Tehnološka ovisnost u kibernetičkoj sigurnosti nije apstraktni rizik, to je već stvarnost. Europa naprosto čeka u redu', kaže naš sugovornik.

U konačnici, Mythos je samo dio šire promjene u kojoj umjetna inteligencija postaje ključni alat i napadača i obrane. 'Utrka AI sustava u kibernetičkoj sigurnosti već je počela. To je i dalje igra mačke i miša u kojoj se i mačka i miš hrane i razvijaju. Tempo je brži, alati su moćniji, no osnovna dinamika ostaje ista kao i uvijek', zaključuje Delić.