Jedan od suosnivača Anthropica, Jack Clark, potvrdio je da je kompanija Trumpovoj administraciji predstavila svoj novi AI model Mythos, unatoč tome što se nalazi u pravnom sporu s državom. Clark, koji u Anthropicu obnaša funkciju voditelja javnog interesa, rekao je na konferenciji Semafor World Economy da vlada mora biti upoznata s razvojem naprednih AI sustava, osobito onih s potencijalnim sigurnosnim implikacijama.

Model Mythos, predstavljen prošlog tjedna, zasad neće biti dostupan javnosti. Razlog su, kako tvrde iz tvrtke, njegove sposobnosti u području kibernetičke sigurnosti koje bi mogle predstavljati rizik ako bi se zloupotrijebile, piše TechCrunch. Anthropic je najavio da će pristup Mythosu zasad ograničiti na mali broj tehnoloških i sigurnosnih kompanija.

Plan je da 12 partnerskih organizacija (Amazon, Apple, Broadcom, Cisco, CrowdStrike, Linux Foundation, Microsoft i Palo Alto Networks) koristi model za 'obrambeni sigurnosni rad' i zaštitu kritičnog softvera, kao dio projekta Glasswing. Odobrili su pristup za još 40 organizacija, ali nisu objavili o kome se konkretno radi. Također su naveli da su u razgovorima s dužnosnicima američke vlade.

Čini se da je dosad samo njemačka nacionalna agencija za kibernetičku sigurnost stupila u razgovore s Anthropicom o Mythosu, no ni ona još nije uspjela testirati model, a nekoliko vladinih institucija u Europi sugeriralo je da su dobile samo djelomičan pristup. Ujedinjeno Kraljevstvo potvrdilo je pak da je britanski AI Security Institute nedavno testirao Mythos i već 'poduzeo mjere na temelju nalaza'.

Banke testiraju kontroverzni model

U američkim medijima ranije je objavljeno da su dužnosnici administracije Donalda Trumpa poticali velike banke na testiranje Mythosa. Među njima se spominju JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America i Morgan Stanley.

Zabrinutost dijele i europske institucije. Britanski Institut za sigurnost umjetne inteligencije (AISI) upozorio je da Mythos predstavlja 'značajan iskorak' u odnosu na prethodne modele kada je riječ o potencijalnim kibernetičkim prijetnjama. Prema pisanju Financial Timesa, britanski financijski regulatori već raspravljaju o mogućim rizicima koje donosi ovaj sustav.

Izvršni direktor Anthropica Dario Amodei ranije je upozorio da bi razvoj umjetne inteligencije mogao rezultirati razinom nezaposlenosti kakva nije viđena od Velike depresije. Objasnio je da polazi od pretpostavke da će AI napredovati brže nego što većina očekuje, a trenutačni podaci pokazuju tek 'određene znakove slabosti u zapošljavanju mladih koji su nedavno diplomirali' u pojedinim sektorima. No istaknuo je da je kompanija spremna na moguće veće promjene na tržištu rada.

Spor između Anthropica i Pentagona

Podsjetimo, Anthropic se u ožujku našao u sukobu s američkim Ministarstvom obrane te je kompanija označena kao rizik za opskrbni lanac. Potom je podnijela tužbu protiv Pentagona zbog neslaganja oko uvjeta korištenja njezinih AI sustava. Spor se odnosio na zahtjeve vojske za neograničen pristup tehnologiji, uključujući primjene poput masovnog nadzora i autonomnog naoružanja. U konačnici, ugovor je pripao konkurentskoj tvrtki OpenAI.

Clark je pokušao ublažiti tenzije i naglasio da kompanija ne želi da taj sukob zasjeni širu sliku – važnost nacionalne sigurnosti. 'Naš je stav da vlada mora biti upoznata s ovim tehnologijama, a mi moramo pronaći nove načine suradnje između javnog i privatnog sektora, posebno kada je riječ o inovacijama koje mijenjaju ekonomiju i imaju sigurnosne implikacije', rekao je. Dodao je da je Mythos već predstavljen vlastima, ali i da će to biti praksa s budućim modelima.

Više otkrivenih grešaka, veći rizik

Iako većina bugova koje je Mythos otkrio nije kritična, njihov broj predstavlja ozbiljan problem, osobito za manje tvrtke i open-source projekte koji često nemaju resurse za brzu reakciju. 'Kod koji kompanija napiše samo je vrh torte – ispod su slojevi open-source softvera', upozorava Anthony Alvernaz, suosnivač AI platforme Numeric, piše Wall Street Journal.

Upravo ta infrastruktura čini velik dio interneta, ali je često održavaju mali timovi ili volonteri. Ako AI sustavi počnu masovno otkrivati propuste u tim slojevima, postoji realna opasnost da će obrambeni sustavi biti preopterećeni. Dodatni problem je to što napredni modeli ne samo da identificiraju sigurnosne rupe, nego mogu i generirati kod koji ih iskorištava.

Prema podacima Anthropica, Mythos je već pokazao sposobnost pisanja exploita (zlonamjerni kod, op.a.) za otkrivene ranjivosti. Primjerice, ranije ove godine sustav je pronašao više od 100 bugova u pregledniku Firefox, a u testnom okruženju uspio je razviti i kod za napad.

U stvarnim uvjetima takav bi napad vjerojatno bio zaustavljen dodatnim sigurnosnim slojevima, no očito je da razvoj sofisticiranih napada postaje sve lakši. 'Nekad je to moglo napraviti tek nekoliko stručnjaka. Danas, uz ove alate, potrebna razina znanja drastično je manja', kaže istraživač u području kibernetičke sigurnosti Niels Provos.

Strah od 'AI verzije Y2K'

Zbog toga dio stručnjaka povlači paralelu s krizom Y2K. Podsjetimo, kasnih 90-ih godina prošlog stoljeća rasla je zabrinutost oko toga što će se dogoditi kad računalni kalendari prijeđu na 2000. godinu.

Kako su koristili dvoznamenkasti format za prikaz godina da bi uštedjeli na računalnoj memoriji, postojala je mogućnost da bi 00 mogli protumačiti kao 1900. umjesto kao 2000. godinu, što bi potencijalno moglo dovesti do niza problema, a transportna industrija bojala se da bi prva mogla biti pogođena jer ovisi o točnom vremenu i datumu da bi pravilno funkcionirala.

Mnogi su strahovali i da bi zbog milenijskog buga zrakoplovi mogli pasti s neba. Pripremama usprkos, Y2K je doveo do niza problema: dvije nuklearne elektrane u Japanu nakratko su morale obustaviti rad, a američki špijunski satelit neko vrijeme bio je nedostupan, kao i egipatski nacionalni novinski servis. Novorođena djeca upisivana su kao stogodišnjaci, izdavane su nevažeće karte za prijevoz te računi i kamate za sto godina umjesto jednu, trudnicama su slani netočni rezultati testova...

Kartičarska kuća Visa od banaka članica zatražila je prestanak izdavanja kartica s datumom isteka 00 jer 10 posto njezinih uređaja za kreditne kartice nije moglo prihvatiti one koje su istekle nakon 1999. godine.

Raspad sustava imao je i ozbiljnije posljedice, a u Hrvatskoj je, primjerice, iz stroja bio izbačen nacionalni medicinski sustav CEZIH. Slični problemi zabilježeni su u zdravstvenim institucijama i vladinim agencijama diljem svijeta. Osim kartičara, problema u poslovanju imale su banke, kao i burze kapitala.

Iako se oko milenijskog buga podigla velika prašina, posljedice su na kraju bile višestruko manje nego što se očekivalo, a neki su zbog toga smatrali da je riječ bila o prijevari ili bezrazložnom dizanju panike.

U čemu je razlika kad je riječ o današnjim izazovima? Taj izazov nije jednokratan, već kontinuiran. Potrebno je identificirati i zakrpati tisuće, pa i milijune ranjivosti u različitim sustavima, a to će biti ogroman logistički izazov, upozoravaju stručnjaci.

Jedan od najvećih rizika leži u činjenici da bi AI mogao otvoriti napade na sustave koji dosad nisu bili zanimljivi hakerima. 'Postat će puno lakše napadati dijelove infrastrukture koje nitko prije nije dirao', upozorava sigurnosni stručnjak Thomas Ptacek.

Primjer OpenBSD buga to i ilustrira – riječ je o starom kodu koji godinama nitko nije detaljno analizirao jer se pretpostavljalo da je već provjeren. Sergej Epp, sigurnosni direktor u tvrtki Sysdig, nedavno je demonstrirao koliko se situacija promijenila. Iako godinama nije aktivno tražio sigurnosne propuste, uz pomoć AI alata brzo je pronašao niz ranjivosti.

Na konferenciji je predstavio i tzv. Zero-Day Clock, alat koji pokazuje koliko brzo AI pretvara otkrivene bugove u potencijalne napade. 'AI daje supermoći hakerima, a ne obrani', upozorio je.