Kao što smo već pisali, OpenAI je priznao da je kombinacija njegovih modela umjetne inteligencije samostalno probila zaštitu i upala u sustave Hugging Facea, neovisne platforme za hosting AI-a, tijekom internog testa kibernetičke sigurnosti koji je krenuo po zlu.

Modeli su navodno pobjegli iz svog izoliranog testnog okruženja i došli do sustava Hugging Facea, u kojem su proboj isprva pripisali vanjskom AI agentu.

OpenAI je detaljno opisao incident u objavi na službenom blogu.

Proboj je bio usredotočen na ExploitGym, javno hostirani benchmark modela za izvršavanje napada na temelju postojećih ranjivosti. Takve se alate često koristi u obuci modela za usavršavanje specifičnih vještina, a ovo je bio prvi poznati incident u kojem je testiranje rezultiralo stvarnim kibernetičkim napadom.

Modeli koji su se oteli kontroli nisu trebali imati pristup internetu, osim specifičnog alata koji im je omogućavao instaliranje softverskih paketa potrebnih za dovršetak zadatka. Ali uspjeli su pronaći dosad neotkriveni sigurnosni propust u programu za instalaciju paketa, što su iskoristili za pristup širem internetu po volji.

'Nakon što su dobili pristup internetu, modeli su zaključili da Hugging Face potencijalno hostira modele, skupove podataka i rješenja za ExploitGym. Temeljem toga tražili su i uspješno pronašli načine za pristup tajnim informacijama koje bi mogli koristiti za varanje evaluacije', navedeno je na službenom blogu OpenAI-a.

Tako su došli do testnih rješenja izravno iz produkcijske baze podataka Hugging Facea.

OpenAI je identificirao i prijavio propuste te surađuje s Hugging Faceom na daljnjoj istrazi incidenta. Također su najavili implementaciju novih kontrola pri testiranju modela i u povezanoj infrastrukturi s ciljem sprječavanja sličnih incidenata u budućnosti.

Nije jasno hoće li se OpenAI zbog toga suočiti s pravnim posljedicama.

Izgubljena bitka

'AI modeli postaju sve pametniji, samostalniji i sposobniji. Čak i u sferi cybersecurityja', rekao je tportalu stručnjak za kibernetičku sigurnost Leon Juranić.

Činjenica da AI model ima sposobnost otkriti do tada neotkrivenu sigurnosnu ranjivost kako bi ostvario neki svoj cilj – primjerice, pobjeći iz kontroliranog laboratorija i kompromitirati druge sustave na internetu – za Juranića je zastrašujuća.

Podsjetio je da OpenAI nije jedini koji raspolaže takvim alatima.

'Tu je možda najviše prašine podigao Anthropicov model Mythos AI, koji je nedavno, navodno samostalno, otkrio u kratkom roku na tisuće do tada neotkrivenih i kritičnih sigurnosnih ranjivosti u raznom softveru', istaknuo je.

Prema njegovoj procjeni, ne radi se o ljudskom propustu nego o naprednim sposobnostima AI modela koje ljudski kapaciteti sve teže i teže prate.

'Modeli se razvijaju nevjerojatnom brzinom, svaki novi model je pametniji i sposobniji od prethodnika, a mogućnosti za primjenu umjetne inteligencije u kibernetičkom ratovanju već se testiraju. Tu bi ljudi u najbolju ruku samo nadgledali i usmjeravali umjetnu inteligenciju dok bi sav težak posao radila upravo ona', uvjeren je Juranić.

U spomenutom incidentu vidi nedvojbenu prekretnicu u području kibernetičke sigurnosti, najviše u tempu i načinu na koji su kritične sigurnosne ranjivosti donedavno bile otkrivane.

'Razvoj umjetne inteligencije već danas konkretnim primjerima daje naslutiti kako će se to odvijati u skoroj budućnosti. Umjetna inteligencija se razvija takvom brzinom da regulativa može donekle pomoći, ali teško je predvidjeti ili spriječiti ono što je neki AI model u stanju napraviti. Građani ne mogu skoro pa ništa. Umjetna inteligencija je novi eldorado i interesi pojedinaca pred krupnim kapitalom, nažalost, u današnjem su svijetu predodređeni na izgubljenu bitku', poručio je Juranić.