Kao što smo već pisali, OpenAI je priznao kako je kombinacija njegovih modela umjetne inteligencije samostalno probila zaštitu i upala u sustave Hugging Facea, neovisne platforme za hosting AI-ja, tijekom internog testa kibernetičke sigurnosti koji je krenuo po zlu.

Modeli su navodno pobjegli iz svog izoliranog testnog okruženja i odatle došli do sustava Hugging Facea, u kojem su proboj isprva pripisali vanjskom AI agentu.

OpenAI je detaljno opisao incident u objavi na službenom blogu.

Proboj je bio usredotočen na ExploitGym, javno hostirani benchmark modela za izvršavanje napada na temelju postojećih ranjivosti. Takve se alate često koristi u obuci modela za usavršavanje specifičnih vještina. Ovo je bio prvi poznati incident u kojem je testiranje rezultiralo stvarnim kibernetičkim napadom.

Modeli koji su se oteli kontroli nisu trebali imati pristup internetu, osim specifičnog alata koji je modelima omogućavao instaliranje softverskih paketa koji bi im mogli biti potrebni za dovršetak zadatka. Ali, uspjeli su pronaći dosad neotkriveni sigurnosni propust u programu za instalaciju paketa, što su iskoristili za pristup širem internetu po volji.

'Nakon što su dobili pristup internetu, modeli su zaključili kako Hugging Face potencijalno hostira modele, skupove podataka i rješenja za ExploitGym. Temeljem toga tražili su i uspješno pronašli načine za pristup tajnim informacijama koje bi mogao koristiti za varanje evaluacije', navedeno je na službenom blogu OpenAI-ja.

Tako su došli do testnih rješenja izravno iz produkcijske baze podataka Hugging Facea.

OpenAI je identificirao i prijavio propuste te surađuje s Hugging Faceom na daljnjoj istrazi incidenta. Također su najavili implementaciju novih kontrola na testiranju modela i na povezanoj infrastrukturi, s ciljem sprječavanja sličnih incidenata u budućnosti.

Nije jasno hoće li se OpenAI zbog incidenta suočiti s pravnim posljedicama.

Izgubljena bitka

'AI modeli postaju sve 'pametniji', samostalniji i sposobniji. Čak i u sferi cybersecuritya', rekao je tportalu stručnjak za kibernetičku sigurnost Leon Juranić.

Činjenica kako AI model ima sposobnost otkriti do tada neotkrivenu sigurnosnu ranjivost kako bi ostvario neki svoj cilj - primjerice, pobjeći iz kontroliranog laboratorija i kompromitirati druge sustave na internetu - za Juranića je zastrašujuća.

Podsjetio je kako OpenAI nije jedini koji raspolaže takvim alatima.

'Tu je možda najviše prašine podigao Anthropicov model Mythos AI koji je nedavno, navodno samostalno, otkrio u kratkom roku na tisuće do tada neotkrivenih i kritičnih sigurnosnih ranjivosti u raznom softveru', istaknuo je.

Prema njegovoj procjeni, ne radi se o ljudskom propustu nego o naprednim sposobnostima AI modela koje ljudski kapaciteti sve teže i teže prate u stopu.

'Modeli se razvijaju nevjerojatnom brzinom, svaki novi model je pametniji i sposobniji od njegovog prethodnika, a mogućnost za primjenu umjetne inteligencije u cyber ratovanju se već testiraju. Tu bi ljudi u najbolju ruku samo monitorirali i usmjeravali umjetnu inteligenciju, dok bi sav težak posao radila upravo ona', uvjeren je Juranić.

U incidentu vidi nedvojbenu prekretnicu u području kibernetičke sigurnosti, u načinu i tempu na kojem su kritične sigurnosne ranjivosti donedavno bile otkrivane do nedavno.

'Razvoj umjetne inteligencije nam već danas konkretnim primjerima daje naslutiti kako će se to odvijati u skoroj budućnosti. Umjetna inteligencija se razvija takvom brzinom da regulativa može donekle pomoći, ali teško je predvidjeti ili spriječiti što je neki AI model u stanju napraviti. Građani ne mogu skoro pa ništa. Umjetna inteligencija je novi Eldorado i interesi pojedinaca pred krupnim kapitalom na žalost, u današnjem svijetu, predodređeni su izgubljenu bitku', poručio je Juranić.