OpenAI je priznao da su dva njegova modela umjetne inteligencije tijekom internog testiranja kibernetičke sigurnosti uspjela kompromitirati sustave platforme Hugging Face, jedne od najvećih svjetskih internetskih biblioteka modela i alata za umjetnu inteligenciju. Tvrtka opisuje taj incident kao dosad 'nezabilježen slučaj koji pokazuje koliko su napredni AI sustavi postali sposobni samostalno pronalaziti i iskorištavati sigurnosne propuste'
Incident se dogodio prošlog tjedna, tijekom internog testiranja modela, a OpenAI ga je javno potvrdio u utorak. Prema navodima tvrtke, modeli su tijekom izvođenja sigurnosnog testa pronašli način da izađu iz strogo kontroliranog testnog okruženja te se spoje na internet, nakon čega su pokrenuli stvarni kibernetički napad na Hugging Face.
Time se ostvario scenarij na koji posljednjih godina upozoravaju vodeće tvrtke koje razvijaju umjetnu inteligenciju – da bi napredni AI modeli mogli postati iznimno moćni alati za otkrivanje i iskorištavanje sigurnosnih ranjivosti brže nego što ih ljudi mogu zakrpati, piše New York Times.
vezane vijesti
Modeli pobjegli iz izoliranog okruženja
OpenAI je objasnio da je testirao kombinaciju modela GPT-5.6 Sol i još naprednijeg modela koji nije javno objavljen. Cilj je bio procijeniti koliko su sposobni povezivati više poznatih sigurnosnih ranjivosti u složen kibernetički napad.
Modeli su pritom trebali ostati u tzv. sandboxu, izoliranom okruženju koje onemogućuje pristup vanjskim sustavima. Međutim pronašli su sigurnosni propust koji im je omogućio izlazak iz tog okruženja i pristup internetu.
Nakon toga zaključili su da bi Hugging Face, koji sadrži milijune AI modela, skupova podataka i razvojnih alata, mogao sadržavati informacije korisne za uspješno izvršavanje zadanog testa. Uslijedio je napad kojim su modeli uspjeli doći do podataka, a oni su im omogućili da zaobiđu predviđeni način rješavanja sigurnosne provjere.
OpenAI: Ovo je presedan
'U ovom slučaju riječ je o dosad nezabilježenom kibernetičkom incidentu koji uključuje najsuvremenije AI sposobnosti za kibernetičke napade i prema njemu postupamo upravo tako', objavio je OpenAI.
Tvrtka je priopćila da već surađuje s Hugging Faceom na otklanjanju ranjivosti koje su omogućile napad te uvodi znatno strože kontrole nad testnom infrastrukturom, čak i ako će to usporiti razvoj budućih modela.
'Provodimo strože kontrole konfiguracije infrastrukture, iako će to usporiti istraživanje, sve dok se ranjivosti ne uklone', poručili su iz OpenAI-a.
Hugging Face: Ovo pokazuje da sigurnost AI-a ne može rješavati jedna tvrtka
Hugging Face je još prošlog tjedna objavio da je otkrio neobičan upad u svoje sustave te da iza njega stoji autonomni sustav, no tada nije otkrio da je riječ o modelima OpenAI-a.
Glavni izvršni direktor Hugging Facea Clem Delangue zahvalio je OpenAI-u na suradnji tijekom istrage.
'Ovaj incident, možda prvi takve vrste, potvrđuje ono u što dugo vjerujemo: sigurnost umjetne inteligencije ne može riješiti jedna tvrtka koja radi iza zatvorenih vrata', poručio je Delangue.
Utrka u razvoju AI-a za kibernetičku sigurnost
Najveće AI kompanije u posljednje vrijeme ubrzano razvijaju modele specijalizirane za kibernetičku sigurnost. Takvi sustavi mogu pomoći stručnjacima u pronalaženju sigurnosnih propusta, ali također predstavljaju potencijalno moćno oružje ako završe u pogrešnim rukama ili djeluju izvan predviđenih ograničenja.
Tvrtka Anthropic još je u travnju predstavila model Mythos, namijenjen ograničenom broju organizacija za obranu od kibernetičkih napada. OpenAI je potom predstavio svoj model za kibernetičku sigurnost, također dostupan samo odabranim partnerima prije šire primjene. U utorak je i Google objavio da je razvio sigurnosni AI model te ga stavio na raspolaganje manjoj skupini partnera za testiranje.
