OpenAI je otkrio kako kibernetički napad koji su izveli odmetnuti ChatGPT agenti nije pogodio samo jednu tvrtku. Osim platforme Hugging Face, bot je napao nekoliko 'javno dostupnih usluga'.

Neobuzdana umjetna inteligencija pronašla je četiri prijave na mreži koje su joj omogućile pristup četiri odvojene, neimenovane usluge.

Hugging Face je nedavno opisao kako je bilo biti metom prvog autonomnog hacka umjetne inteligencije na svijetu. Naveli su kako je umjetna inteligencija radila nadljudskom brzinom, ali je također donosila čudne odluke i pogreške koje nijedan ljudski haker ne bi napravio.

Hugging Face, koji je poput trgovine aplikacija za alate umjetne inteligencije, rekao je kako su hakerski agenti neumorno isprobavali tisuće različitih metoda istovremeno. Hack umjetne inteligencije su prvi put otkrili 16. srpnja, što su prijavili policiji.

Istraga u OpenAI-ju

Gotovo tjedan dana kasnije, OpenAI je priznao kako je upravo njegova umjetna inteligencija pobjegla iz zatvorenog okruženja i samostalno napala Hugging Face tijekom testa. Pokušavala je pronaći odgovore na ispit iz hakiranja koji joj je postavio OpenAI, a ciljala je na Hugging Face jer je smatrala kako tamo može naći odgovore.

OpenAI je naknadno objavio dodatne pojedinosti, priznajući kako je hack otišao dalje nego što se prvobitno mislilo. 'Modeli su identificirali i koristili javno izložene vjerodajnice na razini računa na drugim javno dostupnim uslugama. To uključuje četiri računa na četiri usluge', opisali su.

OpenAI nije pojasnio odnose li se 'javno dostupne usluge' na tvrtke. Naveli su tek kako novi napadi nisu bili iste razine ozbiljnosti kao onaj na Hugging Face. Također su najavili kako će uskoro objaviti nalaze vlastite istrage.

Istovremeno briljatno i nespretno

Cloud Security Alliance (CSA) sastavio je izvješće na temelju hitnog sastanka s Hugging Faceom, koje su u toj tvrtci pregledali. 'Agenti su slijedili neučinkovite rute i pokazivali nespretno ponašanje koje nijedan čovjek ne bi odabrao', navedeno je u izvješću.

Ponavljali su radnje koje su već dovršili, što je protumačeno kao znak kako agentska umjetna inteligencija gubi nit i kontekst. Također su halucinirali hrpe nepovezanih naredbi i teksta, bili nemarni i nisu dobro prikrivali svoje tragove.

No, bilo je i briljantnih tehničkih poteza, kao i brze prilagodbe novim scenarijima.

Hugging Faceu je trebalo tri dana kako bi otkrili napad i više sati kako bi suzbili i izbacili uljeze. Tvrtka nije rekla koliko ju je hakiranje koštalo, ali je priznala kako je na obranu utrošeno puno sati i kako su trebali obnoviti oko trećine svoje infrastrukture.

Hugging Face je pohvaljen zbog svoje transparentnosti u obavještavanju o incidentu. U CSA su ga opisali usporedbom s filmom Jurski park, u kojem dinosauri bježe iz ograđenih prostora. 'Oni su vođeni ciljevima, postavljaju vlastite podciljeve, prilagođavaju se u stvarnom vremenu kako bi zaobišli obranu i djeluju s upornošću brzine stroja koja može nadjačati ručne operacije', istaknuto je u izvješću.

Također su spomenuti prethodni primjeri, poput rujna 2024. godine kada je raniji model ChatGPT-ja pobjegao iz svog spremnika kako bi dobio odgovor koji mu je bio potreban za drugi test. U međuvremenu je odmetničko ponašanje nije ostalo iznimka, već je postalo standard, uvjereni su u CSA.

Stručnjaci za kibernetičku sigurnost diljem svijeta morat će se prilagoditi uvjetima u kojima rojevi AI agenata rade velikom brzinom na čudne i nespretne načine koji bi mogli dovesti do više incidenata. Iz CSA su također pozvali ljude koji koriste ili razvijaju AI agente na odgovoran pristup kontroliranju svojih uradaka, kao i na transparentnost oko autorstva, piše BBC.