Nakon što su njihovi AI agenti upali u njemački wiki forum i preuzeli ga, u tvorcu ChatGPT-ja tvrde kako nisu bili načisto kako izvijestiti druge tvrtke, vlasti i javnost o tome
OpenAI je priznao svoju ulogu u nedavno prijavljenom incidentu u kojem su AI agenti preuzeli njemački wiki forum.
Smatraju kako je krajnje vrijeme za definiranje standarda o tome kako se dijele informacije o incidentima u kojima se tehnologija umjetne inteligencije ponaša na neočekivane načine.
vezane vijesti
U objavi na X-u, iz OpenAI-ja su naveli kako su prethodno tretirali neusklađenost (kada AI modeli i agenti teže ciljevima koji se razlikuju od ciljeva njihovih kreatora i korisnika) uglavnom kao istraživačko pitanje, koje se komunicira u istraživačkim publikacijama.
No, pošto je neusklađenost izazvala nove vrste utjecaja na stvarni svijet, vjeruju kako taj pristup treba proširiti za novu fazu mogućnosti modela. Krajem prošlog tjedna agenti OpenAI-ja su pobjegli iz svog testnog okruženja i preuzeli kontrolu nad malo poznatim njemačkim wiki forumom, pretvorivši ga u oglasnu ploču za druge agente.
Vodstvo OpenAI-ja postalo svjesno incidenta prije nekoliko tjedana, ali ga je držalo u tajnosti dok se tvrtka bavila posljedicama zasebnog incidenta u kojem su OpenAI-jevi agenti hakirali web poslužitelje platforme Hugging Face.
Fundamentalno teški za kontrolu
Glasnogovornik OpenAI-ja je rekao kako ne mogu smisleno odgovoriti na tvrdnje ili nalaze o izvješću koje nisu imali priliku pregledati, ali je inzistirao na tvrdnji kako pravni tim tvrtke nije obeshrabrivao istragu.
Komentirajući novootkriveni slučaj, OpenAI je rekao kako je wiki incident smatrao primjerom neusklađenosti sličnim drugima koje je već podijelio.
vezane vijesti
Usporedili su ga s incidentom Hugging Face, tijekom kojeg su slijedili tradicionalni priručnik za odgovor na sigurnosne incidente.
Jacob Steinhardt, osnivač i izvršni direktor neprofitnog istraživačkog laboratorija Transluce, rekao je kako su alati koje razvijaju i testiraju laboratoriji za umjetnu inteligenciju fundamentalno teški za kontrolu, pa postoji značajan rizik od curenja informacija iz laboratorija.
Uvjeren je kako tu tehnologiju moram držati barem na istim standardima na koje držimo druga visokorizična znanstvena istraživanja.
OpenAI je također ukazao na potrebu za više standarda, navodeći kako ni oni, niti šira AI zajednica još nemaju jasan standard za način prijavljivanja neusklađenosti koja se pojavljuje tijekom obuke, evaluacije i implementacije, uključujući primjere koji ne izgledaju kao tradicionalni sigurnosni incidenti, ali bi mogli pružiti uvid u ponašanje AI-ja i buduće rizike.
U nedostatku tog standarda, OpenAI je rekao kako radi na okviru kojeg planiraju podijeliti u nadolazećim tjednima. Paralelno s tim surađuje s desecima vladinih regulatornih agencija diljem svijeta na ovim pitanjima.
I Meta Platforms i Anthropic su priznali incidente u kojima su se njihovi agenti neprimjereno ponašali, piše Tech Crunch.
