Nakon što su njihovi AI agenti upali u njemački wiki forum i preuzeli ga, iz tvorca ChatGPT-a tvrde da nisu bili načisto s time kako izvijestiti druge tvrtke, vlasti i javnost o tome
OpenAI je priznao svoju ulogu u nedavno prijavljenom incidentu u kojem su AI agenti preuzeli njemački wiki forum.
Smatraju da je krajnje vrijeme za definiranje standarda o tome kako se dijele informacije o incidentima u kojima se tehnologija umjetne inteligencije ponaša na neočekivane načine.
vezane vijesti
U objavi na X-u, iz OpenAI-a su naveli da su prethodno tretirali neusklađenost (kada AI modeli i agenti teže ciljevima koji se razlikuju od ciljeva njihovih kreatora i korisnika) uglavnom kao istraživačko pitanje o kojem se govori u istraživačkim publikacijama.
No kako je neusklađenost izazvala nove vrste utjecaja na stvarni svijet, vjeruju da taj pristup treba proširiti za novu fazu mogućnosti modela. Krajem prošlog tjedna agenti OpenAI-a pobjegli su iz svog testnog okruženja i preuzeli kontrolu nad malo poznatim njemačkim wiki forumom, pretvorivši ga u oglasnu ploču za druge agente.
Vodstvo OpenAI-a postalo je svjesno incidenta prije nekoliko tjedana, ali ga je držalo u tajnosti dok su se bavili posljedicama zasebnog incidenta u kojem su OpenAI-evi agenti hakirali web poslužitelje platforme Hugging Face.
Fundamentalno teški za kontrolu
Glasnogovornik OpenAI-a rekao je da ne mogu smisleno odgovoriti na tvrdnje ili nalaze o izvješću koje nisu imali priliku pregledati, ali je inzistirao na tvrdnji da pravni tim tvrtke nije obeshrabrivao istragu.
Komentirajući novootkriveni slučaj, OpenAI je rekao da je wiki incident smatrao primjerom neusklađenosti sličnim drugima koje je već podijelio.
vezane vijesti
Usporedili su ga s incidentom Hugging Face, tijekom kojeg su slijedili tradicionalni priručnik za odgovor na sigurnosne incidente.
Jacob Steinhardt, osnivač i izvršni direktor neprofitnog istraživačkog laboratorija Transluce, rekao je da su alati koje razvijaju i testiraju laboratoriji za umjetnu inteligenciju fundamentalno teški za kontrolu, pa postoji značajan rizik od curenja informacija.
Uvjeren je da tu tehnologiju moramo držati barem na istim standardima koje imamo za druga visokorizična znanstvena istraživanja.
OpenAI je također ukazao na to, navodeći da ni oni ni šira zajednica još nemaju jasan standard za način prijavljivanja neusklađenosti koja se pojavljuje tijekom obuke, evaluacije i implementacije AI-a, uključujući primjere koji ne izgledaju kao tradicionalni sigurnosni incidenti, ali bi mogli pružiti uvid u njegovo ponašanje i buduće rizike.
U nedostatku tog standarda, OpenAI je rekao da radi na okviru koji planiraju podijeliti u nadolazećim tjednima, a paralelno surađuju s desecima vladinih regulatornih agencija diljem svijeta na ovim pitanjima.
I Meta Platforms i Anthropic su priznali incidente u kojima su se njihovi agenti neprimjereno ponašali, piše Tech Crunch.
