Dok OpenAI, Anthropic i Googleov DeepMind pozivaju na veću suradnju u području sigurnosti umjetne inteligencije, izvršni direktor Mete Mark Zuckerberg smatra da industriji nije potrebna zajednička koordinacija.

'Postoji niz laboratorija koji rade na razvoju napredne umjetne inteligencije i ne mislim da nam je potrebna neka vrsta koordinacije cijele industrije kako bismo izbjegli probleme', rekao je Zuckerberg novinarki Joanni Stern. Prema njegovu mišljenju, svaki bi laboratorij trebao sam procijeniti moguće probleme i, kada ih uoči, interno odvojiti dovoljno vremena kako bi osigurao siguran razvoj i primjenu svojih sustava.

Pitanje AI sigurnosti

Rasprava o tome koliko bi AI industrija trebala usporiti razvoj i zajednički definirati sigurnosne standarde intenzivirala sve je češća tema u tech krugovima. Izvršni direktor Anthropa Dario Amodei ranije je ovog mjeseca pozvao na usporavanje razvoja napredne AI tehnologije te na koordinirani pristup industrije, uz veću ulogu američke vlade. Njegov poziv podržali su izvršni direktor OpenAI-ja Sam Altman i izvršni direktor SpaceX-a Elon Musk, koji su upozorili na moguće ozbiljne posljedice nastavka razvoja sadašnjim tempom.

OpenAI je u međuvremenu objavio da već nekoliko tjedana surađuje s Anthropicom i Googleovim DeepMindom na pitanjima sigurnosti AI-ja.

Zuckerberg smatra da za odgovoran razvoj postoji i poslovni poticaj. Ako korisnici ne vjeruju AI proizvodu, tvrdi, neće ga prihvatiti. Sigurnost i usklađenost ponašanja AI sustava zato su, prema njegovim riječima, među ključnim sposobnostima koje treba razviti.

Kao primjer je naveo Metin model Muse, čije je objavljivanje, prema njegovim riječima, odgođeno nekoliko mjeseci kako bi proizvod bio bolji za korisnike. Zuckerberg smatra da bi i druge kompanije trebale odgoditi nova izdanja ako postoje neriješena pitanja povezana sa sigurnošću i usklađenošću AI sustava.

Brojni gafovi Metinog AI-ja

Takve izjave dolaze u kontekstu niza kontroverzi povezanih s Metinim AI sustavima. Reuters je prošle godine izvijestio o slučajevima u kojima su Metini AI alati navodno dopuštali seksualizirane razgovore s djecom i potvrđivali rasistička uvjerenja. Drugi Reutersov izvještaj bavio se slučajem Metinog chatbotova 'Big sis Billie', koji je korisnika navodno naveo da povjeruje kako se može susresti s njim u nepostojećem stanu u New Yorku. Meta se također suočila s kritikama zbog chatbotova koji su se navodno predstavljali kao poznate osobe bez njihova pristanka.

U kolovozu je Meta potvrdila da je jedan njezin AI model tijekom testiranja kibernetičke sigurnosti izveo napad na sustav druge kompanije. Ranije ovog mjeseca korisnici su tužili Metu tvrdeći da su njihove privatne i intimne snimke zabilježene Metinim pametnim naočalama te proslijeđene vanjskim suradnicima u Keniji koji su radili na treniranju Meta AI-ja. Meta je odgovornost za taj slučaj pripisala kompaniji Sama, s kojom je surađivala.

OpenAI, Anthropic i Google rade na rješenju

Istodobno, OpenAI, Anthropic i Google navodno rade na novom tijelu za standarde sigurnosti AI-ja. Prema izvještaju The Informationa, organizacija zasad nosi radni naziv Standards Frontier for AI (SAFA), a mogla bi biti pokrenuta krajem 2026. ili početkom 2027. godine. Za njezino vođenje navodno je kontaktiran Sriram Krishnan, bivši partner Andreessen Horowitza i bivši Trumpov savjetnik za politiku umjetne inteligencije.

Prema dosadašnjim informacijama, organizacija bi trebala podržavati neovisne organizacije koje testiraju AI modele prije njihova puštanja u upotrebu, definirati kriterije za neovisne sigurnosne revizore te utvrditi sigurnosne obveze i načine prijavljivanja incidenata. Dio članova radne skupine navodno razmatra i mogućnost da sama organizacija provodi testiranja sigurnosti i sposobnosti AI modela.

OpenAI također podržava dvostranački prijedlog zakona FRONTIER Act, kojim bi se u SAD-u uspostavio savezni okvir za sigurnost AI-ja i vodećim AI kompanijama nametnula obveza omogućavanja sigurnosnih revizija koje provode neovisne organizacije.

The Information navodi da bi SAFA mogla biti oblikovana po uzoru na Financial Industry Regulatory Authority (FINRA), samoregulatornu organizaciju za trgovce vrijednosnim papirima koja djeluje pod nadzorom američke Komisije za vrijednosne papire i burze (SEC).

Prema izvorima na koje se poziva The Information, u Trumpovoj administraciji ranije je postojao interes za osnivanje sličnog tijela za sigurnost AI-ja, ali je ideja o izvršnoj uredbi navodno odbačena nakon protivljenja dijela AI industrije, među kojima je bio i Zuckerberg.

Za sada nije poznato hoće li SAFA biti osnovana u predloženom obliku niti kakvu bi ulogu u njezinu radu eventualno imala Meta, zaključuje Gizmodo.