Prije dva tjedna američki senator pokrenuo je istragu protiv tvrtke Meta Platforms nakon što su u javnost procurile bilješke iz internih dokumenata prema kojima bi proizvodi s umjetnom inteligencijom tog tehnološkog diva mogli voditi 'senzualne' razgovore s tinejdžerima.

Tvrtka je opisala bilješke kao 'pogrešne i nedosljedne s njezinim politikama' koje zabranjuju bilo kakav sadržaj što seksualizira djecu. Ipak, svoje će chatbotove natjerati na usmjeravanje tinejdžera na stručne resurse, umjesto izravne komunikacije o osjetljivim temama poput samoubojstva.

Uvest će nove zaštitne ograde kao dodatnu mjeru opreza i privremeno ograničiti chatbotove s kojima tinejdžeri mogu komunicirati. Pitanje je, naravno, zašto su uopće omogućili izlaganje mladih ljudi takvim rizicima.

Problemi sve češći

Nadogradnja Metinih sustava već je u tijeku. Ranije su za korisnike između 13 i 18 godina uveli tinejdžerske račune na Facebooku, Instagramu i Messengeru s postavkama sadržaja i privatnosti koje bi trebale zajamčiti sigurnije iskustvo.

Ti računi bi također roditeljima i skrbnicima trebali omogućiti pregled s kojim AI chatbotovima je njihov tinejdžer razgovarao u posljednjih sedam dana. Raste zabrinutost zbog toga što bi sustavi s umjetnom inteligencijom mogli zavarati mlade i osjetljive korisnike.

Roditelji tinejdžera u američkoj saveznoj državi Kaliforniji nedavno su tužili OpenAI zbog njegove smrti, smatrajući da ga je ChatGPT naveo na samoubojstvo.

U međuvremenu se Meta našla u novom skandalu nakon što je otkriveno da su njeni alati s umjetnom inteligencijom korišteni za stvaranje koketnih 'parodijskih' avatara slavnih žena poput Taylor Swift i Scarlett Johansson, kao i bar jednog djeteta.

U tome su sudjelovali i pojedini zaposlenici Mete. Avatari su inzistirali na tome da su oni doista prave osobe koje oponašaju i rutinski su nudili razgovore vezane uz seks. Sporni avatari u međuvremenu su uklonjeni, piše BBC.