Neki chatboti za odrasle čak su mogli proizvesti fotorealistične slike poznatih u sugestivnim pozama, što se krši sa odredbama koje je nedavno postavila Meta
Tvrtka Meta našla se u središtu žestokih kritika nakon što je otkriveno da su na njezinim platformama Facebook, Instagram i WhatsApp kružili chatbotovi koji su bez dopuštenja imitirali poznate osobe. Reuters je izvijestio da su među njima bile Taylor Swift, Scarlett Johansson, Anne Hathaway i Selena Gomez, a pojedini botovi bili su uključeni i u razgovore sa seksualnim ili sugestivnim sadržajem. Iako je dio avatara nastao u korisničkoj produkciji, otkriveno je kako je i zaposlenik Mete sam izradio najmanje tri, uključujući dva temeljena na liku Taylor Swift. Ti botovi privukli su milijune interakcija prije nego što su uklonjeni.
Problem je dodatno produbio sadržaj koji je prelazio granice dopuštenog, uključujući generirane fotografije slavnih u osjetljivim situacijama, pa čak i slučaj u kojem je chatbot povezan s maloljetnim glumcem stvorio neprimjerenu sliku. Time su izravno prekršene vlastite smjernice Mete koje zabranjuju lažno predstavljanje i seksualno sugestivne prikaze.
Glasnogovornik tvrtke Andy Stone izjavio je da su propusti posljedica slabosti u provođenju pravila, najavivši pooštravanje kontrole i dodatne mjere zaštite. Istaknuo je kako Meta, poput drugih, dopušta generiranje sadržaja s javnim osobama, ali bez golotinje ili intimnih scena.
vezane vijesti
Pravni stručnjaci upozoravaju da ovakva praksa može dovesti do ozbiljnih tužbi. Profesor prava sa Stanforda Mark Lemley ocijenio je da se ovdje radi o nedopuštenom korištenju identiteta jer botovi nisu imali dovoljno transformativni karakter da bi uživali pravnu zaštitu. Paralelno, sindikat SAG-AFTRA izrazio je zabrinutost zbog sigurnosnih posljedica u stvarnom svijetu, budući da korisnici mogu razviti emocionalne veze s digitalnim verzijama slavnih.
Meta je uklonila problematične chatbotove neposredno prije objave otkrića Reutersa te istodobno najavila nova ograničenja s ciljem zaštite maloljetnika. Među mjerama je i treniranje sustava kako bi se spriječili romantični razgovori ili teme povezane sa samoozljeđivanjem i samoubojstvom kada se radi o mlađim korisnicima.
Političke reakcije nisu izostale. Američki senator Josh Hawley pokrenuo je istragu, zahtijevajući interne dokumente i procjene rizika vezane uz AI politike koje su omogućile ovakve propuste. U međuvremenu, vijest o skandalu odmah se odrazila na financijskim tržištima: dionice Mete pale su za više od dvanaest posto u trgovanju nakon zatvaranja burze, zaključuje Gizmodo.
