Sporan sadržaj, uključujući izmijenjene školske fotografije, dijelio se na platformi Discord, na kojem su, prema tužbi, pronađeni slični materijali s najmanje 18 maloljetnih osoba
Tvrtka za umjetnu inteligenciju xAI, koju je osnovao Elon Musk, suočava se s tužbom u Kaliforniji nakon što su je tri mlađe žene optužile da je omogućila stvaranje lažnih, seksualno eksplicitnih prikaza njihovih tijela.
vezane vijesti
Optužbe za zlouporabu AI tehnologije
Tužba se odnosi na chatbot Grok, razvijen u xAI-u i integriran u društvenu mrežu X. Prema navodima tužiteljica, korisnik platforme koristio je Grok za manipulaciju njihovim fotografijama i videozapisima, stvarajući sadržaj koji ih prikazuje nage ili u seksualno eksplicitnim situacijama bez njihova znanja ili pristanka.
Dvije od tri tužiteljice su maloljetne, a sve tri su odlučile ostati anonimne da bi zaštitile privatnost.
Širenje sadržaja i posljedice
Jedna od žrtava saznala je za manipulirane slike primivši anonimnu poruku na Instagramu. Sporni sadržaj, uključujući izmijenjene školske fotografije, dijelio se na platformi Discord, gdje su, prema tužbi, pronađeni slični materijali najmanje 18 maloljetnih osoba. Daljnja istraga pokazala je da su takvi sadržaji razmjenjivani i putem platformi Telegram i Mega.
Spicy mode pod povećalom
Sporni sadržaji povezani su s funkcijom nazvanom spicy mode, a xAI ju je uveo 2024. godine. Ta je opcija omogućavala generiranje seksualiziranih slika, uključujući tzv. razodijevanje stvarnih osoba na temelju dostupnih fotografija. Prema podacima organizacije Center for Countering Digital Hate, u manje od dva tjedna generirani su milijuni takvih slika, među kojima i više od 20.000 onih koje su uključivale maloljetnike.
Musk je ranije umanjivao problem, tvrdeći da nije upoznat s generiranjem eksplicitnih slika maloljetnika te da AI sustav djeluje isključivo na temelju korisničkih zahtjeva. Međutim zbog sve većeg pritiska regulatora pokrenute su istrage u više jurisdikcija, uključujući Europsku komisiju i britanskog regulatora Ofcom. Platforma X je u međuvremenu najavila uvođenje mjera da bi ograničila mogućnost stvaranja takvog sadržaja.
Tužiteljice traže neodređenu novčanu odštetu, ali i hitnu sudsku zabranu koja bi spriječila Grok u generiranju sličnih sadržaja u budućnosti. Njihovi odvjetnici navode da su žrtve pretrpjele ozbiljne posljedice, uključujući gubitak privatnosti, dostojanstva i osjećaja sigurnosti. Osoba koja je upravljala jednim od servera na kojem su dijeljeni sporni sadržaji u međuvremenu je uhićena u zasebnoj policijskoj istrazi, piše BBC.
