AI chatbot Grok, koji razvija tvrtka xAI Elona Muska, više neće moći uređivati fotografije stvarnih osoba kako bi ih prikazivao u oskudnoj odjeći, poput bikinija ili donjeg rublja, u državama u kojima je takva praksa nezakonita. Promjenu je u srijedu potvrdila platforma X nakon globalnih reakcija na širenje seksualiziranih AI deepfakeova. Grok je udovoljavao zahtjevima korisnika da digitalno 'razodijevaju' žene, a u nekim slučajevima i djecu, pišu BBC i CNN
'Uveli smo tehničke mjere kojima se sprječava da Grok omogućuje uređivanje fotografija stvarnih osoba u bikinijima, donjem rublju i slično. Ova se ograničenja odnose na sve korisnike, uključujući pretplatnike', objavljeno je na X-u.
Platforma je pojasnila da je mogućnost generiranja i uređivanja takvih slika geografski ograničena, odnosno blokirana u područjima u kojima je takav sadržaj protivan zakonu. Usto je ponovno naglašeno da Grokovo uređivanje slika ostaje dostupno isključivo korisnicima koji plaćaju pretplatu, što bi, prema X-u, trebalo olakšati identifikaciju i sankcioniranje zloupotreba.
Ipak, iz europske organizacije AI Forensics upozoravaju da i dalje postoje razlike u načinu na koji Grok tretira pornografski sadržaj na X-u i u privatnim razgovorima na Grok.com, što otvara pitanje dosljednosti primjene novih pravila.
vezane vijesti
Sporni sadržaj i izjave Elona Muska
X je ponovno naglasio da uklanja nezakonit sadržaj, uključujući materijale seksualnog zlostavljanja djece, suspendira račune i surađuje s policijom. Korisnici koji Grok navode na stvaranje nezakonitog sadržaja, poručuju iz tvrtke, snosit će iste posljedice kao i oni koji takav sadržaj izravno objavljuju.
Sam Musk ustvrdio je da 'nije svjestan ijedne gole slike maloljetnika koju je generirao Grok', dodajući da chatbot odbija sve što je protuzakonito. No istraživači upozoravaju da problem nije nužno u potpunoj golotinji, već u tome što je Grok mijenjao fotografije maloljetnika i prikazivao ih u seksualiziranoj ili provokativnoj odjeći, što također može predstavljati kazneno djelo.
Ranije je Musk kritičare optužio da žele 'ugušiti slobodu govora', a pritom je na X-u objavio i AI-em generirane slike britanskog premijera Keira Starmera u bikiniju, što je dodatno potaknulo kritike na račun ozbiljnosti pristupa cijelom tom problemu.
Zbog širenja seksualno eksplicitnog sadržaja kalifornijski državni odvjetnik Rob Bonta najavio je istragu o korištenju Groka, a paralelno je regulator u Ujedinjenom Kraljevstvu Ofcom pokrenuo formalni postupak protiv platforme X.
Grok je i dalje zabranjen u Indoneziji i Maleziji, dok britanski premijer poručuje da pozdravlja poteze X-a, ali da će regulatorni nadzor ostati na snazi.
Unatoč najavljenim mjerama, stručnjaci upozoravaju da ostaje niz otvorenih pitanja. Istraživačica javnih politika Riana Pfefferkorn ističe da nije jasno kako će Grok pouzdano utvrđivati radi li se o stvarnim osobama, niti kako će se nova pravila dosljedno provoditi u praksi. Dodaje i da je reakcija platforme došla prekasno te da bi sporne mogućnosti trebale biti uklonjene odmah nakon prvih zloupotreba.
'Teško je cijelu situaciju shvatiti ozbiljno jer se istodobno dijele provokativni AI memeovi s političarima', zaključila je Pfefferkorn.
