Chatbot Grok AI izazvao je ranije ove godine bijes jer je generirao fotografije žena i djevojčica u oskudnoj odjeći bez njihovog pristanka.

"Kontroverza koju su izazvali seksualno eksplicitni deepfakeovi koje je generirao Grok (X-ova umjetna inteligencija) možda je namjerno generirana kako bi se umjetno povećala vrijednost tvrtki X i xAI", priopćilo je pariško tužiteljstvo, potvrđujući objavu Le Mondea u petak.

Uplitanje u francusku politiku

To se moglo učiniti ususret "planiranom uvrštavanju novog subjekta spajanjem na burzu u lipnju 2026." između Space X-a i xAI-a, dodaje se.

Ured tužitelja priopćio je da je u utorak kontaktirao američko Ministarstvo pravosuđa, kao i francuske odvjetnike u američkoj Komisiji za vrijednosne papire i burze (SEC), tijelu za regulaciju financijskog tržišta, kako bi izrazio svoju zabrinutost.

Odvjetnik X-a u Francuskoj nije odmah bio dostupan za komentar.

Francuske vlasti istražuju X zbog navoda da je njegov algoritam korišten za miješanje u francusku politiku, ali i zato što je Grok širio objave o poricanju holokausta i seksualizirane deepfakeove.

Grok ima vlastiti račun na društvenoj mreži X koji korisnicima omogućuje interakciju s njim.

Korisnici su neko vrijeme mogli označavati bota u objavama kako bi zatražili generiranje i uređivanje fotografija. Mnogi su slali Groku fotografije žena ili označavali bota u komentarima na objave fotografija žena, dajući mu upute poput "obuci je u bikini" ili "skini joj odjeću".

Muskovo "poticanje"

Procjenjuje se da je u 11 dana generirano tri milijuna seksualiziranih slika, uglavnom žena, ali i 23.000 onih koje su prikazivale djecu, objavilo je krajem siječnja neprofitno nadzorno tijelo Centar za suzbijanje digitalne mržnje (CCDH).

Le Monde je istaknuo "nekoliko Muskovih objava, objavljenih na vrhuncu kontroverze, koje tužitelji tumače kao poticanje na stvaranje slika bez pristanka".

"Milijarder je objavio nekoliko poruka u kojima je, koristeći brojne emojije, izrazio oduševljenje mogućnostima svog AI motora za "svlačenje", a čak je podijelio i svoju fotografiju na kojoj ga njegov chatbot prikazuje u bikiniju", izvijestio je Le Monde.

Prosječan dnevni broj preuzimanja aplikacije Grok diljem svijeta porastao je za 72 posto od 1. do 19. siječnja usporedno s istim razdobljem u prosincu, naveo je Washington Post pozivajući se na tvrtku za tržišne informacije Sensor Tower.

Francuske vlasti pozvale su u veljači Muska na "dobrovoljni razgovor" i pretresle lokalne urede njegove društvene mreže, što je Musk osudio kao "politički napad".

I Velika Britanija i Europska unija također su otvorile istrage o stvaranju seksualiziranih deepfakeova.