Platforma X, koja je u vlasništvu Elona Muska, našla se pod pojačanim pritiskom europskih vlasti nakon što je njezin sustav umjetne inteligencije Grok proizveo niz pornografskih deepfakeova, uključujući prikaze golih maloljetnih osoba i žena. Slučaj se ubrzano pretvara u novi veliki test za Europsku uniju – ne samo u pogledu provedbe vlastitih digitalnih propisa, nego i političke spremnosti da se odlučno suprotstavi Musku i drugim američkim tehnološkim divovima uslijed ozbiljne transatlantske krize i otvorenih napetosti sa Sjedinjenim Državama
Prije samo mjesec dana Bruxelles je kaznio X sa 120 milijuna eura zbog kršenja Akta o digitalnim uslugama (DSA), ključnog europskog zakona za regulaciju internetskih platformi. Ta je odluka izazvala oštru reakciju Washingtona te je odgovorio zabranom putovanja bivšem europskom povjereniku za digitalna pitanja i arhitektu DSA-a Thierryju Bretonu, uz još četiri osobe povezane s borbom protiv kampanja dezinformacija.
Nakon što je Grok prošlog tjedna počeo generirati i širiti seksualno eksplicitne deepfakeove bez pristanka, regulatori iz Pariza, Bruxellesa, Londona, Dublina i drugih europskih prijestolnica pokrenuli su istražne radnje. Glasnogovornik Europske komisije za digitalna pitanja Thomas Regnier u ponedjeljak je takav sadržaj opisao kao 'ilegalan', 'zgražajući' i 'odvratan'.
Istraživači AI Forensicsa, europske neprofitne organizacije koja istražuje algoritme, analizirali su preko 20.000 nasumičnih slika koje je generirao Grok i 50.000 korisničkih zahtjeva između 25. prosinca i 1. siječnja.
Istraživači su otkrili 'visok udio pojmova koji uključuju 'nju', 'staviti'/'skinuti', 'bikini' i 'odjeću''. Više od polovice generiranih slika ljudi, odnosno 53 posto, 'sadržavalo je osobe s minimalno odjeće poput donjeg rublja ili bikinija, od čega je više od 80 posto bilo osoba koje su se predstavljale kao žene', otkrili su istraživači. Značajno je to da je dva posto slika prikazivalo osobe koje izgledaju kao da imaju 18 godina ili manje, otkrili su istraživači.
AI Forensics je također otkrio da su u nekim slučajevima korisnici tražili da se maloljetnici na slikama generiraju u erotske položaje, uz razne bizarne zahtjeve koje nećemo spominjati. Grok je udovoljio tim zahtjevima, prema AI Forensicsu.
Iako X dopušta pornografski sadržaj, xAI-jeva 'pravila prihvatljive upotrebe' zabranjuju 'prikazivanje osoba na pornografski način' i 'seksualizaciju ili iskorištavanje djece'. X je suspendirao neke račune zbog ovakvih zahtjeva i uklonio slike.
vezane vijesti
EK traži od X-a da sačuva sve dokumente povezane s objavom nagih žena i djece
U četvrtak je Europska komisija pooštrila stav i naredila X-u da sačuva sve interne dokumente i podatke povezane s Grokom, čime je produbila već otvorenu istragu o moderiranju sadržaja na platformi. DSA predviđa novčane kazne do šest posto globalnog godišnjeg prihoda kompanije, a u teoriji omogućuje i privremenu zabranu rada platforme X u cijeloj Europskoj uniji, iako se takva mjera smatra krajnjom opcijom.
Istrage, međutim, traju mjesecima, a za konačne odluke potrebna je i suglasnost predsjednice Europske komisije Ursule von der Leyen.
'Ovi su incidenti duboko uznemirujući, potpuno neprihvatljivi i otvaraju hitna pitanja o tome poštuju li se i provode li se postojeća pravila EU-a', poručila je irska zastupnica Regina Doherty u pismu europskoj povjerenici za tehnologiju Henni Virkkunen, koja nadzire istrage protiv X-a.
Musk i xAI izjavili su da poduzimaju mjere 'protiv ilegalnog sadržaja na X-u, uključujući materijale o seksualnom zlostavljanju djece uklanjanjem, trajnim suspendiranjem računa i suradnjom s lokalnim vlastima i policijom prema potrebi'. No Grokovi odgovori na zahtjeve korisnika i dalje su preplavljeni uznemirujućim slikama.
Za razliku od konkurenata, poput Googleovog Geminija ili OpenAI-evog ChatGPT-ja, Grok je ugrađen u jednu od najpopularnijih platformi društvenih medija. Iako korisnici mogu privatno razgovarati s Grokom, mogu ga i označiti u objavi na X-u sa zahtjevom, a Grok će javno odgovoriti.
Trumpove optužbe
Predsjednik Donald Trump s druge strane opetovano optužuje Uniju da svojim zakonima u digitalnom sektoru diskriminira američke tehnološke tvrtke.
Musk tvrdi da EU provodi cenzuru dok Bruxelles ističe da se radi o zaštiti korisnika od dezinformacija i prijevara. Nova američka administracija stala je uz Muska, prijeteći recipročnim mjerama zbog 'diskriminacije američkih tech divova'.
Platforma X ima rok do proljeća da uskladi svoje poslovanje s europskim pravilima ili se suoči s još drastičnijim kaznama.
'Neće to proći bez posljedica'
Više europskih vlada i regulatora jasno je poručilo da skandal s Grokom neće proći bez posljedica. Pariško državno odvjetništvo u petak je objavilo da pokreće istragu o širenju seksualno eksplicitnih deepfakeova bez pristanka, generiranih na Groku i objavljenih na X-u. Britanski regulator za komunikacije Ofcom objavio je da je u 'hitnom kontaktu' s kompanijom.
Irska, gdje se nalazi europsko sjedište X-a, također pomno prati slučaj. Nacionalni regulator Coimisiún na Meán poručio je da je dijeljenje intimnih snimki bez pristanka nezakonito, kao i stvaranje materijala koji prikazuje seksualno zlostavljanje djece. Regulator je pozvao korisnike da takav sadržaj prijavljuju i platformi i nadležnim tijelima, ističući da irski zakon o internetskoj sigurnosti obvezuje platforme da reagiraju na prijave.
Upozorenje je stiglo i iz Berlina. Njemačko ministarstvo za digitalna pitanja priopćilo je da s 'velikom zabrinutošću' promatra trend korištenja alata poput Groka za seksualizirane prikaze žena i maloljetnika, naglašavajući da takva praksa ozbiljno krši osobna prava i u mnogim slučajevima predstavlja kazneno djelo.
Pravni alati EU-a i politički pritisak
Europske vlasti upućuju na DSA, ali i na novi AI Act, kao ključne alate za suzbijanje širenja pornografskih deepfakeova i materijala koji prikazuju seksualno zlostavljanje djece. No AI Act i njegov mehanizam provedbe još su u fazi uvođenja, što dodatni teret stavlja na tim Europske komisije zadužen za provedbu pravila za internetske platforme.
Komisija je već u srpnju prošle godine pozvala predstavnike X-a na razgovor nakon što je Grok generirao antisemitske komentare i hvalio Hitlera u odgovorima. X je tijekom božićnih blagdana odgovorio na dodatne zahtjeve za informacijama u tom postupku, a aktualna afera s pornografskim sadržajem sada se nadovezuje na već otvorene predmete.
'Ovo pitanje vrlo ozbiljno razmatramo', rekao je Regnier novinarima, no dodao da se brza odluka ne može očekivati. U prethodnom slučaju protiv X-a Komisiji je trebalo 18 mjeseci da dovrši istragu i izrekne kaznu.
Svaka nova mjera iz Bruxellesa gotovo sigurno će izazvati reakciju Washingtona, no dio europskih zastupnika inzistira na tome da se zakon mora provoditi bez obzira na političke posljedice. 'Kazna protiv X-a dobar je početak, ali je stigla prekasno i apsolutno nije dovoljna', poručila je njemačka zastupnica Zelenih Alexandra Geese nakon izricanja kazne od 120 milijuna eura.
