Situacija je eskalirala nakon što je xAI prošlog ljeta u Grok dodao generator slika s tzv. spicy modeom, a on omogućuje izradu sadržaja za odrasle. Posljednjih tjedana chatbot je, prema brojnim prijavama, odgovarao na upite korisnika da generira slike tako da 'razodjene' žene na fotografijama ili ih odjene u bikinije, stvarajući realistične AI deepfakeove bez ikakvih učinkovitih zaštita, piše Euronews.

Indonezija

U Indoneziji su vlasti prve privremeno blokirale pristup AI chatbotu Grok, navodeći zaštitu žena, djece i šire javnosti od seksualiziranog i pornografskog sadržaja generiranog umjetnom inteligencijom. Ministrica komunikacija i digitalnih poslova Meutya Hafid izjavila je da indonezijska vlada seksualne deepfakeove bez pristanka smatra ozbiljnim kršenjem ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru.

Indonezijska nacionalna policija naglasila je da je riječ o preventivnoj mjeri dok se procjenjuje sigurnost platforme. Preliminarni nalazi regulatora pokazali su da Grok nema učinkovite zaštitne mehanizme za sprječavanje stvaranja i širenja pornografskog sadržaja temeljenog na stvarnim fotografijama indonezijskih građana.

Ravnatelj Uprave za nadzor digitalnog prostora Alexander Sabar upozorio je da takve prakse mogu ozbiljno narušiti pravo na privatnost i na vlastiti lik, osobito kada se slikama manipulira ili ih se dijeli bez pristanka, uzrokujući psihološku, društvenu i reputacijsku štetu.

Malezija

U Maleziji je Regulatorna komisija za komunikacije i multimediju (MCMC) u nedjelju naložila privremenu zabranu pristupa Groku nakon što je zabilježena, kako je navedeno, 'ponovljena zloupotreba AI alata za stvaranje opscenih, seksualno eksplicitnih slika bez pristanka osoba na fotografijama'.

Regulator je istaknuo da je platformama X i tvrtki xAI ovog mjeseca uputio dva službena upozorenja u kojima je zahtijevao uvođenje učinkovitijih zaštitnih mehanizama. U svojim odgovorima X je naveo da se Grok u velikoj mjeri oslanja na korisničke prijave neprimjerenog sadržaja, što je, prema ocjeni MCMC-a, nedostatno i neusklađeno s malezijskim zakonodavstvom.

'Ova je mjera preventivna i razmjerna, a primjenjuje se dok traju pravni i regulatorni postupci', poručili su iz MCMC-a, dodajući da će pristup Groku ostati blokiran dok se ne uspostave učinkovite zaštite koje će spriječiti stvaranje i širenje seksualiziranog sadržaja bez pristanka.

Europska komisija

Europska komisija potvrdila je da ozbiljno razmatra slučajeve seksualno eksplicitnih slika, uključujući prikaze djevojčica, koje je generirao chatbot Grok.

Glasnogovornik Komisije izjavio je u Bruxellesu da se slučaj pomno prati, a prema pisanju Reutersa, Komisija je od platforme X zatražila da do kraja godine sačuva svu internu dokumentaciju i podatke povezane s Grokom kako bi se mogla procijeniti usklađenost s europskim pravilima. Pritom je naglašeno da ta mjera ne znači automatski i formalno pokretanje istrage.

Predsjednica Komisije Ursula von der Leyen izjavila je da je 'zgrožena činjenicom da tehnološke platforme omogućuju digitalno razodijevanje žena i djece' te poručila da Europska unija 'neće prepustiti zaštitu djece i pitanje pristanka Silicijskoj dolini'.

Iako u izjavama nisu izrijekom spomenuti X ili Grok, iz Komisije poručuju da će, ako platforme ne poduzmu odgovarajuće mjere, institucije EU-a intervenirati koristeći postojeće regulatorne alate, uključujući Akt o digitalnim uslugama (DSA) i Akt o umjetnoj inteligenciji (AI Act).

Ujedinjeno Kraljevstvo

U Ujedinjenom Kraljevstvu je regulator za elektroničke medije i internetske platforme Ofcom pokrenuo istragu protiv platforme X zbog korištenja Groka za stvaranje i dijeljenje seksualno eksplicitnih slika nastalih bez pristanka, uključujući sadržaj koji se odnosi na djecu.

Ofcom je priopćio da postoje 'duboko zabrinjavajuća izvješća' o tome da se Grok koristi za izradu digitalno 'razodjevenih' slika stvarnih osoba te za generiranje seksualiziranih prikaza maloljetnika. Ako X ne ispuni regulatorne zahtjeve, Ofcom može zatražiti sudski nalog kojim bi se internetskim pružateljima usluga naložilo blokiranje pristupa tom chatbotu.

Platformi prijete i značajne financijske kazne – do 10 posto globalnog prihoda ili 18 milijuna funti (oko 20 milijuna eura), ovisno o tome koji je iznos veći. 'Sadržaj koji kruži na platformi X je odvratan. To nije samo uvreda za pristojno društvo, nego je i nezakonit', izjavila je britanska ministrica tehnologije Liz Kendall u parlamentu.

Francuska, Italija i Njemačka

U Francuskoj je pariško državno odvjetništvo početkom siječnja proširilo postojeću istragu protiv platforme X kako bi obuhvatilo i Grok. Izvorna istraga, pokrenuta još prošlog ljeta, odnosila se na sumnje u organizirano ometanje rada računalnih sustava i nezakonito prikupljanje podataka. Odluka o proširenju donesena je nakon što je pet političara optužilo platformu za stvaranje i širenje lažnih seksualno eksplicitnih videa u kojima se pojavljuju maloljetnici. Francuski regulator Arcom paralelno ispituje moguće kršenje europskog Akta o digitalnim uslugama (DSA).

U Italiji je Agencija za zaštitu osobnih podataka (Garante) 8. siječnja upozorila da korištenje Groka ili sličnih AI alata za 'uklanjanje odjeće' s fotografija osoba bez njihova pristanka može dovesti do kaznene odgovornosti. Takva praksa, navodi regulator, predstavlja ozbiljno kršenje temeljnih prava i sloboda pojedinaca. Agencija je podsjetila da pružatelji AI usluga moraju dizajnirati i nuditi proizvode u skladu s pravilima o zaštiti privatnosti. Italija već surađuje s irskim regulatorom, nadležnim za X jer se sjedište tvrtke nalazi u Irskoj. Prošle jeseni Italija je blokirala platformu ClothOff, a u kazneni zakon uvela je i novu odredbu prema kojoj se širenje AI deepfakeova kažnjava zatvorom do pet godina.

U Njemačkoj vlasti pripremaju konkretan prijedlog zakona o suzbijanju digitalnog nasilja. Ministarstvo pravosuđa poručuje da je neprihvatljiva masovna manipulacija slikama zbog sustavnog kršenja osobnih prava. Zakon bi trebao olakšati žrtvama izravno pravno djelovanje protiv povreda prava na internetu, a vladajuće stranke već su se 2025. godine dogovorile o izmjenama kaznenog zakonodavstva da bi se zatvorile 'rupe' povezane s AI kriminalom, uključujući seksualizirane slike generirane umjetnom inteligencijom.

Australija

U Australija je ured povjerenice za e-sigurnost u siječnju zaprimio manji, ali rastući broj prijava vezanih uz seksualizirani sadržaj koji generira Grok. Regulator je poručio da pomno prati slučajeve te da će, ako se utvrdi kršenje zakona, koristiti svoje ovlasti, uključujući naloge za uklanjanje sadržaja.

Ured je već zatražio dodatne informacije od platforme X o načinu na koji se Grok koristi i kakve zaštitne mjere primjenjuje da bi se procijenilo poštuje li australski Zakon o internetskoj sigurnosti (Online Safety Act) i nova pravila za digitalne platforme.

Regulator je pritom podsjetio da će od 9. ožujka sve internetske usluge, uključujući AI kompanije, imati zakonsku obavezu sprječavati pristup djece seksualnom, nasilnom i drugim štetnim sadržajima, a njezino neispunjavanje može rezultirati formalnim nalozima i financijskim sankcijama.

Zajednički nazivnik reakcija država jest procjena da se ne radi o izoliranoj zloupotrebi, već o strukturnom problemu dizajna AI alata koji omogućuju seksualno nasilje u digitalnom obliku. Regulatori sve češće poručuju da se odgovornost više ne može prebacivati na korisnike, već mora biti ugrađena u samu tehnologiju.