Tim koji je obavio istraživanje kaže da je taj robot za brbljanje temeljen na umjetnoj inteligenciji postao 'stroj industrijskih razmjera za proizvodnju materijala seksualnog zlostavljanja'
Grok je generirao oko tri milijuna seksualiziranih slika u manje od dva tjedna, uključujući 23 tisuće njih koje su, čini se, prikazivale djecu.
Procjenu je napravio Center for Countering Digital Hate (CCDH) nakon što je alat za generiranje slika umjetnom inteligencijom u vlasništvu tvrtke Elona Muska izazvao bijes na međunarodnoj razini jer je korisnicima omogućio postavljanje fotografija stranaca i slavnih osoba, digitalno ih skidajući do donjeg rublja ili u kupaći kostim, postavljajući ih u provokativne poze i objavljujući ih na X-u.
vezane vijesti
Trend je postao viralan, dosegnuvši vrhunac 2. siječnja sa 199.612 pojedinačnih zahtjeva, prema analizi koju je provela Peryton Intelligence, tvrtka za digitalnu obavještajnu djelatnost specijalizirana za izljeve mržnje online. CCDH je napravio potpuniju procjenu rezultata ove značajke, od njenog pokretanja 29. prosinca 2025. do 8. siječnja 2026. godine. Po njihovim rezultatima, čini se da je utjecaj tehnologije možda bio širi nego što se prije mislilo.
Javne osobe identificirane na analiziranim seksualiziranim slikama uključuju Selenu Gomez, Taylor Swift, Billie Eilish, Arianu Grande, Ice Spice, Nicki Minaj, Christinu Hendricks, Millie Bobby Brown, švedsku zamjenicu premijera Ebbu Busch i bivšu američku potpredsjednicu Kamalu Harris.
Značajka je ograničena na plaćene korisnike 9. siječnja, a CCDH je procijenio da je tijekom 11 dana Grok pomagao u stvaranju seksualiziranih slika djece svaku 41 sekundu. To je uključivalo selfi koji je objavila učenica, a koju je Grok skinuo, pretvarajući taj selfi u sliku nje u bikiniju. Indonezija, Malezija i druge države najavile su blokadu Groka.
vezane vijesti
Silicijska dolina profitira od skandala
'Svlačenje žene bez njezinog dopuštenja je seksualno zlostavljanje. Tijekom cijelog tog razdoblja Elon je hvalio proizvod, čak i kada je svijetu bilo jasno da ga se koristi na ovaj način. Ono što je Elon stvarao bile su kontroverze, privlačenje pažnje, angažman i korisnici. Bilo je to duboko uznemirujuće', rekao je Imran Ahmed, glavni izvršni direktor CCDH-a.
Dodao je da je takvo ponašanje postalo standardni priručnik za Silicijsku dolinu, a posebno za društvene mreže i platforme umjetne inteligencije. 'Profitiraju od ovog skandala. Ne radi se o Musku osobno. Radi se o sustavu [s] perverznim poticajima i bez minimalnih zaštitnih mjera propisanih zakonom. Dok regulatori i zakonodavci ne obave svoj posao i ne stvore minimalno očekivanje sigurnosti, ovo će se nastaviti događati', prognozirao je Ahmed, a prenosi Guardian.
X je 14. siječnja objavio da je blokirao značajku koja je Groku omogućavala uređivanje slika stvarnih ljudi kako bi ih prikazao u otkrivajućoj odjeći, uključujući premium pretplatnike.
'Ostajemo predani tome da X postane sigurna platforma za sve i nastavljamo imati nultu toleranciju prema bilo kojem obliku seksualnog iskorištavanja djece, golotinje bez pristanka i neželjenog seksualnog sadržaja.
Poduzimamo mjere za uklanjanje sadržaja visokog prioriteta koji krši pravila, uključujući materijale o seksualnom zlostavljanju djece i golotinju bez pristanka, poduzimajući odgovarajuće mjere protiv računa koji krše naša pravila.
Također, prema potrebi, prijavljujemo račune koji traže materijale o seksualnom iskorištavanju djece tijelima za provedbu zakona', poručili su iz X-a.
