Nedavno istraživanje ukazuje na zabrinjavajući rast broja kanala koji se bave distribucijom golih slika i eksplicitnih scena generiranih alatima umjetne inteligencije
Milijuni ljudi diljem svijeta koriste aplikaciju Telegram da bi stvarali i dijelili deepfake gole fotografije i videozapise žena, pokazala je opsežna analiza britanskog Guardiana. Riječ je o sadržaju nastalom uz pomoć naprednih AI alata koji omogućuju da se obična fotografija žene bez njezina znanja ili pristanka u svega nekoliko sekundi pretvori u eksplicitan seksualizirani materijal.
Guardian je identificirao najmanje 150 kanala na Telegramu s korisnicima iz brojnih zemalja, uključujući Ujedinjeno Kraljevstvo, Brazil, Nigeriju, Rusiju, Indiju i Kinu. Neki od tih kanala nude 'gole' fotografije i videozapise uz naplatu dok drugi besplatno dijele sadržaj koji prikazuje slavne osobe, influencerice, ali i anonimne žene u lažnim pornografskim scenarijima. Uz to, korisnici razmjenjuju savjete o alatima i metodama za zaobilaženje zaštita koje bi trebale spriječiti takvu zloupotrebu.
Za razliku od ranijih oblika digitalnog zlostavljanja, umjetna inteligencija je ovaj fenomen učinila masovnim i industrijaliziranim te danas gotovo svatko s osnovnim tehničkim znanjem može generirati seksualno eksplicitan sadržaj o bilo kojoj ženi i zatim ga distribuirati milijunima ljudi. Istraživači upozoravaju da to predstavlja ozbiljan oblik rodno uvjetovanog nasilja na internetu.
vezane vijesti
Telegram u svojim pravilima zabranjuje dijeljenje ilegalnog pornografskog sadržaja i alata za izradu deepfake pornografije te navodi da koristi kombinaciju moderatora i automatiziranih alata te da je samo tijekom 2025. godine uklonio više od 950.000 spornih objava. Ipak, činjenica da velik broj kanala i dalje nesmetano djeluje pokazuje koliko je nadzor ograničen, osobito na platformi koja se oslanja na enkripciju i zatvorene grupe.
Problem nije ograničen samo na Telegram. Prema izvješću organizacije Tech Transparency Project, deseci aplikacija za 'nudifikaciju' dostupni su i u Google Play Storeu i Apple App Storeu, s ukupno više od 700 milijuna preuzimanja. Iako su Apple i Google nakon objave izvješća uklonili dio takvih aplikacija, stručnjaci upozoravaju da tržište brzo proizvodi nove verzije i alternative.
Skandal s Grokom
Grok je generirao oko tri milijuna seksualiziranih slika u manje od dva tjedna, uključujući 23 tisuće njih koje su, čini se, prikazivale djecu.
Procjenu je napravio Center for Countering Digital Hate (CCDH) nakon što je, podsjetimo, alat za generiranje slika umjetnom inteligencijom u vlasništvu tvrtke Elona Muska izazvao bijes na međunarodnoj razini jer je korisnicima omogućio postavljanje fotografija stranaca i slavnih osoba, digitalno ih skidajući do donjeg rublja ili u kupaći kostim, postavljajući ih u provokativne poze i objavljujući ih na X-u.
Posljedice za žrtve su teške i dugotrajne. Žene pogođene deepfake pornografijom često se suočavaju s ozbiljnim problemima mentalnog zdravlja, gubitkom posla, društvenom stigmatizacijom i izolacijom. U nekim slučajevima djevojke su izbačene iz škola ili izložene disciplinskim postupcima zbog sadržaja koji nisu same stvorile i širile. U zemljama s nižim prihodima situaciju pogoršavaju slaba digitalna pismenost i nedostatak pravne zaštite, što otvara prostor ucjenama i iznudama.
Prema podacima Svjetske banke, manje od 40 posto država ima zakone koji štite žene i djevojke od kibernetičkog uznemiravanja, a Ujedinjeni narodi procjenjuju da čak 1,8 milijardi njih nema adekvatnu pravnu zaštitu od online zlostavljanja. Aktivisti i stručnjaci upozoravaju da će se bez snažnije regulacije, odgovornosti tehnoloških kompanija i edukacije korisnika ovaj oblik digitalnog nasilja nastaviti širiti.
Deepfake tehnologija sama po sebi nije nužno zlo, ali njezina zloupotreba u svrhu ponižavanja, kontrole i ušutkavanja žena postaje jedan od najozbiljnijih izazova digitalnog doba. Kako upozoravaju stručnjaci, jednom kada se takav sadržaj proširi internetom, šteta za ugled i dostojanstvo žrtve često je nepovratna.
