Neki računi koriste platformu za masovnu objavu AI-em generiranih videa i prodaju dječje pornografije, a velik broj njih povezan je i s drugim društvenim platformama
Videozapisi generirani umjetnom inteligencijom koji prikazuju djevojčice u izazovnoj odjeći i raznim pozama prikupili su milijune lajkova i dijeljenja na TikToku, unatoč tome što je takav sadržaj zabranjen, pokazuje novo izvješće.
Španjolska organizacija za provjeru činjenica Maldita otkrila je preko 20 računa na toj platformi koji su objavili više od 5200 videozapisa s djevojčicama odjevenima u bikini, školske uniforme i usku odjeću. Ti računi zajedno imaju više od 550.000 pratitelja i gotovo šest milijuna lajkova.
Analiza je pokazala da se u komentarima ispod tih videozapisa nalaze poveznice na vanjske platforme, poput zajednica na Telegramu, na kojima se prodaje dječja pornografija. Maldita je navela da je 12 tih grupa identificiranih u istraživanju prijavila španjolskoj policiji.
Računi, prema izvješću, ostvaruju i financijsku dobit prodajom AI generiranih videozapisa i slika putem TikTokove pretplatničke usluge, a ona korisnicima uz mjesečnu naknadu omogućuje pristup sadržaju kreatora. Prema ugovorima s autorima, TikTok zadržava otprilike 50 posto prihoda ostvarenih tim modelom.
vezane vijesti
Izvješće dolazi u trenutku u kojem brojne zemlje, uključujući Australiju, Dansku i države Europske unije, već uvode ili razmatraju ograničenja korištenja društvenih mreža za osobe mlađe od 16 godina, s ciljem zaštite djece i mladih na internetu.
TikTok od kreatora zahtijeva da jasno označe kada je u izradi videozapisa korištena umjetna inteligencija, a sadržaj se može ukloniti ako se ocijeni štetnim za pojedince, navodi se u pravilima zajednice. Međutim Maldita je utvrdila da većina analiziranih videozapisa nije imala nikakvu oznaku, vodeni žig ili drugu naznaku da je riječ o AI-em generiranom sadržaju.
Dio videozapisa sadržavao je oznaku 'TikTok AI Alive', a ona se automatski koristi kada se statične slike unutar aplikacije pretvaraju u video. Ipak, izvješće upozorava da takve oznake nisu bile dosljedno prisutne.
U izjavama za Euronews Next, i Telegram i TikTok istaknuli su da su 'u potpunosti predani' sprječavanju širenja materijala seksualnog zlostavljanja djece na svojim platformama. Telegram navodi da sav medijski sadržaj učitan na javne dijelove platforme skenira i uspoređuje s već uklonjenim materijalima kako bi spriječio njihovo daljnje širenje. Dodaju kako činjenica da se kriminalne aktivnosti odvijaju u privatnim grupama i oslanjaju na algoritme drugih platformi pokazuje učinkovitost njihove vlastite moderacije. Prema navodima tvrtke, tijekom 2025. godine uklonjeno je više od 909.000 grupa i kanala povezanih s takvim sadržajem.
TikTok, s druge strane, tvrdi da se 99 posto sadržaja štetnog za maloljetnike uklanja automatski, a 97 posto spornih AI-em generiranih sadržaja uklanja se proaktivno. Platforma navodi da odmah reagira uklanjanjem ili gašenjem računa koji dijele seksualno eksplicitan sadržaj s maloljetnicima te da takve slučajeve prijavljuje američkom Nacionalnom centru za nestalu i zlostavljanu djecu. Prema podacima koje je TikTok dostavio CNN-u, između travnja i lipnja 2025. uklonjeno je više od 189 milijuna videozapisa, a zabranjeno je više od 108 milijuna računa.
