NCA i Zaklada za nadzor interneta (IWF) objavili su nove smjernice za zaštitu djece od sve češće pojave korištenja AI-a za izradu pedofilskog sadržaja. Do toga je došlo nakon što je škola u Britaniji bila meta kriminalnim skupinama koje su iskoristile javno dostupne fotografije učenika da bi pomoću AI-a stvorile pornografski materijal i zatim prijetile da će ih objaviti ako im se ne plati.

Analitičari IWF-a su u 2025. otkrili 3400 video snimki generiranih AI-om, golemi rast u odnosu na 13 u 2024.

“Prijetnja je uznemirujuća", rekao je izvršni direktor IWF-a Kerry Smith. 

“Ne govorimo o tome da fotografije djece ne bi trebalo dijeliti s ljudima koje volite i kojima vjerujete, nego želimo da ljudi budu svjesni potencijalnih rizika i da donose informirane odluke, imajući na umu sve činjenice".

Smith kaže da posljednice takvih fotografija mogu biti razorne.

"Šteta je vrlo stvarna. I potencijal za dugoročne posljedice je nešto što vjerujem svaki roditelj želi spriječiti".

Pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji, upozorile su organizacije. Osim toga, fotografije i video snimke sve su nasilnije, pa je tako 65 posto od 3443 umjetno generiranih videa u 2025. klasificirano u kategoriju A prema britanskom kaznenom zakonu, što znači da prikazuju najteža kaznena djela poput silovanja i seksualnog mučenja.

Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore "prijateljske" grupe u kojima dijele fotografije svoje djece ili da prilagode postavke o privatnosti kako bi ih mogli vidjeti samo ograničeni broj ljudi.

IWF je također pozvao tehnološke kompanije da dobro zaštite svoje modele AI-a prije nego što ih ponude korisnicima kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.