Postaje lako stvarati hiperrealistične videozapise koji prikazuju nasilje, uključujući ono nad ženama i djecom, na što se reagira sa zakašnjenjem ili uopće ne
Ljudi pronalaze videozapise generirane umjetnom inteligencijom na TikToku i X-u koji prikazuju kako netko davi žene.
Videozapisi izgledaju zastrašujuće realistično. Isječci su kratki, traju možda 10 sekundi i imaju naslove poput 'Navijačica tinejdžerica je zadavljena', prikazujući sintetičke žene kako plaču i bore se.
vezane vijesti
Brojni dosad pronađeni zapisi imaju vodeni žig kakav koristi Sora 2, novi generator videozapisa OpenAI-a. Neki od novijih videozapisa nemaju takav žig, što znači da ljudi možda pokušavaju shvatiti kako ga ukloniti ili koriste druge alate umjetne inteligencije.
Račun na X-u gotovo da nema pratitelja dok ih je sličan na TikToku imao preko 1000 prije nego što je konačno uklonjen. Oba su, čini se, pokrenuta u listopadu, prvo objavljivanjem pravih isječaka, da bi zatim prešli na nasilje generirano umjetnom inteligencijom.
Osim što je u pitanju uznemirujući sadržaj, problem je i u tome što ga platforme za umjetnu inteligenciju i društvene mreže ne uspijevaju prepoznati, iako ga njihova pravila jasno zabranjuju.
TikTok je uklonio račun nakon što su mediji počeli postavljati pitanja, a X navodno nije, čak ni nakon što su počele stizati prijave korisnika.
Postaje, dakle, lako stvarati hiperrealistične videozapise koji prikazuju nasilje, uključujući ono nad ženama i djecom, na što se reagira sa zakašnjenjem ili uopće ne. Iako ti videozapisi ne prikazuju stvarne događaje, to ne znači da ne mogu uzrokovati stvarnu psihološku štetu i hraniti kulturu nasilja.
Vlada Ujedinjenog Kraljevstva već je najavila da će svaki pornografski prikaz davljenja učiniti ilegalnim. Također, raste pritisak na OpenAI, TikTok i X da zajednički postave prave zaštitne ograde na svoje alate s umjetnom inteligencijom, piše Digital Trends.
