Španjolska vlada zatražit će od državnog odvjetništva da ispita društvene mreže X, Meta i TikTok kako bi se utvrdilo jesu li počinile kaznena djela navodnim omogućavanjem da njihovi sustavi umjetne inteligencije stvaraju i šire materijale seksualnog zlostavljanja djece
Španjolski premijer Pedro Sánchez izjavio je da je vlada donijela tu odluku kako bi zaštitila ‘mentalno zdravlje, dostojanstvo i prava naših sinova i kćeri’ te kako bi se stalo na kraj ‘nekažnjivosti’ velikih društvenih mreža.
Masovno širenje sadržaja
Vlada je priopćila da djeluje na temelju stručnog izvješća koje je analiziralo ‘moguću kaznenu odgovornost sve raširenijih praksi u digitalnom okruženju, poput stvaranja i širenja seksualnog sadržaja i materijala seksualnog zlostavljanja djece putem deepfake tehnologije i manipulacije stvarnim slikama radi stvaranja novih s eksplicitnim seksualnim sadržajem, čime se narušava dostojanstvo žrtava’.
vezane vijesti
U izvješću se upozorava na moguću uključenost društvenih mreža jer omogućuju ‘masovno širenje takvog sadržaja brzinom i netransparentnošću koja znatno otežava otkrivanje i kazneni progon, a istodobno olakšava stvaranje mreža koje proizvode, dijele i unovčavaju taj sadržaj’.
Odluka, koju je vlada usvojila u utorak, dolazi u trenutku kada administracija Pedra Sáncheza priprema niz mjera, uključujući zabranu korištenja društvenih mreža za mlađe od 16 godina te zakon kojim bi se tehnološke tvrtke smatrale odgovornima za govor mržnje i štetan sadržaj.
Sve se to događa manje od mjesec dana nakon što je Europska komisija pokrenula istragu protiv mreže X Elona Muska zbog stvaranja seksualno eksplicitnih slika i mogućeg širenja materijala seksualnog zlostavljanja djece putem njezina sustava umjetne inteligencije Grok.
Opsežna istraga oko Groka
U utorak je Komisija za zaštitu podataka, koja nadzire tehnološke tvrtke sa sjedištem u Dublinu, objavila da će se ‘opsežna’ istraga usredotočiti na funkcionalnosti generativne umjetne inteligencije povezane s jezičnim modelom Grok.
Zamjenik povjerenika tog regulatornog tijela, Graham Doyle, rekao je da su već kontaktirali mrežu X zbog navodne mogućnosti da korisnici putem računa @Grok potaknu stvaranje seksualiziranih slika stvarnih osoba, uključujući djecu.
‘Svrha ove istrage jest utvrditi je li X postupao u skladu sa svojim obvezama prema Općoj uredbi o zaštiti podataka u vezi s obradom osobnih podataka ispitanika iz EU-a i Europskog gospodarskog prostora’, rekao je Doyle.
Glasnogovornica španjolske vlade Elma Saiz poručila je da Madrid neće dopustiti da digitalno seksualno nasilje nad djecom bude ‘pojačano ili zaštićeno’ algoritmima, dodavši: ‘Ovdje je u pitanju sigurnost naših sinova i kćeri te zaštita njihovih slika, njihove privatnosti i njihove slobode.’
Saiz je najavila da će vlada službeno zatražiti od glavnog državnog odvjetnika pokretanje istrage te, ako se utvrdi kršenje zakona, i kazneni progon odgovornih tvrtki.
Meta je priopćila da ne može komentirati predloženu istragu jer nema detaljne informacije o tom pitanju, ali je istaknula da ima vrlo strogu politiku prema seksualnom iskorištavanju djece i dijeljenju intimnih slika bez pristanka, bilo stvarnih ili generiranih umjetnom inteligencijom, te da uklanja takav sadržaj čim ga otkrije. Za komentar su kontaktirani i X i TikTok.
