Kada su birači u Irskoj izašli na birališta da bi izabrali novog predsjednika, mnogi su se iznenadili vidjevši ime Catherine Connolly na glasačkom listiću. Samo nekoliko dana ranije društvenim je mrežama kružio deepfake video u kojem je tadašnja kandidatkinja - a danas predsjednica Irske - lažno objavila povlačenje iz utrke. U videozapisu su prikazani i lažni novinari i voditelji nacionalne televizije RTE koji su potvrđivali tu 'vijest'
U isto vrijeme u Nizozemskoj je otkriveno da su dvojica krajnje desnih zastupnika parlamenta stajala iza stanice na Facebooku koja je širila deepfake slike njihova suparnika s ljevice uoči napetih izbora. Nakon što je afera izbila u javnost, uslijedile su isprike, ali i političke optužbe.
Tako je jedan tjedan bio dovoljan da umjetna inteligencija iz temelja uzdrma dvije europske izborne kampanje i razotkrije ozbiljne rupe u sustavima zaštite birača od digitalne manipulacije, piše Politico.
vezane vijesti
AI preplavio izborne kampanje
'Normalizacija takvih praksi vrlo je zabrinjavajuća', upozorava Hannes Cools, docent na Sveučilištu u Amsterdamu. Prema njegovu kolegi Claesu de Vreeseu, profesoru za umjetnu inteligenciju i društvo, nizozemski izbori 'vjerojatno su prvi u Europi u kojima je AI postao sastavni dio političkih kampanja na više razina'.
Zajedničko istraživanje sveučilišta u Amsterdamu i Mainzu, koje je analiziralo oko 20.000 objava povezanih s izborima, pokazalo je da je više od 400 njih bilo generirano umjetnom inteligencijom. Najaktivnija je bila stranka Geerta Wildersa – desničarski Party for Freedom (PVV) s čak četvrtinom AI objava (120) koje su stizale s računa povezanih s tom strankom.
Wilders je kampanju otvorio AI generiranim videom koji prikazuje izmišljenu budućnost Nizozemske pod šerijatskim zakonima. Prema tjedniku De Groene Amsterdammer, video je izrađen pomoću OpenAI-evog generatora videa Sora. 'Za krajnju desnicu normativna pravila često su stvar koju treba prekršiti, a šok je dio strategije', objašnjava istraživač Fabio Votta. 'Oni se ne boje posljedica za ugled stranke.'
No čak se i Wilders ovoga puta morao ispričati, i to bivšem potpredsjedniku Europske komisije Fransu Timmermansu, vođi lijevo-zelene koalicije. Nizozemski mediji otkrili su da su dvojica PVV-ovih zastupnika stajala iza stranice koja je objavljivala montirane slike Timmermansa u lisicama i s gomilom novca ispred sebe.
S druge strane Europe, irska predsjednica Catherine Connolly morala je uslijed izbora javno demantirati svoju 'ostavku'. 'Riječ je o sramotnom pokušaju da se birači zavedu i potkopa demokracija', poručila je.
Lažna snimka, u formatu vijesti RTE-a, prikazivala je deepfake verziju Connolly kako izjavljuje: 'S dubokim žaljenjem objavljujem da povlačim svoju kandidaturu.' Uslijedili su i lažni komentari poznatih TV voditelja koji su 'analizirali' posljedice te odluke.
Meta i YouTube (u vlasništvu Googlea) uklonili su snimku, no nije poznato koliko je dugo bila dostupna. Connolly je na kraju uvjerljivo pobijedila sa 63 posto glasova, ali slučaj je ostavio gorak okus.
AI savjetuje za koga glasati?
Manipulacija putem deepfake sadržaja samo je dio problema. Stručnjaci upozoravaju i na novu, suptilniju prijetnju -birače koji traže savjet od AI chatbota o tome za koga glasati.
Nizozemska agencija za zaštitu podataka nedavno je upozorila građane da ne pitaju chatbotove za političke preporuke jer oni nude 'izrazito iskrivljenu i polariziranu sliku političkog krajolika'. 'Chatbotovi su puni pogrešaka', kaže De Vreese. 'Često pripisuju stavove pogrešnim strankama i naginju određenom političkom smjeru.'
Eksperiment je pokazao da AI sustavi često preporučuju lijevim biračima glas za koaliciju zelenih i laburista dok desne korisnike vode prema ekstremno desnom PVV-u. 'Osobe slabije pismenosti posebno su ranjive na ovakve oblike dezinformacija', upozorava Cools.
Bruxelles sve to promatra, ali sporo reagira
U Bruxellesu su integritet izbora, rizici AI-a i borba protiv dezinformacija visoko na dnevnom redu, no regulatori su još uvijek korak iza tehnologije. Zakon o digitalnim uslugama (DSA) već obvezuje platforme poput Mete i Googlea da poduzmu mjere protiv dezinformacija, a obje su kompanije prepoznale generativni AI kao 'glavni rizik za demokratske procese'.
No trenutačni okvir ne regulira izravno način na koji europske političke stranke same koriste AI u kampanjama. Većina AI objava u Nizozemskoj, pokazalo je istraživanje, nije imala oznaku da je sadržaj generiran umjetnom inteligencijom, a tamo gdje je postojala dodale su je same platforme, ne stranke.
Europska komisija u međuvremenu priprema smjernice za visokorizične AI sustave te će stupiti na snagu najranije 2026. godine. 'Smjernice će uključivati i poglavlje o AI sustavima koji mogu utjecati na ishode izbora ili referenduma', potvrdio je glasnogovornik Komisije Thomas Regnier.
Od kolovoza ove godine tvorci velikih modela poput OpenAI-a (GPT) i Googlea (Gemini) već su obvezni provoditi mjere za ublažavanje 'sistemskih rizika' po demokratske procese. Do kraja godine Bruxelles će predstaviti i novi prijedlog mjera za jačanje integriteta izbornih kampanja protiv stranog uplitanja, no on zasad neće imati obvezujući pravni karakter.
