Bivši pakistanski premijer Imran Khan proglasio je pobjedu na izborima u zemlji u govoru koji je generiran umjetnom inteligencijom. Khanova stranka stvorila je video koristeći AI kako bi simulirala Khanov glas temeljem bilješki koje je poslao iz zatvora, gdje se nalazi zbog korupcije i odavanja državnih tajni. To nije bio prvi put da se tehnologija koristila u izrazito represivnoj izbornoj sezoni u Pakistanu, ali ovaj put je privukla pozornost svijeta. Khan je preko internetskih platformi, a potom i uz pomoć AI-ja slao poruke pristašama, unatoč naporima pakistanske vojske da ga cenzuriraju
Nakon što je u kolovozu prošle godine završio u zatvoru i zabranjeno mu je da se kandidira na izborima, Khan je upotrijebio umjetnu inteligenciju kako bi stvorio 'zamjenu' za širenje poruka svojim sljedbenicima, prema izvješćima u New York Timesu i drugim medijima.
Iako je razdoblje predizborne kampanje u zemlji proveo u zatvoru, iza rešetaka je posljednjih mjeseci okupljao svoje pristaše govorima koji koriste umjetnu inteligenciju za repliciranje njegova glasa, kao dio tehnološke strategije. Ovo nije prvi put da Khan koristi AI za komunikaciju sa svojim glasačima unutar zatvorskih zidova. U prosincu je, naime, održavao predizborne govore istom metodom.
Korištenje AI tehnologije izazvalo je zabrinutost u pogledu njezine vjerodostojnosti, pogotovo tijekom superizborne 2024. godine. Sad je, naime, moguće izraditi lažne videozapise pomoću umjetne inteligencije koji bi mogli prikazati političare kako daju lažne izjave. Zabrinjava i to što gledatelji možda neće shvatiti da su videozapisi lažni, čak i ako su označeni da su stvoreni umjetnom inteligencijom.
vezane vijesti
Khanovoj stranci Pakistan Tehreek-e-Insaf (PTI) zabranjeno je sudjelovati na izborima u četvrtak zbog nepoštivanja izbornih zakona, ali su članovi stranke vodili kampanju kao neovisni, osvojivši 101 od 266 mjesta u Nacionalnoj skupštini, izvijestio je Associated Press.
Unatoč zabrani i Khanovu zatvaranju zbog optužbi - koje se kreću od odavanja državnih tajni do korupcije i nezakonitog braka - milijuni pristaša bivšeg igrača kriketa glasali su za njega, iako on ne može biti dio bilo koje vlade dok je u zatvoru. U subotu, kada su službena prebrojavanja pokazala da su kandidati koji su se svrstali uz njegovu stranku osvojili najviše mjesta, u iznenađujućem rezultatu koji je politički sustav zemlje bacio u kaos, Khanov AI glas je proglasio pobjedu.
'Imao sam puno povjerenje da ćete svi izaći na izbore. Potvrdili ste moju vjeru u vas, a vaš masivan odaziv je sve zaprepastio', rekao je tihi, pomalo robotizirani glas u jednominutnom videu, koji je koristio starije fotografije i snimke Khana, uz odricanje od odgovornosti o svom AI podrijetlu.
Khan je u svom govoru odbacio tvrdnju o pobjedi svog suparnika, bivšeg premijera Nawaza Sharifa. Naime, prve projekcije pokazale su da će stranka Nawaz Pakistanske muslimanske lige krenuti prema pobjedi. Međutim, kada je stigao konačni rezultat, stranka je osvojila samo 75 mjesta. Sharif je rekao da njegova stranka razgovara s drugim skupinama o formiranju koalicijske vlade jer nije uspjela sama osvojiti većinu.
Prebrojavanje glasova odgođeno je nakon prekida internetske veze, u turbulentnom završetku izbora obilježenih nasiljem i nepovjerenjem. Konačni rezultat objavljen je više od 60 sati nakon završetka glasanja na nacionalnim izborima u četvrtak, a ta je odgoda izazvala pitanja o procesu.
Opasnost AI-ja
Pojava lažnih videozapisa generiranih umjetnom inteligencijom izaziva zabrinutost zbog potencijalnog širenja dezinformacija. Gledatelji možda ne mogu uvijek razlikovati stvarni sadržaj od lažnog, čak i kad je označen generiran umjetnom inteligencijom, što predstavlja prijetnju vjerodostojnosti informacija u digitalnom dobu.
Korištenje umjetne inteligencije za repliciranje Khanova glasa temelji se na primjerima poput kampanje južnokorejskog predsjednika Yoon Suk Yeola, za čije je potrebe stvoren AI avatar, piše The New York Times.
Prošlog tjedna glas američkog predsjednika Joea Bidena oponašan je u 'robotskom' pozivu uz korištenje AI-ja, kako bi se građani u New Hampshireu obeshrabrili da glasaju na predizborima Demokratske stranke prošlog mjeseca u toj državi. Nakon tog je 'incidenta' američka Savezna komisija za komunikacije (FCC) zabranila glas generiran umjetnom inteligencijom u automatiziranim pozivima.
