Za militantne organizacije umjetna inteligencija mogla bi postati snažno oružje: alat za regrutiranje novih članova, proizvodnju uvjerljivih deepfake sadržaja i unapređenje kibernetičkih napada, upozoravaju stručnjaci za nacionalnu sigurnost i obavještajne službe, piše AP.

Na jednom od proislamskih internetskih foruma povezanih s Islamskom državom (IS) korisnik je prošlog mjeseca pozvao simpatizere i organizacije da uključe umjetnu inteligenciju u svoje operacije. 'Jedna od najboljih stvari kod AI-a je to koliko je jednostavan za korištenje', napisao je na engleskom jeziku.

'Neke obavještajne službe strahuju da će AI doprinijeti regrutiranju', dodao je. 'Pretvorimo njihove noćne more u stvarnost.'

Prirodni nastavak digitalne strategije

Islamska država, koja je prije nekoliko godina kontrolirala dijelove Iraka i Sirije, danas djeluje kao decentralizirana mreža militantnih skupina povezanih zajedničkom agresivnom ideologijom. Još je ranije IS prepoznao društvene mreže kao snažan alat za širenje propagande i privlačenje novih pristaša, pa ne čudi to da sada eksperimentira umjetnom inteligencijom, ističu sigurnosni analitičari.

Za slabo organizirane i financijski ograničene ekstremističke skupine, pa čak i za pojedince s pristupom internetu, AI omogućava masovnu proizvodnju propagandnog i lažnog sadržaja, čime se znatno širi njihov doseg i utjecaj.

'Za svakog protivnika umjetna inteligencija drastično olakšava djelovanje', rekao je John Laliberte, bivši istraživač ranjivosti u američkoj Nacionalnoj sigurnosnoj agenciji (NSA), danas izvršni direktor kibernetičke sigurnosne tvrtke ClearVector. 'Uz AI čak i mala skupina s vrlo malo novca može ostaviti značajan trag.'

Kako ekstremisti koriste AI

Militantne skupine počele su eksperimentirati umjetnom inteligencijom gotovo odmah nakon što su alati poput ChatGPT-ja postali široko dostupni. U godinama koje su uslijedile sve češće koriste generativne AI programe za izradu realističnih fotografija i videozapisa.

U kombinaciji s algoritmima društvenih mreža, takav lažni sadržaj može poslužiti za privlačenje novih pristaša, zastrašivanje protivnika i širenje dezinformacija u razmjerima koji su do prije nekoliko godina bili nezamislivi.

Prije dvije godine takve su skupine širile lažne slike povezane s ratom između Izraela i Hamasa, a prikazivale su krvave i napuštene bebe u razrušenim zgradama te su izazvale snažne emocionalne reakcije, dodatno polarizirale javnost i zamaglile stvarne strahote sukoba. Istovremeno su ih ekstremističke skupine na Bliskom istoku koristile za regrutiranje novih članova, kao i antisemitske skupine u SAD-u i drugdje.

Sličan obrazac zabilježen je i prošle godine, nakon napada koji je izvela podružnica IS-a u Rusiji, kada je u koncertnoj dvorani ubijeno gotovo 140 ljudi. U danima nakon napada AI-em generirani propagandni videozapisi brzo su se proširili forumima i društvenim mrežama, s ciljem privlačenja novih pristaša.

Prema istraživačima iz organizacije SITE Intelligence Group, Islamska država koristila je i deepfake audiozapise svojih vođa koji govore vjerske tekstove, kao i AI alate za brzo prevođenje poruka na više jezika.

Velike ambicije, ali ograničene sposobnosti – zasad

Iako eksperimentiraju umjetnom inteligencijom, takve skupine i dalje znatno zaostaju za državnim akterima poput Kine, Rusije ili Irana, kaže Marcus Fowler, bivši agent CIA-e i izvršni direktor tvrtke Darktrace Federal. Naprednija primjena umjetne inteligencije za ekstremiste zasad je 'više aspiracija nego stvarnost', no rizici su ozbiljni i s vremenom će rasti kako AI alati postaju jeftiniji i dostupniji.

Kibernetički kriminalci već koriste sintetički generirane glasove i videozapise za phishing napade, pri čemu se lažno predstavljaju kao visoki poslovni ili državni dužnosnici da bi dobili pristup osjetljivim sustavima. Umjetna inteligencija također omogućuje pisanje zlonamjernog koda i automatizaciju dijelova kibernetičkih napada.

Posebno zabrinjava mogućnost da bi militantne skupine mogle pokušati koristiti AI u razvoju biološkog ili kemijskog oružja da bi nadoknadili nedostatak stručnog znanja. Taj je rizik uključen i u najnoviju procjenu prijetnji američkog Ministarstva domovinske sigurnosti.

'ISIS je rano ušao na Twitter i brzo pronašao načine na koje iskoristiti društvene mreže', rekao je Fowler. 'Uvijek traže sljedeći alat koji mogu dodati svom arsenalu.'

Kako odgovoriti na prijetnju

Zakonodavci u SAD-u upozoravaju da je nužno brzo reagirati. Senator Mark Warner, vodeći demokrat u Odboru za obavještajne poslove Senata, istaknuo je potrebu da se olakša razmjena informacija između AI kompanija i države o zloupotrebi tehnologije, bilo da je riječ o ekstremistima, hakerima ili stranim obavještajnim službama.

'Od kraja 2022. godine i javnog lansiranja ChatGPT-ja bilo je jasno da će ista fascinacija i eksperimentiranje koje pokazuje šira javnost biti prisutni i kod zlonamjernih aktera', rekao je Warner.

Tijekom nedavnog saslušanja u Zastupničkom domu američkog Kongresa, zastupnici su doznali da su Islamska država i Al Kaida organizirale radionice na kojima su svoje pristaše podučavale korištenju umjetne inteligencije. Zakon koji je prošlog mjeseca usvojio Zastupnički dom zahtijevao bi da Ministarstvo domovinske sigurnosti svake godine procjenjuje rizike koje AI predstavlja u kontekstu ekstremističkih skupina.

'Zaštita od zlonamjerne upotrebe umjetne inteligencije ne razlikuje se bitno od pripreme za klasične napade', rekao je republikanski zastupnik August Pfluger, predlagatelj zakona. 'Naše politike i sposobnosti moraju pratiti prijetnje sutrašnjice.'