Umjetna inteligencija više nije samo alat za propagandu i širenje ekstremističkih poruka. Terorističke skupine sve je češće koriste za planiranje operacija, analizu terena, usavršavanje taktike i razvoj novih načina izvođenja napada, pokazuje novo istraživanje Sveučilišta Cambridge te upozorava da se opseg takve zlouporabe dosad ozbiljno podcjenjivao
Istraživanje, koje potpisuje stručnjakinja za terorizam i tehnologiju Antonia Juelich, temelji se na gotovo 60 intervjua s bivšim pripadnicima islamističke skupine Boko Haram u Nigeriji. Rezultati upućuju na to da generativni AI modeli više nisu samo sredstvo za izradu propagandnih materijala ili prevođenje sadržaja, već postaju sastavni dio planiranja i provedbe terorističkih aktivnosti.
Prema istraživanju, pripadnici Boko Harama koriste chatbotove tijekom gotovo svih faza svojih operacija – od pripreme i prikupljanja informacija do analize nakon izvedenih akcija. Dosadašnja javna rasprava uglavnom se usredotočivala na korištenje umjetne inteligencije za propagandu, regrutaciju novih članova i sigurniju komunikaciju među ekstremistima. No novo istraživanje pokazuje da je uporaba AI-a znatno šira.
'U gotovo svakoj fazi vojnih aktivnosti oni se konzultiraju s velikim jezičnim modelima – od pripreme misije, preko same provedbe, do analize nakon završetka operacije', navodi Juelich u radu, piše New York Times.
vezane vijesti
Zaštitne mjere mogu se zaobići
Autori upozoravaju da vodeći AI sustavi imaju ugrađene sigurnosne mehanizme koji bi trebali spriječiti davanje odgovora koji mogu dovesti do nasilja ili druge štete. Međutim brojna prethodna istraživanja pokazala su da uporni korisnici često uspijevaju zaobići takva ograničenja.
Na to upozoravaju i američki vojni te sigurnosni stručnjaci te smatraju da terorističke organizacije danas kombiniraju više AI platformi kako bi povećale šanse za dobivanje korisnih informacija. Prema istraživanju, pripadnici Boko Harama koristili su različite modele, uključujući ChatGPT, Claude, Gemini, Grok i kineski DeepSeek, pri čemu nisu bili vezani uz jednog pružatelja usluga.
Tehnološke tvrtke odbacuju tvrdnje
Tvrtke koje razvijaju vodeće AI modele odbacuju tvrdnje da njihovi sustavi omogućuju planiranje nasilja. Anthropic poručuje da su njegovi modeli razvijeni tako da odbijaju zahtjeve povezane s nasiljem, planiranjem napada ili izradom eksplozivnih naprava te ističe kako nijedna kompanija sama ne može spriječiti sve pokušaje zlouporabe.
Google navodi da je analizirao rezultate istraživanja i zaključio kako odgovori njegova modela Gemini nisu bili dovoljno konkretni da bi omogućili stvarnu zlouporabu. OpenAI također ističe da korištenje njegovih alata za nasilje ili terorizam krši pravila korištenja te da kontinuirano jača zaštitne mehanizme. Meta je priopćila da se istraživanje uglavnom odnosi na starije verzije njezinih modela, a xAI i DeepSeek nisu odgovorili na upite novinara.
Rezultati istraživanja podudaraju se s drugim nedavno objavljenim analizama. Centar za strateške i međunarodne studije (CSIS) upozorava da umjetna inteligencija može pomoći ekstremistima u različitim oblicima operativnog planiranja, uključujući analizu otvorenih izvora, prijevode, izviđanje, planiranje logistike i sigurniju komunikaciju.
Slične zaključke donijela je i međunarodna organizacija Tech Against Terrorism, koja djeluje uz potporu Ujedinjenih naroda. U testiranju više od dvadeset vodećih AI modela utvrđeno je da su sustavi potpuno odbili odgovoriti na potencijalno opasne upite u samo 57 posto slučajeva. Kod pojedinih kategorija štetnih zahtjeva zaštitni mehanizmi pokazali su se znatno manje učinkovitima.
Stručnjaci ipak upozoravaju da umjetna inteligencija neće iz temelja promijeniti način djelovanja terorističkih skupina niti zamijeniti iskustvo, organizaciju i logistiku potrebne za izvođenje složenih napada. No mogla bi povećati sposobnosti manje iskusnih pojedinaca i skupina te ubrzati radikalizaciju, planiranje i koordinaciju pojedinih aktivnosti.
