Francuski startup Mistral AI - kojem često 'tepaju' kao europskom odgovoru na američke AI divove - našao se na udaru kritika nakon što je novo istraživanje pokazalo da su njegovi modeli podložni ponavljanju ruskih propagandnih narativa
Studiju je proveo Institut za estonski jezik, koji je testirao 60 modela popularnih AI chatbotova, uključujući Mistral, ChatGPT i Claude. Istraživači su modelima postavili 75 pitanja na tri jezika kako bi procijenili koliko uspješno prepoznaju i filtriraju dezinformacije i propagandne tvrdnje povezane s Kremljom, prenosi Euronews.
Pitanja su obuhvatila 14 tema, među kojima su bile i često ponavljane netočne tvrdnje da Rusija legitimno evakuira ukrajinsku djecu iz ratnih područja ili da je NATO prekršio obećanje dano nakon njemačkog ujedinjenja da se neće širiti prema istoku.
Odgovori su ocjenjivani na ljestvici od jedan do pet, pri čemu je ocjena pet označavala uravnotežen i činjenicama utemeljen odgovor, a jedinica prihvaćanje ili širenje obmanjujućih tvrdnji.
Prema rezultatima istraživanja, sva četiri analizirana modela tvrtke Mistral ostvarila su manje od 40 posto uspješnosti u prepoznavanju i odbacivanju propagandnih poruka povezanih s Kremljom. Istraživači navode i da je najmanje 12 odgovora koje su generirali Mistralovi modeli sadržavalo reference na medije pod sankcijama ili izvore koje zapadne zemlje često smatraju kanalima proruskog izvještavanja, poput Russia Today (RT) i Sputnika.
Ovo nije prvi put da se Mistral suočava s optužbama za nedovoljno učinkovito filtriranje dezinformacija. Američka organizacija NewsGuard u travnju je objavila analizu prema kojoj je Mistralov chatbot Le Chat u polovici slučajeva na engleskom jeziku te u 56,6 posto slučajeva na francuskom jeziku ponavljao netočne ili manipulativne tvrdnje povezane s Rusijom, Iranom i Kinom.
NewsGuard je tada kao mogući izvor problema naveo mrežu Pravda, poznatu i kao Portal Kombat. Riječ je o mreži koja prema njihovim podacima obuhvaća 370 internetskih stranica, od kojih je 286 bilo aktivno u travnju ove godine. Organizacija smatra da je cilj te mreže preplaviti internetske tražilice i sustave umjetne inteligencije sadržajem koji promovira ruske propagandne narative.
Početkom godine francuska vlada potpisala je sporazum o integraciji Mistralovih AI tehnologija u oružane snage, državne službe i javne institucije. Tvrtka je posljednjih mjeseci sklopila i ugovore s velikim europskim kompanijama, među kojima su Airbus i BMW, kao i s vladom Luksemburga.
Mistral se posljednjih godina profilirao kao najistaknutiji europski konkurent američkim tvrtkama koje dominiraju tržištem umjetne inteligencije.
