Američka tvrtka za umjetnu inteligenciju Anthropic, poznata po svom chatbotu Claude, objavila je da je njezina tehnologija zloupotrijebljena od strane hakera u nizu kibernetičkih napada koji su uključivali krađu i iznudu osobnih podataka. Tvrtka je navela kako je Claude korišten za pisanje koda namijenjenog napadima, ali i u pokušajima sjevernokorejskih prevaranata da dobiju udaljene poslove u velikim američkim kompanijama. Anthropic je slučajeve prijavio policiji te poboljšao svoje sustave za prevenciju.

AI u službi kibernetičkog kriminala

Anthropic je otkrio slučaj tzv. 'vibe hackinga', gdje je Claude pomogao u pisanju koda kojim se moglo provaliti u najmanje 17 različitih organizacija, uključujući i državne institucije. Tvrtka tvrdi da su hakeri umjetnu inteligenciju koristili u 'dosad nezabilježenoj mjeri' – ne samo za tehničke zadatke, nego i za donošenje taktičkih i strateških odluka.

Claude je navodno pomagao pri odabiru podataka za krađu, kreiranju psihološki ciljanih ucjenjivačkih poruka i čak predlagao iznose otkupnine za žrtve. Ovakvi slučajevi ukazuju na to da se vrijeme potrebno za iskorištavanje ranjivosti u sustavima naglo skraćuje, što povećava opasnost za potencijalne žrtve.

Stručnjakinja za kibernetički kriminal i umjetnu inteligenciju, Alina Timofeeva, upozorila je da se sustavi zaštite moraju prilagoditi: 'Detekcija i prevencija moraju postati proaktivni, a ne reaktivni nakon što šteta već nastane.'

Sjevernokorejski operativci i lažni poslovi

Osim kibernetičkih napada, Anthropic je identificirao i pokušaje sjevernokorejskih operativaca da pomoću Claudea kreiraju lažne profile i prijave se na udaljene poslove u američkim tehnološkim divovima s liste Fortune 500.

Praksa korištenja rada na daljinu za infiltraciju u korporativne sustave poznata je već godinama, no Anthropic upozorava da je upotreba umjetne inteligencije u tim prijevarama nešto posve novo. Claude se koristi za pisanje prijava za posao, prevođenje poruka i izradu koda, čime su prevaranti nadvladali tehnička i kulturna ograničenja koja bi ih inače sprječavala, piše BBC.

Geoff White, suvoditelj BBC-jevog podcasta The Lazarus Heist, istaknuo je da 'agentna umjetna inteligencija' omogućuje sjevernokorejskim radnicima da se predstave kao idealni kandidati, a kada budu zaposleni, tvrtke nesvjesno krše međunarodne sankcije isplaćujući im plaće.

Unatoč tim prijetnjama, stručnjaci naglašavaju da AI trenutačno ne stvara potpuno nove oblike kriminala, već se često koristi za poboljšanje postojećih metoda, poput phishinga i iskorištavanja poznatih ranjivosti softvera.

No, kako upozorava sigurnosna konzultantica Nivedita Murthy iz tvrtke Black Duck, organizacije moraju shvatiti da je umjetna inteligencija ujedno i skladište povjerljivih podataka te da zaslužuje istu razinu zaštite kao i drugi informacijski sustavi.