Slučajevi bijega umjetne inteligencije iz laboratorija, infiltracija u druge tvrtke i pokušaja obmane ljudi punili su naslovnice posljednjih tjedana.

Pojedini modeli umjetne inteligencije čak su i surađivali kako bi se oslobodili svojih testnih okruženja.

Znači li to da strojevi preuzimaju vlast? Ne baš.

Prema izvješću IBM-a, jedno od četiri kršenja podataka uzrokovano je umjetnom inteligencijom od veljače 2025. do ožujka 2026. godine.

Amerikanci su prošle godine izgubili više od 893 milijuna američkih dolara zbog prijevara povezanih s umjetnom inteligencijom, objavio je FBI.

Ali, ljudi i dalje vuku konce. Agenti umjetne inteligencije ne stvaraju potpuno nove metode, već pojačavaju postojeće poput phishinga i prijevara sa zlonamjernim softverom.

Umjetna inteligencija je samo alat, koji treba vrlo specifične upute kako treba postupiti ako želite dobiti točno određeni rezultat.

Specifične okolnosti

Također, incidenti vezani uz OpenAI, Anthropic i druge tvrtke dogodili su se pod vrlo specifičnim okolnostima.

OpenAI je isključio ograničenja koja bi spriječila njegov model u nastavljanju visokorizičnih kibernetičkih aktivnostima.

Anthropic je provodio svoje testove bez standardnih sigurnosnih mjera zaštite u modelima koji su općenito dostupni javnosti.

Institut za sigurnost umjetne inteligencije također je isključio određene alate koji su mogli smanjiti opseg onoga što su modeli bili sposobni.

Istraživači to obično rade kako bi u potpunosti procijenili mogućnosti modela.

Stručnjaci upozoravaju kako će sličnih incidenata biti još.

Naglašavaju važnost implementacije snažnih praksi kibernetičke sigurnosti, poput zakrpa sigurnosnih propusta, praćenja AI agenata na radnom mjestu i opreza prema socijalnom inženjeringu i phishing prijevarama.

Ipak, AI ostaje program kojim upravlja čovjek, koji ga usmjerava i donosi ključne odluke. Još smo daleko od stvarnosti u kojoj su agenti umjetne inteligencije pametni kao ljudi.

Kako hakeri koriste umjetnu inteligenciju?

Umjetna inteligencija ne djeluje autonomno kako bi smislila nove napade.

Umjesto toga, pomaže kibernetičkim kriminalcima u višestruko bržem implementiranju postojeće tehnike, a istovremeno su učinkovitiji i djelotvorniji.

To može uključivati ​​stvari poput korištenja umjetne inteligencije za analizu web stranice tvrtke kako bi se otkrilo koga ciljati ili raspoređivanje AI agenta za vođenje početnih pregovaračkih razgovora sa žrtvom kibernetičke iznude.

AI agenti mogu oponašati ljudske razgovore putem teksta, pa čak i određenih glasova.

Hakeri s malo stručnosti sada mogu iskoristiti umjetnu inteligenciju za izvođenje naprednih shema. Sad su u stanju proizvesti kvalitetniji rad koji izgleda kao da bi za njegovu izradu trebalo tri puta više vremena.

Također koriste AI za poslove poput generiranja infrastrukture potrebne za postavljanje zlonamjernih web stranica.

Automatizacija tih poslova smanjuje troškove izrade i distribucije zlonamjernog softvera, piše CNN Business.