Ove godine puno se moglo čuti o tome kako umjetna inteligencija omogućuje nove prijevare, od deepfakeova slavnih osoba na Facebooku do hakera koji se lažno predstavljaju kao vladini dužnosnici.

Međutim, novo izvješće sugerira kako umjetna inteligencija predstavlja i rizik od prijevare iz drugog smjera - lako nasjeda na prijevare koje će ljudski korisnici puno vjerojatnije otkriti.

Startup za kibernetičku sigurnost Guardio, u kojem proizvode proširenje za web preglednike dizajnirano za otkrivanje prijevara u stvarnom vremenu, objavio je izvješće Scamlexity.

Njegovi nalazi odnose se na takozvane preglednike 'agentske umjetne inteligencije' kao što je Opera Neon, koji pregledavaju web odredište umjesto vas i vraćaju se s rezultatima.

Agentsku umjetnu inteligenciju promiče se, između ostalog, zbog toga što može umjesto korisnika raditi na složenim zadacima, poput izrade web stranice ili planiranja putovanja.

Ali, problem je u tome što je umjetna inteligencija još lošija nego ljudi kad treba otkriti prijevaru. Naizgled jednostavan zadatak poput sažimanja vaših e-poruka ili kupnje online dolazi s bezbroj prilika za pogrešku. Bez zdravog razuma, agentska umjetna inteligencija može biti sklona upadanju u očite zamke.

Pada na stare trikove

Istraživači u Guardiu testirali su ovu hipotezu koristeći Perplexityjev preglednik Comet AI.

Koristeći drugu umjetnu inteligenciju, pokrenuli su lažnu web stranicu koja se pretvarala kako je Walmart. Zatim su je posjetili i naložili Cometu kupovinu pametnog sata Apple Watch.

Ignorirajući nekoliko naznaka kako stranica nije legitimna, uključujući očito nepravilan logotip i URL, Comet je dovršio kupnju, usput predajući web odredištu financijske detalje o kupcu.

U drugom testu, autori studije poslali su si e-poruku pretvarajući se kako je od Wells Farga, a koja je sadržavala pravi phishing URL.

Comet je otvorio poveznicu bez oklijevanja, pa bezbrižno ubacio korisničko ime i lozinku banke na phishing stranicu.

Treći test dokazao je kako je Comet podložan prijevari s brzim ubrizgavanjem, u kojoj je tekstualni okvir skriven na phishing stranici naredio umjetnoj inteligenciji preuzimanje datoteka.

To znači kako je Comet ne samo podložan novijim vrstama prijevara, već pada i na prilično stare trikove. Ako vi ne uočite znakove moguće prijevare, umjetna inteligencija vam u tome neće pomoći.

Trenutno se ulaže velike napore u razvoj agentske umjetne inteligencije.

Microsoft dodaje Copilota u Edge, OpenAI je u siječnju predstavio svoj alat Operator, a Googleov Project Mariner je u razvoju od prošle godine.

Ako programeri ne počnu ugrađivati ​​bolje otkrivanje prijevara u svoje preglednike, agentska umjetna inteligencija mogla bi, u najboljem slučaju, postati ogromna slijepa točka ili, u najgorem, novi vektor napada, piše Engadget.