Rock bend iz Nashvillea prošle je godine doživio nagli proboj. Njihove emotivne, bluesom obojene pjesme proširile su se društvenim mrežama, a turneja u 50 gradova bila je rasprodana. No, s rastom popularnosti stigao je i problem koji nisu očekivali.

Naime, frontmen Adam McInnis počeo je viđati vlastito lice posvuda na internetu, i to u videima koje nikada nije snimio. Lažni profili koristili su njegov lik i glas kako bi kontaktirali s obožavateljima, pa čak ih i pozivali na spojeve. 'Postojale su cijele stranice na kojima 'pjevam' pjesme koje nikada nisam snimio i pozivam ljude na druženje. Komentari su pokazivali da ljudi ne shvaćaju da je riječ o umjetnoj inteligenciji', kaže McInnis, piše Time.

Ljubavne prijevare nisu nova pojava, ali umjetna inteligencija ih je podigla na novu razinu. Prevaranti danas koriste realistične glasovne i deepfake videe, zbog čega žrtve vjeruju da razgovaraju s pravom osobom.

Prema tvrdnjama menadžmenta benda, svakodnevno se pojavljuje između 50 i 60 novih lažnih profila koji pokušavaju izvući novac od obožavatelja. Na gotovo svakom koncertu barem jedna osoba prilazi McInnisu uvjerena da je bila u vezi s njim i da mu je već poslala novac.

Kako funkcionira prijevara

Prevaranti stvaraju lažne Facebook grupe i profile koji brzo okupljaju tisuće pratitelja. Kada se fanovi uključe, počinju dobivati privatne poruke od 'članova benda'. Komunikacija se zatim seli na aplikacije poput Telegrama ili Signala, gdje slijede personalizirane poruke, često i AI-generirani glasovi, fotografije ili videi.

Ubrzo se stvara iluzija romantične veze. Kada 'glazbenik' zatraži novac – za turneju, bolničke troškove ili osobne probleme – žrtve često pristaju. Neki su navodno slali desetke tisuća dolara.

Prevaranti idu i korak dalje: prodaju lažne ulaznice, backstage propusnice i fan kartice. Zabilježeni su i slučajevi 'sextortiona' gdje žrtve, uvjerene da komuniciraju s pravom osobom, šalju intimne fotografije koje se kasnije koriste za ucjenu.

Platforme reagiraju, ali sporo

Tvrtka Meta, vlasnik Facebooka, navodi da istražuje slučaj i uklanja profile koji krše pravila. Čim se jedan profil ukloni, pojavljuju se novi. Bend koristi alate za detekciju deepfakeova kako bi prijavljivao lažne račune, ali borba je iscrpljujuća i dugotrajna.

Dok se bore s prijevarama, Sons of Legion suočava se s još jednim izazovom, a to je konkurencija AI bendova na platformama poput Spotifyja. Prema McInnisu, algoritmi sve češće preporučuju AI generirane izvođače koji zvuče slično stvarnim bendovima, ali mogu proizvoditi glazbu brže i jeftinije. 'Prijatelj me nazvao i rekao da sluša našu pjesmu. Kad sam poslušao, to uopće nismo bili mi nego AI bend koji zvuči gotovo identično', kaže.

Iako bend i dalje puni dvorane, McInnis upozorava da umjetna inteligencija prijeti temelju glazbene industrije, a to je, kaže, autentičnost. 'Platforme moraju reagirati. Mi kao pojedinci radimo sve što možemo, ali bez pritiska korisnika i financijskog gubitka, ništa se neće promijeniti', poručuje.