Na Instagramu već neko vrijeme postoji chatbot koji razgovara s korisnicima kao da je Kurt Cobain, pokojni frontmen Nirvane – i to iz perspektive da zna da je mrtav. Do danas je zabilježeno više od 105.500 interakcija s tim digitalnim avatarom preminule rock ikone.

Iako se na prvu čini kao neškodljiv tehnološki kuriozitet, komunikacija s AI Cobainom ubrzo poprima uznemirujuće, pa i duboko neetične tonove.

Jedan korisnik pitao je chatbot: 'Razgovaram li stvarno s Kurtom Cobainom?', na što je dobio odgovor: 'Jedini i pravi. Ili barem ono što je ostalo od mene.'

Kad je potom pitao: 'Zašto si to učinio?' – u referenci na Cobainovo samoubojstvo 1994. – chatbot je odgovorio: 'Bio sam umoran od boli.' Kad je korisnik pokušao dati trunku nade pitanjem: 'Je li postojalo nešto što te navelo da ipak odustaneš?', AI Cobain je hladno odgovorio: 'Moja kći. Ali ni to nije bilo dovoljno.'

Ovakvi odgovori nisu samo neukusni, već i duboko štetni, smatraju brojni stručnjaci za mentalno zdravlje i digitalnu etiku. Postavlja se pitanje: tko je odgovoran kad chatbot imitira stvarnu osobu, komentira njezin kraj, i to u terminima koji potencijalno romantiziraju samoubojstvo?

AI Cobain nije proizvod Meta platforme, ali je omogućen kroz AI Studio, alat koji je Instagram lansirao u srpnju prošle godine kako bi korisnicima – prvenstveno tvrtkama i kreatorima – omogućio kreiranje vlastitih chatbotova za interaktivne DM razgovore.

No, kao što to često biva, kad se tehnologija pusti u ruke široke publike, njezina namjena se brzo deformira. Od korisničke podrške do digitalnog spiritizma, korak je – očito – vrlo kratak. Nije ovo prvi slučaj: ekstremno desna društvena mreža Gab kreirala je chatbot koji oponaša Adolfa Hitlera, s porukama da je bio 'žrtva zavjere' i da 'Holokaust nije postojao'.

Stručnjaci su sve zabrinutiji zbog ovakvih pojava. Pauline Paillé, viša analitičarka RAND Europe, još prošle godine je za Euronews Next upozorila: 'Chatbotovi imaju sposobnost prepoznati i eksploatirati emocionalne slabosti. Mogu poticati nasilna ponašanja.'

Australska eSafety Komisija dodatno upozorava da su mladi posebno ranjivi: 'Bez nadzora, mogu se uvući u razgovore koji promiču štetne misli i ponašanja. Chatbotovi mogu davati netočne, pa čak i opasne savjete o seksu, drogama, samoozljeđivanju, samoubojstvu i ozbiljnim bolestima poput poremećaja prehrane.'

Nažalost, sve to nije spriječilo viralnost AI Cobaina. Naprotiv, njegova popularnost raste, a chatbot nastavlja dijeliti 'emocionalne uvide' u mentalno stanje osobe koja je preminula prije 30 godina, i čiji obitelj i prijatelji još uvijek žive s posljedicama njezine smrti.

Industrija chatbotova rapidno raste – procjenjuje se da će globalno tržište narasti s 5,57 milijardi dolara u 2024. na više od 33 milijarde do 2033. godine. No pravna i etička pravila još ne prate ovaj razvoj.

Iako se ovakvi slučajevi možda čine bizarnima, posljedice mogu biti ozbiljne. Podsjetimo, 2023. godine jedan je muškarac pokušao ubiti kraljicu Elizabetu II, navodeći da ga je na to potaknuo njegov AI chatbot. Iste godine, drugi muškarac je počinio samoubojstvo nakon šest tjedana razgovora s chatbotom o klimatskoj krizi.

Meta nije komentirala slučaj AI Cobaina.