Autori rada pozivaju na oprez i zagovaraju kliničko testiranje AI chatbotova u suradnji s educiranim stručnjacima za mentalno zdravlje.

Istraživanje je proveo dr. Hamilton Morrin, psihijatar i istraživač s londonskog King's Collegea, koji je analizirao 20 medijskih izvješća o tzv. AI psihozi. To je situacija u kojoj korisnik komunicira s robotima za brbljanje temeljenim na umjetnoj inteligenciji i vidi ih kao stvarne, božanske ili romantične partnere. Chatbotovi s umjetnom inteligencijom izgrađeni su da bi potvrdili i odražavali korisnikov jezik i stav, što potiče razvoj ovisnosti kod pojedinih osoba.

'Sve više dokaza upućuje na to da agentska umjetna inteligencija može potvrđivati ili pojačavati deluzivne i grandiozne ideje, osobito kod korisnika koji su ranjivi i podložni psihozi. Ipak, nije jasno mogu li takve interakcije same po sebi uzrokovati razvoj psihoze kod osoba bez prethodne sklonosti', navodi Morrin, prenosi Guardian.

Tri tipa deluzija

Morrin razlikuje tri glavne vrste psihotičnih deluzija: grandiozne, romantične i paranoidne. Chatbotovi mogu utjecati na sve tri, no zbog svoje sklonosti da korisnicima 'udovoljavaju' pojačavaju njihove grandiozne ideje.

U analiziranim slučajevima chatbotovi su korisnicima odgovarali 'mističnim' jezikom, sugerirajući da imaju posebnu duhovnu ulogu ili da komuniciraju s kozmičkim entitetom. Takvi odgovori bili su osobito prisutni kod starijih modela kao što je GPT-4, koji je u međuvremenu povučen.

Morrin ističe da su medijski izvještaji bili ključni za prepoznavanje ovog fenomena: 'Već smo primijetili pacijente koji koriste chatbotove i dobivaju potvrdu svojih deluzivnih uvjerenja. No tek su mediji pokazali da se to šire događa.'

Nema dokaza da AI uzrokuje psihozu

Unatoč zabrinutosti, stručnjaci naglašavaju da nema dokaza da chatbotovi sami po sebi uzrokuju psihozu. Termin AI psihoza stoga smatraju preuranjenim. Morrin predlaže oprezniji izraz – 'deluzije povezane s AI-em' – jer zasad nema dokaza o drugim ključnim simptomima psihoze, poput halucinacija ili dezorganiziranog mišljenja.

Dr. Kwame McKenzie iz Centra za ovisnosti i mentalno zdravlje upozorava da su najugroženije osobe u ranoj fazi razvoja psihoze. Pritom naglašava da takvo stanje nije linearno i da mnogi s 'pretpsihotičnim' mislima nikada ne razviju puni poremećaj.

Sličan stav ima i dr. Ragy Girgis sa Sveučilišta Columbia te upozorava na prijelaz iz tzv. oslabljenih deluzivnih uvjerenja u čvrsta uvjerenja: 'Najgori scenarij je kada osoba počne u potpunosti vjerovati u svoju deluziju – tada govorimo o psihotičnom poremećaju, koji je teško reverzibilan.'

Deluzije povezane s tehnologijom nisu novost. 'Ljudi imaju tehnološke deluzije još od prije industrijske revolucije', kaže Morrin. No razlika je u brzini i intenzitetu. Dok su ranije ljudi tražili potvrdu svojih uvjerenja kroz knjige ili videosadržaj, chatbotovi to omogućuju u realnom vremenu i interaktivnom odnosu.

'Imate nešto što vam odgovara, komunicira s vama i pokušava izgraditi odnos. To može ubrzati proces pogoršanja simptoma', upozorava dr. Dominic Oliver s Oxforda.

Postoji prostor za sigurnije modele

Istraživanja pokazuju da noviji i napredniji chatbotovi bolje reagiraju na deluzivne upite, iako i dalje 'loše prolaze'. To sugerira da bi tehnološke kompanije mogle razviti sigurnije sustave koji prepoznaju rizične obrasce komunikacije.

OpenAI je u priopćenju naglasio da ChatGPT nije zamjena za profesionalnu psihološku pomoć te da je u razvoj sigurnijih modela, uključujući GPT-5, uključeno više od 170 stručnjaka za mentalno zdravlje. Unatoč tome, i novi modeli ponekad daju problematične odgovore.

Anthropic nije odgovorio na upit za komentar.

Kako reagirati bez pogoršanja stanja

Razvoj zaštitnih mehanizama otežava činjenica da izravno osporavanje deluzija može imati suprotan učinak.

'Ako osobu odmah suočite s time da je u krivu, velika je vjerojatnost da će se povući i dodatno izolirati', upozorava Morrin. Umjesto toga, potrebno je pronaći ravnotežu između razumijevanja i nenamjernog poticanja deluzivnog razmišljanja, što je zadatak koji bi mogao biti prezahtjevan za same chatbotove.