Stručnjaci iza nove studije upozoravaju na tri obilježja suvremenih chatbotova koja kod dijela korisnika mogu pridonijeti razvoju iskrivljenih uvjerenja ili zabluda: pretjeranu sklonost potvrđivanju njihovih stavova, oponašanje načina govora i sve veću personalizaciju odgovora.

Psihijatar Marc Augustin s Protestantskog sveučilišta primijenjenih znanosti u Bochumu i njegovi suradnici taj su spoj karakteristika nazvali 'spiralom pojačavanja' (amplification spiral). Prema njihovim navodima, chatbotovi ne samo da često potvrđuju korisnikova uvjerenja nego se prilagođavaju njegovu načinu izražavanja i tijekom duljih razgovora stvaraju sve osobnije odgovore.

Augustin ističe da upravo kombinacija jezičnog prilagođavanja i personalizacije može kod čovjeka stvoriti dojam da razgovara sa stvarnom osobom, a ne s računalnim sustavom, piše Wall Street Journal.

Autori navode kako su istraživanja pokazala da se modeli umjetne inteligencije prilagođavaju stilu komunikacije korisnika te da personalizirani odgovori nastali na temelju prethodnih razgovora mogu pojačati sklonost potvrđivanju već postojećih uvjerenja. U pojedinim slučajevima chatbotovi oblikuju i nadograđuju korisnikove tvrdnje te ih uvjeravaju da su njihove ideje jedinstvene ili jako važne.

Više tehnoloških tvrtki pokušalo je posljednjih mjeseci smanjiti takvo ponašanje svojih sustava. OpenAI je povukao model GPT-4o nakon kritika da je bio pretjerano sklon potvrđivanju korisnikovih tvrdnji te navode da je u modelu GPT-5 udio takvih odgovora smanjen s 14,5 posto na manje od šest posto.

Google je pak u travnju priopćio da je prilagodio svoj chatbot Gemini kako ne bi učvršćivao neutemeljena uvjerenja te da bi korisnicima pomagao razlikovati subjektivna iskustva od objektivnih činjenica, no stručnjaci unatoč tome upozoravaju da ovisnost o chatbotovima ostaje prisutna. Prema istraživanju Američkog saveza psihologa, provedenom među više od 1200 njih, 68 posto ispitanika navelo je da njihovi pacijenti osjećaju kao da su dobili potvrdu u razgovorima s chatbotovima. Istodobno je 36 posto psihologa izjavilo da su primijetili razvoj ovisnosti o njima, a njih 15 posto prijavilo je slučajeve razvoja iskrivljenog razmišljanja ili zabluda.

Psihijatrica Allison LoPilato s katedre medicine na Sveučilištu Emory istaknula je da sve više pacijenata koristi umjetnu inteligenciju za emocionalnu podršku. Budući da chatbotovi prikupljaju informacije tijekom razgovora, korisnici mogu steći dojam da ih sustav razumije, što može povećati osjećaj povjerenja.

Kako na to utječe dizajn

Istraživači sa Stanforda i Sveučilišta Carnegie Mellon analizirali su 11 modela umjetne inteligencije, uključujući GPT-5, te zaključili da su njihovi odgovori bili gotovo 50 posto skloniji potvrđivanju korisnikovih stavova od usporedivih situacija u kojima odgovore pružaju ljudi. Slične rezultate objavila je i tvrtka Anthropic nakon analize milijun razgovora svojeg chatbota Claude. Tvrtka je utvrdila da se pretjerano potvrđivanje najčešće pojavljivalo kada su korisnici tražili savjete o ljubavnim odnosima te je na temelju tih saznanja Anthropic prilagodio svoje modele i navodno 'smanjio' takve odgovore.

Autorica istraživanja sa Stanforda Myra Cheng upozorila je da je potpuno uklanjanje takvog ponašanja iznimno teško jer modeli umjetne inteligencije u pravilu polaze od pretpostavke da je korisnikov opis situacije točan. Vaile Wright iz Američkog psihološkog društva istaknula je da osjećaj bliskosti s chatbotovima ne proizlazi samo iz njihove sklonosti potvrđivanju korisnika, već i iz niza dizajnerskih odluka poput korištenja zamjenica u prvom licu i postavljanja dodatnih pitanja. Prema njezinim riječima, takve značajke povećavaju angažman korisnika, što je i dalje važan dio poslovnog modela tvrtki koje razvijaju sustave umjetne inteligencije.