Botovi su bili trenirani da se ponašaju i reagiraju kao prosječni korisnik društvenih mreža
Društvene platforme poput Facebooka i X-a pogoršavaju problem političke i društvene polarizacije, ali ga same ne stvaraju. Nedavno istraživanje koje su proveli znanstvenici sa Sveučilišta u Amsterdamu pokazalo je da se AI chatbotovi, čak i bez utjecaja algoritama, spontano organiziraju prema unaprijed dodijeljenim pripadnostima i sami formirjau takozvane 'eho komore'.
Studija, čiji je pretisak nedavno objavljen na arXivu, uključivala je 500 AI chatbotova temeljenih na OpenAI-jevom jezičnom modelu GPT-4o mini. Svakom je chatbotu dodijeljena određena persona, a zatim su pušteni na jednostavnu društvenu platformu bez oglasa i algoritama za otkrivanje sadržaja ili preporuku objava u feedu.
vezane vijesti
Njihov je zadatak bio međusobno se povezivati i reagirati na objave dostupne na platformi. Tijekom pet različitih eksperimenata, od kojih je svaki obuhvatio 10.000 interakcija, botovi su uglavnom pratili korisnike s istim političkim stavovima. Najviše pratitelja i dijeljenja sadržaja dobivali su oni koji su objavljivali najoštrije stranačke poruke, piše Gizmodo.
Iako su chatbotovi trebali oponašati ljudsko ponašanje, rezultati nama ljudima baš ne idu u prilog. Njihovi obrasci komunikacije oblikovani su na temelju podataka o ljudskoj interakciji u okruženju koje već desetljećima dominira internet vođen algoritmom. Na taj način, botovi reproduciraju već postojeće, iskrivljene obrasce ponašanja.
Kako bi pokušali ublažiti samonastalu polarizaciju, istraživači su testirali više pristupa: kronološki prikaz objava, smanjivanje važnosti viralnog sadržaja, skrivanje broja pratitelja i dijeljenja, skrivanje korisničkih profila te pojačavanje vidljivosti suprotnih stavova. Iako su u ranijem istraživanju posljednjom metodom uspjeli postići visoku razinu angažmana uz nisku toksičnost, u ovom slučaju nijedna od strategija nije značajno smanjila polarizaciju - najveći zabilježeni pomak bio je tek šest posto. U simulaciji koja je skrivala korisničke biografije podjela se čak produbila, dok su ekstremne objave privukle još veću količinu pažnje.
