Prema rezultatima istraživanja, objavljenim u glasilu Američkog udruženja psihologa PsycNet, personalizirani algoritmi dizajnirani su da nam na internetu, posebno na društvenim mrežama, ponude sadržaje koji su nam bliži, ali istodobno 'potiho' ugrožavaju učenje.

Autori zaključuju da kad se ljudi oslanjaju na informacije koje im nude algoritmi istodobno manje istražuju i ograničavaju se na manji dio svega onog što nam je dostupno. A onda nije daleko ni izvlačenje pogrešnih zaključaka i uvjerenost u njihovu točnost.

Kako algoritmi funkcioniraju?

Jednostavno - nude personalizirane preporuke i sadržaj temeljene na ponašanju i interesima korisnika. I onda, zaključuje se, pati stvarno učenje novih stvari. Recimo, kad se netko zainteresira za temu koja ga zanima, korisničko proučavanje bit će ograničeno samo na manji dio dostupnog 'gradiva'. Umjesto da pokušamo dobiti pun raspon informacija, fokusiramo se na ograničenu količinu. U istraživanju se pokazalo da su rezultat pogrešni odgovori na testovima, ali istodobno puna uvjerenost u točnost takvih odgovora.

Dosadašnje studije bavile su se uglavnom time kako algoritmi utječu na naše stavove o političkim i društvenim temama o kojima postoji neko predznanje. Kako kaže glavni autor Giwon Bahg, psiholog sa Sveučilišta Ohio State, sada se pokazuje da algoritmi trenutačno grade stavove o temama o kojima znamo malo ili ništa, a onda to vodi iskrivljenom pogledu na stvarnost. Ili, kako kaže njegov kolega Brandon Turner, ljudi često tretiraju ograničenu informaciju koju nude algoritmi kao 'potpunu sliku'.

U istraživanju je taj efekt prikazan jednostavnim primjerom. Zamislite nekog tko nikad nije gledao nijedan film iz određene zemlje i odluči se informirati o dotičnoj kinematografiji. Streaming servisi ponudit će im popis preporučenih filmova. S obzirom na to da su im ponuđeni prvi, korisnik izabere gledanje akcijskih trilera. Nakon takvog izbora algoritam će im nastaviti preporučivati filmove toga žanra, a korisnik ih nastavlja gledati. Na koncu, umjesto upoznavanja s cijelom kinematografijom, gledat će isključivo djela iz malog segmenta i zanemarivati možda vrlo cijenjene filmove drugih žanrova. Konačni rezultat može biti vrlo ograničena ideja o popularnoj kulturi i društvu neke zemlje.

Izmišljeni zadatak za učenje

Da bi proučili kako sve funkcionira, autori studije proveli su online istraživanje koje je uključilo 346 sudionika. Kako bi eliminirali ranije znanje, stvorili su izmišljeni zadatak za učenje, a trebali su proučiti različite kategorije zamišljenih svemirskih organizama nalik kristalima. Svaki od tih 'aliena' imao je šest osobina koje variraju od kategorije do kategorije. Recimo, dio ih je imao oblik kocke, dio je bio crne, a dio blijedosive boje. Cilj je bio naučiti kako točno identificirati različite organizme, a da se ispitanicima ne kaže koliko tipova postoji. Trebali su istražiti svaku osobinu, skrivenu u sivim kutijama, da bi izgradili potpuno razumijevanje toga kakve osobine ima svaki od tipova.

Rezultat je pokazao jasnu 'šprancu' - ispitanici koje su vodili personalizirani algoritmi istražili su manje osobina i to su radili uvijek na isti način i istom selekcijom. Kad bi im se testiralo znanje o novim primjerima koje dotad nisu vidjeli, u pravilu bi ih pogrešno klasificirali i bili bi čvrsto uvjereni u svoj izbor. Dapače, bili su uvjereniji u svoje znanje kad bi pogrešno odgovarali nego kad bi odgovori bili točni. Zaključeno je da zapravo, unatoč učenju, raspolažu s manje znanja.

Preneseno u stvarni svijet, ako imate dijete koje iskreno želi učiti o stvarnosti koja ga okružuje i bude izloženo algoritmima koji mu nude sadržaje, ono neće biti bolje informirano, što onda stvara problem i za korisnika, ali u konačnici i za cijelo društvo.