TikTokov feed „Za tebe” korisnicima prikazuje kontinuirani niz personaliziranih videozapisa. Što korisnik više stupa u interakciju s određenom vrstom sadržaja, to algoritam feeda "Za tebe” preporučuje više sličnog sadržaja. Rezultat je da korisnici ostaju satima na mreži, gubeći pojam o vremenu, za što se često koristi izraz upasti u zečju rupu (eng. Rabbit hole).

Te „zečje rupe” mogu imati poguban utjecaj na mentalno zdravlje korisnika, osobito ranjivih odraslih osoba i maloljetnika.

“Svaki put kada korisnik na TikToku lista sadržaj ili označi videozapis oznakom 'sviđa mi se', algoritam mu servira još više takvog sadržaja, uvlačeći ga u 'zečje rupe' iz kojih nije lako izaći”, izjavila je izvršna potpredsjednica za tehnološku suverenost Henna Virkkunen.

Današnji preliminarni nalazi odnose se i na procjenu rizika i na mjere za njihovo ublažavanje. Komisija je preliminarno utvrdila da TikTok nije na odgovarajući način procijenio kako njegov algoritam za preporuke može korisnike odvesti u takve „zečje rupe”, čime se ugrožava njihova dobrobit.

Primjerice, kada korisnik opetovano gleda ili označava sadržaj koji može djelovati kao okidač – poput sadržaja o mršavljenju ili percepciji vlastitog tijela – sustav te interakcije tumači kao znakove interesa te preporučuje još više takvog sadržaja. Opetovano izlaganje takvom sadržaju može imati ozbiljne negativne posljedice na dobrobit korisnika, uključujući pojačane osjećaje tuge ili tjeskobe, nezadovoljstvo vlastitim tijelom, narušeno samopouzdanje ili pogoršanje postojećih poremećaja hranjenja i drugih mentalnih poteškoća, navodi Komisija.

Komisija je utvrdila da preliminarni nalazi ukazuju na to da TikTok nije proveo razmjerne, razumne i učinkovite mjere za ublažavanje tih rizika, Iako je TikTok već uveo određene mjere kako bi smanjio rizik od učinka “zečje rupe”, Komisija je preliminarno utvrdila da te mjere nisu učinkovite. 

Komisija smatra da TikTok mora izmijeniti dizajn feeda “Za tebe” (“For You”). TikTok bi se trebao više oslanjati na izričite preferencije korisnika, prestati koristiti vrijeme gledanja kao kriterij za preporučivanje sadržaja, poboljšati dostupnost i jednostavnost korištenja kontrola za korisnike te redovito testirati svoj algoritam, kaže Komisija.

 Ako se prelimirni nalazi u konačnici potvrde, Komisija može donijeti odluku o neusklađenosti, što može dovesti do izricanja novčane kazne. Iznos kazne bit će razmjeran prirodi, težini, učestalosti i trajanju povrede, a može dosegnuti najviše 6 posto ukupnog godišnjeg prometa pružatelja usluga na svjetskoj razini.

TikTok ima mogućnost pregledati dokumente iz spisa istrage Komisije i pisanim putem odgovoriti na njezine preliminarne nalaze.