Europska komisija prvi se put izravno uhvatila ukoštac s dizajnom društvenih mreža za koji tvrdi da potiče ovisnost. Na meti je TikTok, a potez bi mogao postaviti nove standarde za izgled i funkcioniranje najpopularnijih aplikacija na svijetu.

Bruxelles je naložio tvrtki izmjene nekoliko ključnih značajki: ukidanje beskonačnog skrolanja (infinite scroll), uvođenje strožih ograničenja vremena provedenog pred ekranom te promjenu sustava preporuka sadržaja. Sve to dolazi nakon što je Komisija zaključila da je dizajn TikToka ‘zarazan’, osobito za djecu.

Katarzyna Szymielewicz, predsjednica Zaklade Panoptykon, poljske organizacije civilnog društva, poručila je da je sama činjenica da Komisija traži promjenu temeljnih elemenata usluge ‘revolucionarna za poslovni model potaknut nadzorom i oglašavanjem’.

Takav razvoj događaja ne sluti na dobro ni za druge platforme – ponajprije za Metu i njezine servise Facebook i Instagram, koji su također pod istragom zbog potencijalno ovisničkog dizajna.

Prvi put pod lupom dizajn platforme

Nalazi koje je Komisija objavila prošlog tjedna prvi su slučaj u kojem se jasno očitovala o dizajnu jedne društvene mreže u okviru Akta o digitalnim uslugama (DSA) – ključnog europskog zakona o digitalnim uslugama za koji Bruxelles tvrdi da je temelj zaštite korisnika na internetu.

TikTok sada ima priliku braniti svoje prakse i preispitati dokaze na kojima se temelje zaključci Komisije. Iz tvrtke su već poručili da će se boriti protiv tih nalaza. Ako ne uspije uvjeriti regulatora, prijeti mu kazna do šest posto godišnjeg globalnog prihoda.

Visoki dužnosnik Komisije na brifingu za novinare istaknuo je da je ovo prvi put da je neki regulator pokušao postaviti pravni standard za procjenu ovisničkog dizajna platformi.

Lena-Maria Böswald, viša istraživačica politike u think tanku Interface, ocijenila je da ‘nalazi označavaju prekretnicu jer Komisija tretira ovisnost dizajna na društvenim mrežama kao provedivi rizik’ u okviru DSA-a. Jan Penfrat, viši savjetnik za politiku u organizaciji za građanska prava EDRi, dodao je kako bi bilo ‘vrlo, vrlo čudno da Komisija to zatim ne koristi kao predložak i ne napada i druge tvrtke’.

Kako definirati ‘rizik’?

DSA obvezuje platforme poput TikToka da procjenjuju i ublažavaju rizike za svoje korisnike. No zakon rizike definira prilično općenito, pa je do sada bilo nejasno gdje će regulator povući crtu.

Dvije godine nakon pokretanja istrage protiv TikToka, Komisija je odlučila ciljati samu srž dizajna platforme, tvrdeći da predstavlja rizik za mentalno zdravlje korisnika – osobito djece. Ostale zabrinutosti riješene su sporazumno između dviju strana.

Na brifingu s novinarima povjerenica za tehnologiju Henna Virkkunen poručila je da ovi nalazi signaliziraju kako rad Komisije ulazi u ‘novu fazu zrelosti’ kada je riječ o sistemskim rizicima.

I Facebook i Instagram pod istragom su od svibnja 2024. upravo zbog sumnje da njihov dizajn potiče ovisnost, uključujući i potencijalnu štetu za djecu. Kao i kod TikToka, u fokusu su algoritmi i način na koji su platforme oblikovane.

Meta u međuvremenu snažno brani svoje poslovne prakse u sudskom postupku u Kaliforniji, gdje je optužena za svjesno dizajniranje ovisničkih značajki koje štete korisnicima. TikTok i Snap u istom su slučaju postigli nagodbu prije početka suđenja.

Glasnogovornik TikToka Paolo Ganino poručio je da nalazi Komisije ‘predstavljaju kategorički lažan i potpuno neutemeljen prikaz naše platforme te da ćemo poduzeti sve potrebne korake kako bismo osporili te nalaze svim dostupnim sredstvima’.

Što bi se konkretno moglo mijenjati?

Komisija bi se na kraju mogla usuglasiti s platformama oko širokog spektra mjera za suzbijanje ovisničkog dizajna. Konačne odluke ovisit će o profilu rizika i obrascima korištenja svake pojedine platforme, ali i o tome koliko će se uspješno tvrtke obraniti. To znači da TikTok vjerojatno neće preko noći mijenjati svoje sustave. Slijedi analiza dokaza i pregovori s regulatorom.

U jednom drugom, proceduralno jednostavnijem slučaju provedbe DSA-a, Komisiji je trebalo više od godinu dana od preliminarnih nalaza do konačne odluke da platforma X, u vlasništvu Elona Muska, nije ispunila obveze vezane uz transparentnost.

Penfrat iz EDRija smatra da TikTok vjerojatno neće ‘to ispravno napraviti’ iz prvog pokušaja te da bi moglo biti potrebno više rundi prilagodbi kako bi zadovoljio Bruxelles.

Peter Chapman, istraživač upravljanja i odvjetnik te zamjenik direktora Instituta Knight-Georgetown, pojašnjava: ‘Može biti bilo što, od promjene zadanih postavki do potpune zabrane određene značajke dizajna ili zahtijevanja veće kontrole od strane korisnika.’

Promjene će se razlikovati od platforme do platforme

Prema njegovim riječima, promjene će se vjerojatno razlikovati od platforme do platforme. ‘Više platformi koristi slične značajke dizajna’, ali one služe različitim svrhama i nose različite rizike. Kao primjer navodi obavijesti koje korisnike pokušavaju vratiti na aplikaciju: poruke nose drukčiji rizik od ovisnosti u odnosu na obavijesti o prijenosima uživo.

Ako Bruxelles ustraje, beskonačno skrolanje – simbol današnje ekonomije pažnje – moglo bi postati stvar prošlosti barem na europskom tržištu. A to bi bio presedan koji bi odjeknuo daleko izvan granica EU-a.