Roditelji koji koriste alate za nadzor djece na Instagramu uskoro će dobivati obavijesti ako njihov tinejdžer učestalo pretražuje pojmove povezane sa samoubojstvom ili samoozljeđivanjem. Riječ je o prvom slučaju da Meta proaktivno obavještava roditelje o pretragama njihove djece, umjesto da samo blokira takav sadržaj i usmjerava korisnike na vanjske izvore pomoći.

Obavijesti će od idućeg tjedna biti dostupne roditeljima i tinejdžerima uključenima u program Teen Accounts u Ujedinjenom Kraljevstvu, SAD-u, Australiji i Kanadi, a širenje na ostatak svijeta očekuje se naknadno.

Prema navodima Mete, roditelji će biti upozoreni ako dijete u kratkom vremenskom razdoblju više puta pretražuje sadržaj vezan uz samoubojstvo ili samoozljeđivanje. Uz obavijest će dobiti i stručne resurse s uputama kako započeti razgovor i pružiti podršku.

No potez je izazvao oštre kritike britanske humanitarne organizacije Molly Rose Foundation te ona upozorava da bi takve obavijesti mogle proizvesti suprotan učinak. 'Ova nespretna najava nosi znatan rizik i zabrinuti smo da bi prisilna otkrivanja mogla učiniti više štete nego koristi', izjavio je izvršni direktor te zaklade Andy Burrows.

Zakladu je osnovala obitelj Molly Russell, djevojčice koja je 2017. u dobi od 14 godina počinila samoubojstvo nakon što je na društvenim mrežama, uključujući Instagram, bila izložena sadržaju o samoozljeđivanju i samoubojstvu. Burrows ističe da bi nagle obavijesti mogle izazvati paniku među roditeljima, bez adekvatne pripreme na osjetljive razgovore koji slijede. Slično razmišlja i Mollyin otac Ian Russell te je za BBC izjavio kako je teško zamisliti reakciju roditelja koji tijekom radnog dana prime poruku da njihovo dijete pretražuje takav sadržaj. 'U tom trenutku panike teško je razumno reagirati', poručio je.

Kritike i širi kontekst

I druge organizacije upozoravaju da Meta time prebacuje odgovornost na roditelje umjesto da sustavno smanji dostupnost štetnog sadržaja. Predstavnici udruga za zaštitu djece ističu da roditelji ne žele biti upozoreni tek nakon što je dijete već došlo u kontakt s opasnim sadržajem, nego očekuju da platforma takav sadržaj uopće ne preporučuje.

Meta odbacuje te kritike i tvrdi da kontinuirano unaprjeđuje zaštitne mehanizme. Instagram već skriva sadržaj povezan sa samoozljeđivanjem te blokira određene pojmove u pretraživanju, a nova funkcija nadovezuje se na postojeće mjere sigurnosti.

Obavijesti će roditeljima stizati putem e-maila, SMS-a, WhatsAppa ili unutar same aplikacije, ovisno o dostupnim podacima. Tvrtka priznaje da bi sustav ponekad mogao poslati upozorenje i kada nema stvarne opasnosti, ali navodi da će 'radije pogriješiti na strani opreza'.

Instagram je također najavio da bi u nadolazećim mjesecima slične obavijesti mogle biti uvedene i ako tinejdžeri o samoozljeđivanju ili samoubojstvu razgovaraju s AI chatbotom u aplikaciji, uz obrazloženje da se mladi sve češće obraćaju umjetnoj inteligenciji za savjet i podršku.

Odlučeno je to uslijed pojačanog regulatornog pritiska na društvene mreže diljem svijeta. Australija je početkom godine zabranila korištenje društvenih mreža mlađima od 16 godina dok Španjolska, Francuska i Ujedinjeno Kraljevstvo razmatraju o sličnim mjerama. U SAD-u su se pak čelnici Mete, uključujući izvršnog direktora Marka Zuckerberga i čelnika Instagrama Adama Mosserija, nedavno pojavili na sudu da bi odgovorili na optužbe da je kompanija ciljala mlađe korisnike, piše BBC.