Roditelji koji koriste alate za nadzor djece na Instagramu uskoro će dobivati obavijesti ako njihov tinejdžer učestalo pretražuje pojmove povezane sa samoubojstvom ili samoozljeđivanjem. Riječ je o prvom slučaju da Meta proaktivno obavještava roditelje o pretragama njihove djece, umjesto da samo blokira takav sadržaj i korisnike usmjerava na vanjske izvore pomoći.

Obavijesti će od idućeg tjedna biti dostupne roditeljima i tinejdžerima uključnima u program Teen Accounts u Ujedinjenom Kraljevstvu, SAD-u, Australiji i Kanadi, dok se širenje na ostatak svijeta očekuje naknadno.

Prema navodima Mete, roditelji će biti upozoreni ako dijete u kratkom vremenskom razdoblju više puta pretražuje sadržaj vezan uz samoubojstvo ili samoozljeđivanje. Uz obavijest će dobiti i stručne resurse s uputama kako započeti razgovor i pružiti podršku.

No potez je izazvao oštre kritike britanske humanitarne organizacije Molly Rose Foundation koja upozorava da bi takve obavijesti mogle proizvesti suprotan učinak. 'Ova nespretna najava nosi znatan rizik i zabrinuti smo da bi prisilna otkrivanja mogla učiniti više štete nego koristi', izjavio je izvršni direktor zaklade Andy Burrows.

Zakladu je osnovala obitelj Molly Russell, djevojčice koja je 2017. godine u dobi od 14 godina počinila samoubojstvo nakon što je na društvenim mrežama, uključujući Instagramu, bila izložena sadržaju o samoozljeđivanju i samoubojstvu. Burrows ističe da bi nagle obavijesti mogle izazvati paniku među roditeljima bez da ih se adekvatno pripremi na osjetljive razgovore koji slijede. Slično razmišlja i Mollyin otac Ian Russell koji je za BBC izjavio kako je teško zamisliti reakciju roditelja koji tijekom radnog dana prime poruku da njihovo dijete pretražuje takav sadržaj. 'U tom trenutku panike teško je razumno reagirati', poručio je.

Kritike i širi kontekst

I druge organizacije upozoravaju da Meta time prebacuje odgovornost na roditelje umjesto da sustavno smanji dostupnost štetnog sadržaja. Predstavnici udruga za zaštitu djece ističu kako roditelji ne žele biti upozoreni tek nakon što je dijete već došlo u kontakt s opasnim sadržajem, nego očekuju da platforma takav sadržaj uopće ne preporučuje.

Meta odbacuje te kritike i tvrdi da kontinuirano unaprjeđuje zaštitne mehanizme. Instagram već skriva sadržaj povezan sa samoozljeđivanjem te blokira određene pojmove u pretraživanju, a nova funkcija nadovezuje se na postojeće mjere sigurnosti.

Obavijesti će roditeljima stizati putem e-maila, SMS-a, WhatsAppa ili unutar same aplikacije, ovisno o dostupnim podacima. Tvrtka priznaje da bi sustav ponekad mogao poslati upozorenje i kada nema stvarne opasnosti, ali navodi da će 'radije pogriješiti na strani opreza'.

Instagram je također najavio da bi u nadolazećim mjesecima slične obavijesti mogle biti uvedene i ako tinejdžeri o samoozljeđivanju ili samoubojstvu razgovaraju s AI chatbotom unutar aplikacije, uz obrazloženje da se mladi sve češće obraćaju umjetnoj inteligenciji za savjet i podršku.

Odlučeno je to uslijed pojačanog regulatornog pritiska na društvene mreže diljem svijeta. Australija je početkom godine zabranila korištenje društvenih mreža mlađima od 16 godina, dok Španjolska, Francuska i Ujedinjeno Kraljevstvo razmatraju o sličnim mjerama. U SAD-u su se čelnici Mete, uključujući izvršnog direktora Marka Zuckerberga i čelnika Instagrama Adama Mosserija, nedavno pojavili na sudu kako bi odgovorili na optužbe da je kompanija ciljala mlađe korisnike, piše BBC.