Prema izvješću Bloomberga, YouTube se sve više puni AI-em generiranim videima iznimno niske kvalitete, a ciljna publika ovoga su puta najmlađi korisnici, odnosno djeca s najmanje razvijenim kritičkim filtrom. Iza tog sadržaja stoji rastuća skupina hustle kreatora i online poduzetnika, kojima AI videi predstavljaju lagan put do pasivne zarade.

Bloomberg ne navodi točne brojke o udjelu takvog sadržaja na YouTube Kidsu, no jasno je da je prostor za takozvano 'AI smeće' sve veći. Nekoliko kreatora s više od milijun pratitelja objavilo je tutorijale za izradu ovakvih videa, tvrdeći da je moguće zarađivati nekoliko stotina dolara dnevno. No pouzdanje u takve tvrdnje uvijek je upitno - da njihove metode zaista donose toliko novca, kreatori bi ih provodili u tišini, a ne prodavali kao online tečajeve.

Problem je, piše Gizmodo, dalekosežniji od puke pohlepe. Sadržaj za djecu na YouTubeu već je godinama poznat po nedostatnoj kontroli i nizu problematičnih primjera. Prije nekoliko godina platformu su preplavili lažni videi s likovima iz popularnih crtića koji su sadržavali neprimjerene ili čak nasilne scene, često gurnuti djeci putem autoplay funkcije ili loše moderacije. Primjer koji je istaknuo New York Times - 'PAW Patrol Babies Pretend to Die Suicide by Annabelle Hypnotized' - pokazuje do koje je mjere sustav znao zakazati.

Publika je pritom golema. Prema Pew Research Centeru, oko 60 posto roditelja djece mlađe od dvije godine kaže da njihovo dijete gleda YouTube, uključujući trećinu koja to svakodnevno čini. To milijune videa stavlja u ruke djece koja nemaju nikakav mehanizam razlikovanja smislenog sadržaja od AI-em generirane besmislice. Takva ranjivost potiče stvaratelje niskokvalitetnog sadržaja da ciljaju upravo najmlađe, iako potencijalne posljedice uključuju zbunjenost, poteškoće u prepoznavanju stvarnog sadržaja i širenje dezinformacija u razvojno osjetljivoj dobi. Američka pedijatrijska akademija preporučuje da se djeca do dvije godine trebaju 'vrlo ograničeno' izlagati medijima upravo zbog ključnog razvoja mozga.

AI sadržaj za odrasle već je problem sam po sebi, no iskorištavanje male djece kao publike za brzu zaradu ima osobito zlonamjernu dimenziju. Ako trend nastavi rasti, nije teško zamisliti generaciju djece koja će napamet znati slova abecede - samo što su možda pogrešno generirana.

YouTube je, upitan za komentar, poručio da nema razloga za brigu: platforma navodi da njezine monetizacijske politike kažnjavaju 'masovnu proizvodnju niskokvalitetnog sadržaja' i da roditelji mogu vjerovati sigurnosnim mjerama YouTube Kidsa.

Ostaje otvoreno pitanje: kada pomislite na youtubere, je li 'masovna proizvodnja niskokvalitetnog sadržaja' doista nešto što isključujete kao mogućnost?