Prema izvješću Bloomberga, YouTube se sve više puni AI-generiranim videima iznimno niske kvalitete, a ciljna publika ovoga su puta najmlađi korisnici, odnosno djeca s najmanje razvijenim kritičkim filtrom. Iza tog sadržaja stoji rastuća skupina 'hustle' kreatora i online poduzetnika, koji AI videe predstavljaju kao lagan put do pasivne zarade.

Bloomberg ne navodi točne brojke o udjelu takvog sadržaja na YouTube Kids, no jasno je da je prostor za takozvano 'AI smeće' sve veći. Nekoliko kreatora s više od milijun pratitelja objavilo je tutorijale za izradu ovakvih videa, tvrdeći da je moguće zarađivati nekoliko stotina dolara dnevno. No pouzdanje u takve tvrdnje uvijek je upitno - da metode zaista donosi toliko novca, kreatori bi ju provodili u tišini, a ne prodavali kao online tečajeve.

Problem je, piše Gizmodo, dalekosežniji od puke pohlepe. YouTube sadržaj za djecu već je godinama poznat po nedostatnoj kontroli i nizu problematičnih primjera. Prije nekoliko godina platformu su preplavili lažni videi s likovima iz popularnih crtića koji su sadržavali neprimjerene ili čak nasilne scene, često gurnuti djeci putem autoplay funkcije ili loše moderacije. Primjer koji je istaknuo New York Times - 'PAW Patrol Babies Pretend to Die Suicide by Annabelle Hypnotized' - pokazuje do koje mjere je sustav znao zakazati.

Publika je pritom golema. Prema Pew Research Centeru, oko 60 posto roditelja djece mlađe od dvije godine kaže da njihovo dijete gleda YouTube, uključujući trećinu koja ga gleda svakodnevno. To milijune pregleda stavlja u ruke djece koja nemaju nikakav mehanizam razlikovanja smislenog sadržaja od AI-generirane besmislice. Takva ranjivost potiče stvaratelje niskokvalitetnog sadržaja da ciljanju upravo najmlađe, iako potencijalne posljedice uključuju zbunjenost, poteškoće u prepoznavanju stvarnog sadržaja i širenje dezinformacija u razvojno osjetljivoj dobi. Američka pedijatrijska akademija preporučuje da djeca do dvije godine imaju 'vrlo ograničeno' izlaganje medijima upravo zbog ključnog razvoja mozga.

AI sadržaj za odrasle već je problem sam po sebi, no iskorištavanje male djece kao publike za brzu zaradu ima osobito zlonamjernu dimenziju. Ako trend nastavi rasti, nije teško zamisliti generaciju djece koja će napamet znati slova abecede - samo što su možda pogrešno generirana.

YouTube je, upitan za komentar, poručio da razloga za brigu nema: platforma navodi da njezine monetizacijske politike kažnjavaju 'masovnu proizvodnju niskokvalitetnog sadržaja' i da roditelji mogu vjerovati sigurnosnim mjerama u YouTube Kids.

Ostaje otvoreno pitanje: kada pomislite na YouTubere, je li 'masovna proizvodnja niskokvalitetnog sadržaja' doista nešto što isključujete kao mogućnost?