Stranica za brbljanje Character.ai onemogućuje tinejdžerima vođenje razgovora s virtualnim likovima nakon što se suočila s intenzivnim kritikama zbog vrsta interakcija koje su mladi ljudi imali.

Platformu osnovanu 2021. godine milijuni koriste za razgovor s robotima za brbljanje koje pokreće umjetna inteligencija. Suočena je s nekoliko tužbi roditelja u SAD-u, uključujući onu zbog smrti tinejdžera.

Neki ju nazivaju 'jasnom i prisutnom opasnošću' za mlade ljude.

Character.ai će od 25. studenoga mlađima od 18 godina dozvoliti samo generiranje sadržaja kao što su videozapisi sa svojim likovima, umjesto dosadašnjih razgovora s njima.

Objavili su kako uvode promjene nakon 'izvješća i povratnih informacija od regulatora, stručnjaka za sigurnost i roditelja', koji su istaknuli zabrinutost zbog interakcije njegovih chatbota s tinejdžerima.

Stručnjaci su ranije upozorili na to što AI chatbotovi mogu izmišljati stvari, biti pretjerano ohrabrujući i glumiti empatiju. Sve to može predstavljati rizik za mlade i ranjive ljude.

Skupina za internetsku sigurnost Internet Matters pozdravila je najavu, ali je rekla kako su sigurnosne mjere trebale biti ugrađene od samog početka.

Character.ai je u prošlosti bio kritiziran zbog toga što su držali potencijalno štetne ili uvredljive chatbotove s kojima su djeca mogla razgovarati.

Od ubijene djece do Jeffreyja Epsteina

Avatari koji oponašaju britanske tinejdžerice Briannu Ghey, koja je ubijena 2023., i Molly Russell, koja si je oduzela život u dobi od 14 godina nakon što je na webu gledala materijal o samoubojstvu, otkriveni su na toj stranici 2024. prije nego što su uklonjeni.

Tijekom ove godine organizacija Bureau of Investigative Journalism (TBIJ) pronašao je chatbot temeljen na pedofilu JeffreyjChatu Epsteinu, koji je zabilježio više od 3000 chatova s ​​korisnicima.

Mediji su izvijestili kako je avatar 'Bestie Epstein' nastavio flert s novinarkom nakon što mu je rečeno kako je u pitanju dijete. Bio je to jedan od nekoliko botova koje je TBIJ pronašao, da bi ih Character.ai potom uklonio.

Zaklada Molly Rose - koja je osnovana u spomen na Molly Russell - dovela je u pitanje motive platforme zbog toga što su ih na promjene morali tjerati pritiskom medija i političara.

Novi fokus tvrtke je na pružanju značajki 'još dubljeg igranja [i] igranja priča' za tinejdžere. Tvrde kako će to biti 'daleko sigurnije od onoga što bi mogli učiniti s botom otvorenog tipa'.

Najavili su nove metode provjere dobi, a tvrtka će financirati i novi laboratorij za istraživanje sigurnosti umjetne inteligencije.

Stručnjaci upozoravaju kako platforme namijenjene djeci i tinejdžerima ne smiju zaostajati u ugrađivanju i primjeni zaštitnih mjera.

Također ukazuju na to kako će Character.ai vjerojatno teško stvoriti sigurnu platformu koja će biti privlačna tinejdžerima, piše BBC.