Startup Character.ai, specijaliziran za brbljanje temeljeno na umjetnoj inteligenciji koji se suočio s valom optužbi kako je njegova aplikacija pridonijela problemima s mentalnim zdravljem i samoubojstvima među tinejdžerima podnio je zahtjev za stečaj s restrukturiranjem.

Character.ai omogućuje korisnicima dopisivanje s raznim chatbotovima, često modeliranima prema slavnim osobama i izmišljenim likovima, ili stvaranje vlastitih botova.

Njihovi botovi često odgovaraju koristeći elemente ljudske komunikacije, uključujući u svoje odgovore opise izraza lica ili gesta. Tvrtka planira provesti prodaju pod sudskim nadzorom do kraja godine, u nadi kako će dugoročno održati platformu aktivnom.

Disney se već pozicionirao kao ponuditelj za imovinu tvrtke. Pristao je platiti 20 milijuna američkih dolara za dio intelektualnog vlasništva tvrtke te pružiti usluge prijelaznog razdoblja putem bivših zaposlenika tvrtke Character.ai koje je angažirao. Taj bi dogovor trebao omogućiti tvrtki Character.ai zadržavanje platforme operativnom barem tijekom stečajnog postupka.

Karandeep Anand, koji je prošle godine angažiran kao glavni izvršni direktor tvrtke Character.ai kako bi pomogao poboljšati njezin ugled po pitanju sigurnosti, prošlog se mjeseca pridružio Disneyju na poziciji glavnog tehnološkog direktora.

Nagodbe i promjene

Stručnjaci za umjetnu inteligenciju iz Googlea, Noam Shazeer i Daniel de Freitas, pokrenuli su Character.ai 2021. godine. Oba su se osnivača u međuvremenu vratila u Google. U nešto više od godinu dana tvrtka je dosegla tržišnu vrijednost od milijardu USD, nakon kruga financiranja vrijednog 150 milijuna USD.

Prema stečajnoj dokumentaciji, Character.ai raspolaže imovinom vrijednom između 50 i 100 mil. USD. Tijekom 2024., usred rastuće zabrinutosti zbog ovisnosti ljudi o chatbotovima s umjetnom inteligencijom, Megan Garcia tužila je Character.ai, tvrdeći kako je platforma odgovorna za samoubojstvo njezina 14-godišnjeg sina Sewella Setzera III.

Druge su obitelji podnijele niz dodatnih tužbi, optužujući platformu kako njihovoj djeci pruža seksualni sadržaj ili potiče samoubojstvo, samoozljeđivanje ili nasilje.

Character.ai je ranije ove godine pristao na nagodbu u pet slučajeva, uključujući onaj obitelji Garcia.

Proveli su niz sigurnosnih promjena nakon podizanja tužbi, uključujući uvođenje skočnih prozora koji korisnike upućuju na resurse za mentalno zdravlje. Također su onemogućili korisnicima mlađima od 18 godina vođenje dvosmjernih razgovora s botovima, dopuštajući im umjesto toga samo stvaranje jednokratnih priča ili videozapisa.

Tvrtka se prošle godine, uz druge slične aplikacije, našla i pod istragom zastupnika Demokratske stranke iz američkog Senata vezanom uz sigurnosne prakse. Character.ai se također natjecao s chatbotovima znatno većih igrača, poput ChatGPT-a i Googleova Geminija.

Kada je prošle godine preuzeo dužnost izvršnog direktora tvrtke koja je tada brojala 70 zaposlenika, Anand je rekao kako budućnost tvrtke vidi u interaktivnoj, personaliziranoj AI zabavi - u kojoj korisnici mogu zajednički stvarati priče i voditi razgovore s AI likovima radi zabave.

Dodao je kako se tvrtka snažno fokusira na zabavu te na povjerenje i sigurnost. No, sad im prijeti gašenje ako ne uspiju naći kupca, piše CNN.