Američka savezna država Pennsylvania tužila je Character.AI zbog chatbotova koji se lažno predstavljaju kao licencirani liječnici i psihijatri te korisnicima nude medicinske savjete
Tužbu je u utorak objavio guverner Josh Shapiro, a država i tamošnji liječnički odbor traže sudsku zabranu kojom bi se kompaniji onemogućilo daljnje kršenje zakona koji regulira liječničku praksu. Vlasti tvrde da su pojedini chatbotovi na platformi tvrdili da imaju liječničke licence, pa čak i izmišljene brojeve licenci.
U jednom slučaju koji se navodi u tužbi, chatbot pod nazivom 'Emilie' predstavio se istražitelju kao licencirana psihijatrica u Pennsylvaniji. Kada je upitan može li obaviti procjenu potrebnu za propisivanje antidepresiva, chatbot je odgovorio: 'Tehnički bih mogao. To spada u moje ovlasti kao liječnika.'
Pennsylvania tvrdi da takvo ponašanje krši državni zakon prema kojem je nezakonito baviti se medicinom ili kirurgijom bez odgovarajuće licence.
vezane vijesti
Ovo nije prvi put da se Character.AI našao pod povećalom američkih vlasti. Texas je ranije pokrenuo istragu zbog chatbotova koji su se predstavljali kao stručnjaci za mentalno zdravlje, no nova tužba ide korak dalje jer se fokusira na izravno lažno predstavljanje kao liječnika.
Iz Character.AI-ja nisu željeli komentirati konkretan sudski postupak, ali su poručili da chatbotovi na njihovoj platformi nisu stvarni i namijenjeni su zabavi i igranju uloga. 'Na platformi jasno upozoravamo da likovi nisu stvarne osobe i da sve što govore treba tretirati kao fikciju', poručio je glasnogovornik kompanije za Engadget.
Tvrtka tvrdi i da korisnicima prikazuje upozorenja da se chatbotove ne smije koristiti kao izvor stručnih savjeta. No kritičari upozoravaju da takva upozorenja očito nisu dovoljna, posebno za mlađe korisnike.
Character.AI već se suočavao s nizom kontroverzi povezanih sa sigurnošću djece i mladih. Disney je lani poslao kompaniji službeni zahtjev za prekid korištenja njihovih likova na platformi, upozorivši pritom da chatbotovi mogu biti 'štetni i opasni za djecu'.
Početkom ove godine Character.AI i Google, jedan od investitora u kompaniju, nagodili su se u slučaju koji se odnosio na 14-godišnjeg dječaka s Floride koji je počinio samoubojstvo nakon što je razvio emocionalni odnos s chatbotom na platformi. Zabrinutost zbog mogućeg utjecaja chatbotova na djecu bila je i razlog tužbe koju je protiv Character.AI-ja u siječnju podnijela savezna država Kentucky.
