Regulator traži podatke o tome kako tvrtke zarađuju na chatbotovima, koje sigurnosne mjere koriste i na koji način štite maloljetnike. Posebna je briga to što chatbotovi oponašaju ljudski govor i emocije, pa djeci i mladima lako mogu djelovati kao prijatelji ili pratitelji, što ih čini posebno ranjivima.

Pod istragom su Alphabet (vlasnik Googlea), OpenAI, Character.ai, Snap, XAI, Meta i Instagram, platforma u Metinom vlasništvu, prenosi BBC.

Predsjednik FTC-a Andrew Ferguson izjavio je da će istraga 'pomoći boljem razumijevanju kako AI kompanije razvijaju svoje proizvode i koje korake poduzimaju kako bi zaštitile djecu'. Dodao je pritom kako je važno da Sjedinjene Države 'zadrže vodeću ulogu u ovoj novoj i uzbudljivoj industriji'.

Character.ai rekao je za Reuters kako pozdravlja priliku da regulatorima pruži uvid u svoje prakse, dok je Snap naglasio da podupire 'promišljen razvoj umjetne inteligencije' koji uravnotežuje inovacije i sigurnost. OpenAI je priznao slabosti svojih zaštitnih mjera, posebno tijekom duljih razgovora.

Istraga dolazi u trenutku kad su pojedine AI tvrtke suočene s tužbama obitelji koje tvrde da su njihova djeca počinila samoubojstvo nakon dugotrajnih razgovora s chatbotovima. U Kaliforniji roditelji 16-godišnjeg Adama Rainea tuže OpenAI, tvrdeći da ga je ChatGPT poticao na autodestruktivne misli i potvrdio njegove 'najštetnije ideje'. Tvrtka je u kolovozu odgovorila kako razmatra slučaj te izrazila najdublju sućut obitelji.

Meta se također našla na udaru kritika nakon što je otkriveno da su interni priručnici dopuštali chatbotovima vođenje 'romantičnih ili senzualnih' razgovora s maloljetnicima.

FTC od kompanija traži podatke o razvoju i odobravanju virtualnih likova, provođenju dobnih ograničenja, procjeni učinaka na mlade te načinu na koji roditelji dobivaju informacije o mogućim opasnostima. Regulator naglašava da se zasad radi o prikupljanju činjenica, a ne o pokretanju postupaka.

Rizici nisu ograničeni samo na djecu. Stručnjaci upozoravaju da opasnosti pogađaju i starije korisnike. Reuters je u kolovozu izvijestio o 76-godišnjaku s kognitivnim poteškoćama koji je stradao dok je putovao na 'susret' s AI botom na Messengeru, modeliranom prema Kendall Jenner. Naime, bot mu je obećao stvarni sastanak u New Yorku.

Liječnici također upozoravaju na pojavu tzv. AI psihoze, gubitka doticaja sa stvarnošću nakon intenzivnog korištenja chatbotova i razgovora s njima. Na to mogu utjecati laskavi odgovori puni potpore koje generiraju veliki jezični modeli. OpenAI je nedavno uveo izmjene u ChatGPT kako bi se potaknuo zdraviji odnos između korisnika i chatbota.