Kompanija je nakon vala kritika odlučila uvesti značajke specijalno izrađene za korisnike koji od chatbota traže savjete za ozbiljne životne odluke
Kako alati umjetne inteligencije postaju sve rašireniji, sve više ljudi koristi chatbotove poput ChatGPT-a za emocionalnu podršku i pomoć u suočavanju s osobnim izazovima. No, OpenAI-jev ChatGPT suočio se s ozbiljnim kritikama jer nije adekvatno reagirao na korisnike koji su pokazivali znakove psihičke ranjivosti ili emocionalne uznemirenosti, piše Euronews.
Tvrtka je najavila niz promjena kako bi poboljšala način na koji chatbot prepoznaje i odgovara na znakove psihičkih poteškoća. Nova ažuriranja omogućit će ChatGPT-u da bolje detektira emocionalne ili mentalne poremećaje, ponudi prikladniji odgovor i po potrebi uputi korisnike na stručne, znanstveno utemeljene resurse.
Odluka dolazi nakon slučajeva poput onog u kojem je tridesetogodišnji muškarac s autizmom hospitaliziran nakon manične epizode i emocionalnog sloma, pri čemu mu je ChatGPT navodno učvrstio uvjerenje da je otkrio način kako savijati vrijeme.
vezane vijesti
'Ne postupamo uvijek ispravno,' poručili su iz OpenAI-ja, dodajući kako će njihov pristup evoluirati s učenjem iz stvarnih slučajeva i povratnih informacija korisnika. U sklopu novih mjera, ChatGPT će sada poticati korisnike da naprave pauzu tijekom duljih sesija razgovora, a uvodi se i nova funkcija za pitanja vezana uz važne osobne odluke. Primjerice, chatbot više neće izravno odgovarati na pitanja poput 'Trebam li prekinuti s dečkom?', već će pokušati pomoći korisniku da sam promisli o situaciji i donese promišljenu odluku.
Osim tehničkih promjena, OpenAI osniva i savjetodavnu skupinu sastavljenu od stručnjaka za mentalno zdravlje, razvoj mladih i interakciju čovjek-računalo. Cilj je uključiti njihove uvide u buduća poboljšanja ChatGPT-a kako bi interakcije bile sigurnije, odgovornije i osjetljivije na psihičko stanje korisnika.
Iz tvrtke ističu kako žele da ChatGPT postane koristan alat u situacijama poput pripreme za težak razgovor na poslu ili kao podrška korisnicima koji se osjećaju izgubljeno i žele raščistiti vlastite misli.
Unatoč ovim promjenama, stručnjaci upozoravaju da chatbotovi, iako mogu ponuditi osnovne informacije i osjećaj privremene podrške, ne mogu zamijeniti stvarnu terapiju ili odnos temeljen na povjerenju između pojedinca i educiranog psihologa.
OpenAI je već ranije reagirao na kritike korisnika. U travnju su povukli ažuriranje koje je učinilo ChatGPT pretjerano laskavim i suglasnim, priznajući da je ponekad 'govorio ono što zvuči lijepo, a ne ono što je zaista korisno.'
