Razgovor s umjetnom inteligencijom koja komunicira prirodno potiskuje nešto što istraživači nazivaju negativnom strojnom heuristikom
Roboti za brbljanje temeljeni na umjetnoj inteligenciji danas značajno prirodnije komuniciraju s nama. Srdačno vas pozdravljaju, pamte vaše ime i u razgovoru odgovaraju poput stvarne osobe.
Međutim, novo istraživanje Sveučilišta Penn State (SAD) sugerira kako bi ta ista ljubaznost mogla neprimjetno smanjiti vaš oprez, čineći vas sklonijima povjerovati svemu što vam kažu, čak i kada su potpuno u krivu.
vezane vijesti
Istraživači su izradili lažnog AI zdravstvenog asistenta i omogućili interakciju s njim za 477 ljudi, koji nisu znali kako će im pritom biti plasirane netočne informacije. Uključili su čak i apsurdne tvrdnje, poput one prema kojoj đumbir može biti učinkovitiji od kemoterapije u liječenju raka.
Neki su sudionici komunicirali sa srdačnom verzijom koja je vodila prirodan razgovor, pamtila detalje, upuštala se u neobavezno čavrljanje i ispisivala odgovore postupno, baš kao što bi to činila stvarna osoba. Drugima je predstavljena suhoparnija, robotska verzija s trenutnim, bezličnim odgovorima.
Ljudi koji su razgovarali s ljubaznijom verzijom više su vjerovali njezinim odgovorima, čak i kada je pružala netočne informacije.
Zašto je tomu tako?
Razgovor s umjetnom inteligencijom koja komunicira prirodno potiskuje nešto što istraživači nazivaju negativnom strojnom heuristikom.
Riječ je o našoj urođenoj pretpostavci kako su strojevi previše kruti i mehanički nastrojeni za donošenje stvarnih prosudbi na način na koji to može čovjek. Jednom kada taj skepticizam nestane, ljudi prestaju kritički preispitivati ono što im se govori.
Tim je također istražio bi li dodavanje opcije provjere pomoglo, a rezultati su bili jasni. Sama prisutnost dugmeta za provjeru nije imala gotovo nikakav učinak. Ključno je bilo hoće li netko doista kliknuti na njega i usporediti tvrdnju sa stvarnim dokazima, jer oslanjanje na AI bez tog dodatnog koraka može neprimjetno pretvoriti sumnju u lažno samopouzdanje.
Kada su ljudi počeli provjeravati tvrdnje, njihovo povjerenje u chatbot znatno je opalo, a informacije su ocijenili znatno manje vjerodostojnima.
Kada im je prepušten slobodan izbor, točno polovica sudionika odlučila je provjeriti informacije, dok ih je druga polovica u potpunosti zanemarila. Stoga, budite oprezni. Razgovarajte, ali provjerite je li to što vam AI govori doista točno, piše Digital Trends.
