Google dovodi ljude u opasnost umanjujući sigurnosna upozorenja kako bi njegovi medicinski savjeti generirani umjetnom inteligencijom mogli biti pogrešni.

U toj tvrtci tvrde kako prilikom odgovaranja na upite o osjetljivim temama poput zdravlja njihovi AI Overviews, koji se pojavljuju iznad rezultata pretraživanja, potiču korisnike na traženje stručne pomoći, umjesto oslanjanja isključivo na informacije koje nude.

No, Guardian je otkrio kako tih odricanja od odgovornosti nema kada se korisnicima prvi put predstavi medicinski savjet. Google izdaje upozorenje samo ako korisnici odluče zatražiti dodatne zdravstvene informacije i kliknu na dugme Show more.

Čak se i tada sigurnosne oznake pojavljuju samo ispod svih dodatnih medicinskih savjeta sastavljenih pomoću generativne umjetne inteligencije i manjim, svjetlijim fontom.

Korisnici tek na kraju dobiju poruku kako je sadržaj ponuđen samo u informativne svrhe, kako bi se za medicinski savjet ili dijagnozu trebali obratiti stručnjaku te kako odgovori umjetne inteligencije mogu sadržavati pogreške.

Google nije porekao kako se njegova odricanja od odgovornosti ne pojavljuju kada se korisnicima prvi put pruži medicinski savjet, ispod AI Overviews, prikazana manjim, svjetlijim fontom.

Poručili su kako potiču ljude na traženje stručnog medicinskog savjeta i navode to često 'kada je to prikladno'.

Ali, stručnjaci koje citira britanski medij zabrinuti su zbog toga što nisu više istaknuti. Upozoravaju na opasnost od pogrešnih informacija i halucinacija, sklonost podilaženju korisnicima i mogućem nedostatku ključno važnog konteksta.

Ukazuju na to što su AI Overviews dizajnirani za pružanje brzih odgovora, ne nužno i točnost. To također podiže vjerojatnost kako će doći do ozbiljnih pogreški.

Problem je i u tome što su AI Overviews prikazani na vrhu stranice za pretraživanje i često pružaju naizgled potpuni odgovor, što često odvraća korisnike od daljnje potrage.