NOVA ZNAČAJKA AI OVERVIEW

Obama je musliman, na Mjesecu ima mačaka? Googleova tražilica halucinira zbog AI-ja

28.05.2024 u 11:54

Bionic
Reading

Stručnjaci su zabrinuti zbog pristranosti i dezinformacija nakon što je Googleova umjetna inteligencija opet ponudila pogrešne odgovore

Google je ovog mjeseca u Sjedinjenim Državama predstavio novu značajku AI Overview, koja uključuje sažetke generirane umjetnom inteligencijom prikazane pri vrhu njegove tražilice.

Nije prošlo puno vremena prije no što su korisnici počeli otkrivati pogreške. Primjerice, na upit novinara agencije AP Googleova tražilica je odgovorila kako su se astronauti susreli s mačkama na Mjesecu, igrali se s njima i brinuli o njima.

'Neil Armstrong je rekao: 'Jedan mali korak za čovjeka' jer je to bio mačji korak. Buzz Aldrin također je poveo mačke u misiju Apollo 11', navedeno je također u sažetku. Ništa od navedenog, naravno, nije točno. Više sličnih pogreški podijeljeno je na društvenim mrežama otkad je Google upogonio novu značajku.

Između ostalog, jednom je korisniku AI Overview predložio konzumiranje jednog kamena dnevno, a drugom dodavanje ljepila u pizzu.

Pojavila se i tvrdnja kako je Barrack Obama, bivši predsjednik SAD-a, musliman, koja je navela akademske izvore kao dokaz. No, u citiranoj knjizi ta je lažna teorija samo spomenuta, nije se tvrdilo kako je točna.

Pokazalo se, dakle, kako Googleova umjetna inteligencija nije dovoljno pametna kako bi shvatila da citat ne ide u prilog lažnoj tvrdnji. Stoga su stručnjaci pozvali na isključivanje značajke AI Overview.

Priznali pogrešku, optužili druge

Google je priopćio kako 'brzo radi' ne bi li popravio pogreške, poput neistine o Obami, koje krše njegova pravila o sadržaju.

Ali, također su ustvrdili kako u većini slučajeva sustav radi onako kako bi trebao zahvaljujući opsežnim testiranjima prije javnog objavljivanja. Dio pogrešaka pripisali su neuobičajenim upitima, a vidjeli su i primjere koji su lažirani ili koje nisu mogli reproducirati.

Općenito govoreći, pogreške koje čine jezični modeli umjetne inteligencije teško je reproducirati, dijelom zato što su inherentno nasumične. Modeli umjetne inteligencije rade tako da predviđaju koje bi riječi najbolje odgovorile na pitanja koja im se postavljaju na temelju podataka na kojima su uvježbani.

Skloni su izmišljanju stvari, što je široko proučavan problem poznat kao halucinacije, piše Euro News.

sve osim nogometa

Učitavanje...