Umjetna inteligencija (AI) može biti korisna za generiranje ideja, istraživanje, sažimanje, formuliranje tekstova ili programiranje. Međutim, AI modeli također nose rizike i mogu stvarati pogreške.

45 posto odgovora chatbotova bilo je problematično

Primjerice, nedavno izvješće konzultantske tvrtke KPMG koje se bavilo globalnom primjenom umjetne inteligencije u kompanijama – sadržavalo je studije slučaja temeljene na takozvanim halucinacijama, objavio je Financial Times, prenosi tagesschau.

Prema istraživanju Europske radiodifuzne unije (EBU), čak 45 posto odgovora chatbotova u listopadu 2025. sadržavalo je „značajne“ nedostatke bilo u točnosti, navođenju izvora, kontekstu ili razlikovanju činjenica od mišljenja.

Od tada su se mnogi jezični modeli znatno poboljšali, no pogreške su i dalje moguće. Osim halucinacija, odgovori umjetne inteligencije o aktualnim temama mogu jednostavno biti zastarjeli jer se chatbotovi, ovisno o svojim postavkama, treniraju i na starijim tekstovima.

Nadalje, ponekad nekritički preuzimaju dezinformacije s interneta ili procjene pripisuju pogrešnim izvorima. Dodatni problem je što su i sami izvori koje koriste sve češće generirani umjetnom inteligencijom.

Istraživači s Imperial Collegea u Londonu, Sveučilišta Stanford i organizacije Internet Archive nedavno su nasumično analizirali internet upravo s tog aspekta. Njihov zaključak je da je do sredine 2025. godine oko 35 posto novopublikiranih internetskih stranica klasificirano je kao sadržaj generiran umjetnom inteligencijom ili barem djelomično potpomognut AI-em.

Zbog toga KPMG-ovo izvješće nije izolirani incident. Prema medijskim izvješćima, nešto slično nedavno se dogodilo i u EY Kanada. Tamošnji konzultantski odjel izradio je studiju čiji su se izvori, identificirani pomoću AI-ja, pokazali manjkavima ili netočnima.

Nepostojeći izvori i citati

I Deloitte u Australiji prošle je godine morao ispraviti analizu programa socijalne skrbi jer je sadržavala nepostojeće izvore i citate. Posebno problematično bilo je to što je analiza bila izrađena za Ministarstvo rada i zapošljavanja.

Činjenica da se takve situacije pojavljuju upravo u poslovnom i političkom savjetovanju ne čini se slučajnom. Uz IT sektor, upravo se konzultantska industrija smatra jednim od dva područja koja umjetna inteligencija trenutno najviše mijenja.

„Vidimo da ovaj sektor koristi umjetnu inteligenciju iznad prosjeka i formalno, kada je uvode poslodavci, i neformalno, kada je koriste sami zaposlenici“, objašnjava Oliver Schlenker, zamjenik voditelja odjela u ifo Centru za socijalno tržišno gospodarstvo i institucionalnu ekonomiju.

Riječ je o jednom od sektora u kojem besplatno dostupni AI modeli mogu vrlo učinkovito obavljati rutinske zadatke, poput prikupljanja informacija i izrade dokumenata.

Nužna kritička provjera

„Na prvi pogled čini se da postoje golemi dobici u produktivnosti jer se izvješće za koje su nekad trebala dva tjedna sada napiše vrlo brzo. No to automatski ne znači da je posao kvalitetno obavljen“, kaže Schlenker, koji je ujedno i viši istraživač Instituta za istraživanje tržišta rada (IAB).

Ključni problem je kritička provjera jer umjetna inteligencija također može halucinirati.

„Sukladno tome, već postoje istraživanja koja pokazuju pomak u radnim zadacima: od izvršavanja prema nadzoru rada umjetne inteligencije“, naglašava stručnjak. No upravo taj posljednji korak često još uvijek izostaje.

Utjecaj AI-ja raste i u drugim sektorima gospodarstva

Prema nedavnom istraživanju instituta ifo, više od 54 posto tvrtki u Njemačkoj već koristi umjetnu inteligenciju u svojim procesima.

Podaci IAB-a pokazuju da dvije trećine zaposlenika u Njemačkoj u određenoj mjeri koristi AI na radnom mjestu.

Međutim, samo je trećini korisnika umjetna inteligencija formalno uvedena od strane poslodavca, ističe ekonomist Schlenker.

„Imamo vrlo visok stupanj takozvanog shadow AI-ja, gdje tvrtka možda nije adekvatno educirala zaposlenike o tome kako se nositi s pogreškama povezanima s umjetnom inteligencijom.“ To može dovesti do ozbiljnih problema.

U istraživanju AI tvrtke Dataiku čak 76 posto njemačkih menadžera za upravljanje podacima izjavilo je da su se tijekom protekle godine morali nositi s poslovnim problemima ili krizama uzrokovanima halucinacijama umjetne inteligencije.

Problem raste i u znanosti

No to postaje sve veći problem ne samo u gospodarstvu nego i u akademskom svijetu.

Frankfurter Allgemeine Zeitung (FAZ), primjerice, izvještava o tome da tržište preplavljuju publicističke knjige koje su djelomično generirane umjetnom inteligencijom.

Također raste broj lažnih referenci u znanstvenim radovima.

Istraživači sa Sveučilišta Cornell i Kalifornijskog sveučilišta nedavno su analizirali 2,5 milijuna znanstvenih članaka te pronašli gotovo 150.000 citata koje su izmislili jezični modeli.

Björn Ommer, profesor umjetne inteligencije na Sveučilištu Ludwig Maximilian u Münchenu, smatra da odgovornost leži na pojedinim autorima.

„Bez obzira koristim li umjetnu inteligenciju ili računalo za obradu podataka, ja kao autor odgovoran sam za konačni rezultat.“

Slično tome, ne može se tvrditi da je za određene tvrdnje odgovorna umjetna inteligencija. Ona nije navedena kao autor.

„Znanost može funkcionirati samo ako se može vjerovati da je druga strana pouzdana“, kaže Ommer.

Studenti su svjesni rizika

Centar za akademsko pisanje Sveučilišta Goethe u Frankfurtu anketirao je više od 4.000 studenata diljem Njemačke o njihovom korištenju umjetne inteligencije.

Prema rezultatima ankete, studenti AI najčešće koriste za dobivanje informacija, pretraživanje literature ili traženje sadržaja vezanih uz određeno područje.

Vrlo su svjesni rizika, izvještava Nora Hoffmann, voditeljica Centra za akademsko pisanje.

„Studenti jasno pokazuju da znaju kako umjetna inteligencija griješi, da može halucinirati i da joj se ne može potpuno vjerovati.“

To ih ne odvraća od korištenja AI-ja, ali ga koriste svjesni tih ograničenja i provjeravaju izvore. Međutim, načini na koje studenti osiguravaju vlastitu odgovornost znatno se razlikuju, kaže Hoffmann. Neki koriste umjetnu inteligenciju samo za određene zadatke, dok drugi veliku važnost pridaju dokumentiranju njezine uporabe. Jedinstvena pravila na sveučilištima i visokim školama rijetka su.

Pad kvalitete i krađa ideja

Nina Kolleck, profesorica teorije obrazovanja i socijalizacije na Sveučilištu u Potsdamu, upozorava na pad znanstvene kvalitete.

„Definitivno postoji trend koji ide u smjeru društvenih mreža i umjetne inteligencije: sve brže, sve površnije i sve pliće.“

Također ju iznenađuje što mnogi ljudi smatraju ChatGPT i slične tehnologije objektivnima te imaju toliko povjerenja u njih.

„Jezični modeli rade samo ono što ja želim da rade“, ističe politologinja.

Sve ovisi o informacijama kojima su opskrbljeni i algoritmima koje koriste.

No Kolleck najveću opasnost vidi negdje drugdje u sve češćoj krađi ideja.

„Dok neki marljivo istražuju i analiziraju, drugi jednostavno sastavljaju materijal preuzet od drugih i ubacuju ga u umjetnu inteligenciju.“

Pritom se više ne može ni prepoznati da je riječ o plagijatu.

Zbog toga znanstvenica poziva na uspostavu etičkih i kvalitativnih standarda za korištenje umjetne inteligencije.

Jer bez nje više ne možemo, a to nije nužno loše.

„Trebali bismo koristiti umjetnu inteligenciju kako bismo postali bolji, primjerice za razvoj programa koji nam omogućuju analizu mnogo većih skupova podataka, provođenje znatno preciznijih analiza, otkrivanje pogrešaka i slično.“