Upravo o tome razgovarali smo na okruglom stolu "DOT nije BOT" u organizaciji CARNET-a i tportala, na kojem su govorili Ljerka Čulina, voditeljica Službe za inovacije i primjenu digitalnih obrazovnih tehnologija u nastajanju u CARNET-u i članica glavnog uredništva portala DOT, izv. prof. dr. sc. Mario Brčić iz Zavoda za primijenjeno računarstvo Fakulteta elektrotehnike i računarstva Sveučilišta u Zagrebu te Aleksandar Raić, član Uprave Pontis Technologyja zadužen za AI, istraživanje i razvoj te partnerstva i globalni potpredsjednik za umjetnu inteligenciju u Bridgewest Groupu.

''CARNET je pokrenuo portal DOT u okviru projekta e-Sveučilišta, a nalazi se na vršnoj domeni Republike Hrvatske www.hr. To je akronim za digitalne obrazovne tehnologije'', pojasnila je uvodno Čulina, podijelivši potom priču o Tuckeru Bryantu i njegovu modelu ChatTJB, u kojem odgovore daje – on. Time je, objašnjava, htio osvijestiti ljude da promisle kada postavljaju pitanje.

''Isto tako, iza portala DOT nije bot, ali nije ni Tucker, nego ekipa sastavljena od uredništva i stručnjaka koji pristupaju tehnologiji iz vlastitog iskustva i bez hypea'', pojasnila je Čulina.

Tu se odmah otvara pitanje povjerenja. Umjetna inteligencija ne daje samo informacije, već i preporuke na kojima se temelje odluke. Koliko je važno razumjeti na temelju čega se donose te preporuke?

''Vrlo je važno pratiti odluke takvih alata jer su veoma moćni, a takvi modeli mogu znatno mijenjati odluke ovisno o ulaznim podacima. Zato je važno upravljati cijelim kontekstom podataka – ne samo da model može uzeti u obzir pogrešne podatke, nego može donijeti i pogrešnu odluku koja za nas može imati nezgodan ishod'', tumači Brčić. Dodaje da se prilikom malih odluka ne moramo previše opterećivati, ali u slučaju velikih čovjek bi definitivno uvijek trebao provjeriti svaki podatak.

Što se događa kada sustav pogriješi?

''Nadajmo se da čovjek to uhvati i popravi. U našem je interesu da sve provjerimo'', kaže.

A kada od pitanja povjerenja dođemo do svakodnevne upotrebe, činjenica je da je umjetna inteligencija u poslovnom svijetu već uzela zamah. Što se u praksi stvarno promijenilo, a što je više hype nego korisna transformacija?

''AI se stvarno sve više upotrebljava. Ljudi ga koriste za individualnu produktivnost, od programera do onih koji trebaju pročitati ogromnu količinu dokumenata ili izvesti neki zaključak iz velike količine podataka. To više nisu samo inicijalni LLM-ovi koji su dosta halucinirali jer današnji modeli imaju puno kvalitetniji proces zaključivanja i danas se možemo dosta osloniti na AI alate'', kaže Raić.

Hrvatska ima vrhunske stručnjake, ali industrija kaska

''Međutim, ono što je danas možda veći problem jest transformacijski dio. Iako 80 posto tvrtki upotrebljava AI na ovaj ili onaj način, broj kompanija koje ga koriste tako da se stvarno transformiraju relativno je malen. To je, po meni, krajnja korist jer AI nije cilj, nijedna tehnologija nije cilj. Cilj je redizajnirati poslovne procese i poslovni model tako da koriste tu tehnologiju na posve novi način – da tvrtka bude učinkovitija, brža, profitabilnija i da brže raste'', precizan je Raić.

Osvrnuvši se na svoje iskustvo u farmaceutskoj industriji, osiguranju i telekomunikacijama, kaže da je i prije AI-a vrijedilo isto:

''Morate gledati kako ćete redizajnirati procese koristeći novu tehnologiju i tek onda imate puni učinak.''

A kako tu stoji Hrvatska u odnosu na druge?

''Hrvatska kaska u primjeni, iako su naši stručnjaci koji dolaze i s FER-a i s PMF-a zaista vrhunski. Tako da u stručnom smislu imamo odlične ljude, ali naša industrija relativno kasni, dosta je konzervativna i trebalo bi ubrzati primjenu, naravno uz redizajn procesa tako da budu konkurentniji. Cilj ne bi trebao biti da ih to samo dodatno košta, nego da doista budu kvalitetniji'', ocjenjuje Raić.

Gdje prestaje pomoć, a počinje prečac kada je korištenje AI-a u pitanju? Što se, primjerice, dobiva na portalu kao što je DOT, a ne može se dobiti u razgovoru s običnim botom?

''Iza portala stoje ljudi, stručnjaci koji se bave primjenom tehnologije u obrazovanju. Namijenjeni smo obrazovanju, ali ujedno i tehnološkoj industriji, tako da i ona vidi što treba obrazovanju. To je zapravo zajednica u kojoj iza svakog članka stoje stručnjak i uredništvo koje to provjerava te je velika naša odgovornost prema publici'', kaže Čulina, napomenuvši i da na samom portalu postoje recenzije digitalnih alata, kao i pravni aspekti njihove primjene te teme poput citiranja.

''Moj prijedlog je da ljudi pogledaju i uvjere se da iza DOT-a stoje ljudi'', zaključuje.

A kako u praksi testirati AI prije nego što ga počnemo koristiti i možemo li ikada znati kako će se ponašati u nekim situacijama koje nismo predvidjeli?

''Za uobičajeni softver, kada se pisao kod, također se radilo dosta testiranja, ali onda ste imali određena jamstva. Za razliku od toga, ovi modeli umjetne inteligencije imaju dosta široku upotrebu, mogu se prenamijeniti usred procesa i, što je najzanimljivije, kada izađe novi model, sve se može naglo promijeniti'', objašnjava Brčić.

''Evaluacija modela je vrlo važna, a najbolji prvi korak jest provjeriti online evaluacije koje je već netko drugi napravio, tako da možete imati neku početnu informaciju. Zatim bi trebalo unutar svog definiranog procesa detaljno testirati model. Jedino što možete napraviti za nepredviđene situacije jest provoditi široko testiranje. Također, sada se pojavljuju alati formalne verifikacije koji donekle mogu postići da se model ponaša unutar nekih okvira'', dodaje, naglašavajući da je riječ o relativno novoj tehnologiji na kojoj i sam radi.

Volja da se čini nešto dobro

U takvoj situaciji, gdje u poslovnoj praksi povlačimo granicu između zadataka koje ima smisla prepustiti AI-u i onih kod kojih su ljudski rad i prosudba nezaobilazni, postavlja se pitanje gdje bi ta granica trebala biti.

''Ono što čovjek radi sporije ili puno lošije nego AI model, to ne treba raditi. Ako modelu treba nekoliko sekundi da pročita tisuće stranica i objedini podatke ili da izvede određene modele na terabajtima podataka i zaključi neku predikciju ili pronađe anomaliju, to sigurno treba prepustiti AI-u'', konkretan je Raić.

''Činjenica je da odluku donosi čovjek. Tehnologiju treba više koristiti, ali uz čovjekovu volju da čini nešto dobro'', naglasio je.

Ako pitanje nije samo trebamo li koristiti AI, već što mora ostati ljudsko – hoće li stručnost, autorstvo i kontekst postati još važniji?

''Ljudska stručnost ima svoju vrijednost, čovjek je taj koji donosi odluke. Ne umanjujući vrijednost rezultata koji se dobivaju uz pomoć umjetne inteligencije, treba imati na umu da tekstovi koji educiraju o digitalnoj tehnologiji, osobito oni koji prenose iskustvo, imaju poseban kontekst'', kaže Čulina.

''Imamo misao bez mislilaca, tekst bez subjekta''

Osvrnula se i na teoriju mrtvog interneta i tekst koji dobivamo iz prompta.

''U njemu imamo argument, ali iza tog argumenta ne stoji odgovornost. Imamo misao bez mislilaca, tekst bez subjekta. Imajući to na umu, tekst koji ima svog autora, odgovornost uredništva i institucije poput CARNET-a ima svoje mjesto u svijetu'', zaključila je.

Jesu li pravila i ljudski nadzor dovoljni ili se neke granice mogu ugraditi u sam sustav?

''Jako je bitno da čovjek uvijek bude odgovoran, na kraju može i pravno odgovarati, a modelu umjetne inteligencije ne možete ništa. Glavna stvar u kojoj su modeli trenutno jako dobri jest velika brzina kojom obrađuju podatke i pregledavaju ih, tako da ih trebamo pustiti unutar nekih okvira i uz nadzor. Ali odluke koje se događaju 'u našoj brzini' čovjek uvijek treba dobro provjeriti'', kaže Brčić.

''Ljudi imaju intuiciju, snove, ciljeve i to je ono što AI nema. Želja da se nešto riješi, postavljanje problema i definicija cijelog relevantnog konteksta koji je potreban AI modelu definitivno je odgovornost čovjeka'', ističe Raić.

Uloga čovjeka je, podcrtava, da ne bude manipulativan, nego objektivan te da za što veći udio sadržaja koristi i druge tehnologije i dodatna rješenja, a ne samo AI.

''Nije sve to bilo crno, nekad to bude odgovor s određenom vjerojatnošću i iz toga čovjek mora izvesti što bi bila adekvatna akcija'', kaže Raić te napominje da to mora biti neki suživot tehnologije i čovjeka, a uvijek je tu i pitanje dobre namjere.

''I običnim šibicama, koje nisu neka super sofisticirana tehnologija, piroman napravi ogromnu štetu, a da ne govorimo o nuklearnoj energiji ili AI-u. Tehnologija je tu da pomogne, ali bitno je kontrolirati namjeru čovjeka da nešto zloupotrijebi ili korisno upotrijebi'', zaključio je.