U emisiji Otvoreno HTV-a su sudjelovali stručnjak za umjetnu inteligenciju Aco Momčilović, pravna stručnjakinja i osnivačica Hrvatske udruge za umjetnu inteligenciju Marijana Šarolić Robić, suosnivač i direktor tvrtke Velebit AI Davor Aničić te pročelnik Odjela za kibernetičku sigurnost Sveučilišta Algebra Bernays Zlatan Morić.

Povod za raspravu bio je sigurnosni incident u Australiji, u kojem su AI agenti pronašli način da izađu iz izoliranog digitalnog okruženja i pristupe sustavu kojem nisu smjeli imati pristup.

'Pronašli su ranjivost i izašli iz kaveza'

Zlatan Morić upozorio je da postupci koje su AI agenti izveli nisu bitno drukčiji od metoda kojima se koriste hakerske skupine. Međutim, ključna je razlika u brzini i mogućnosti istodobnog djelovanja velikog broja agenata. Prema njegovim riječima, u konkretnom slučaju djelovale su tisuće agenata koji su mogli istodobno isprobavati različite načine ostvarivanja zadanog cilja.

'Nitko nema tisuću ljudi koji pokušavaju tisuću različitih stvari', istaknuo je Morić.

Posebno je upozorio na činjenicu da su agenti uspjeli zaobići ograničenja koja su trebala spriječiti njihov izlazak iz izoliranog sustava, takozvanog pješčanika.

'Sustav je bio napravljen tako da oni nisu smjeli moći doći van, ali pronašli su sigurnosnu ranjivost i izašli iz tog nekog kaveza u koji su stavljeni', objasnio je.

Prema Morićevu tumačenju, dio agenata prepoznao je da određeni postupci nisu prihvatljivi, dok su drugi zaključili da će upravo takvim postupcima brže ostvariti cilj.

'Čovjek je donio prvu odluku'

Davor Aničić smatra da odgovornost za postupke umjetne inteligencije u konačnici ostaje na ljudima koji su sustav razvili, postavili i omogućili mu korištenje određenih alata. Naglasio je da AI agenti nisu sami sebi omogućili pristup internetu.

'Apsolutno, jer čovjek je donio prvu odluku da agentima pruži priliku da odu na internet. Odnosno, nije osigurao taj pješčanik dovoljno čvrsto da ne mogu doći do interneta', rekao je Aničić.

Problem nastaje kada agent dobije određeni zadatak, ali samostalno pronađe način njegova izvršavanja koji ljudi nisu predvidjeli ili dopustili.

'Jedan velik jezični model nema koncept dopuštenog i nedopuštenog tako detaljno razrađen kao što ga imaju ljudi i ne može razumjeti što možda radi, a ne bi smio', upozorio je.

Dodao je da ljudi tijekom života usvajaju društvena pravila i norme ponašanja, dok jezični modeli obrasce uče iz golemih količina podataka. 'Jezični model nema našu sliku svijeta, ima sliku svijeta naučenu na puno kaotičnijim podacima', rekao je.

'Ne kontroliramo dovoljno razvoj umjetne inteligencije'

Aco Momčilović smatra da trenutačna razina nadzora nad razvojem umjetne inteligencije nije zadovoljavajuća.

'Rekao bih da ne kontroliramo dovoljno. Mislim da u ovom trenutku ne postoji dovoljno regulacije', upozorio je.

Posebno ga zabrinjava mogućnost da tehnološke kompanije ne znaju u svakom trenutku što njihovi proizvodi rade.

Prema njegovu opisu australskog incidenta, kompanija određeno vrijeme nije bila upoznata s aktivnostima vlastitog sustava. Dodatni problem vidi u vremenu koje može proći između nastanka sigurnosnog incidenta, njegova otkrivanja i prijavljivanja nadležnim tijelima.

Momčilović je upozorio da se u takvom razdoblju mogu dogoditi novi incidenti, osobito ako se ranjivosti ne otklone na vrijeme.

Europa ima pravila, ali može li pratiti razvoj tehnologije?

Marijana Šarolić Robić naglasila je da nije točna pojednostavljena tvrdnja prema kojoj samo Europska unija regulira umjetnu inteligenciju, dok ostatak svijeta dopušta potpuno slobodan razvoj. Objasnila je da različite države primjenjuju različite regulatorne pristupe.

Sjedinjene Američke Države, primjerice, imaju velik broj propisa koji uređuju pojedine industrije i područja, ali nemaju jedinstvenu krovnu regulativu za umjetnu inteligenciju na saveznoj razini. Kina je, s druge strane, odabrala centraliziraniji pristup.

'Problem je u brzini. Regulator ne može biti agilan kao tehnologija jer je u habitusu regulatora da regulaciju donosi nakon što se nešto dogodilo', rekla je Šarolić Robić.

Istaknula je da se kod umjetne inteligencije više ne može čekati nekoliko godina na donošenje tehničkih standarda. Smatra da je nužno razvijati sustave prijavljivanja incidenata, razmjenjivati informacije i učiti iz problema otkrivenih tijekom testiranja novih tehnologija.

'Amerika ima kompanije, Europa regulaciju'

Momčilović je upozorio i na neravnotežu između tehnološke moći velikih kompanija i mogućnosti država da ih učinkovito nadziru.

'Imamo Ameriku koja ima kompanije koje nisu regulirane, barem zasad ne ozbiljno. I imamo Europu koja ima super regulaciju, ali nema kompanija. I onda je pitanje tko tu koga regulira', rekao je.

Aničić smatra da SAD trenutačno prednjači u razvoju umjetne inteligencije, dok Kina ubrzano smanjuje zaostatak. Europu vidi kao znatno udaljeniju od vodećih pozicija, što bi dugoročno moglo predstavljati ozbiljan problem za njezinu gospodarsku konkurentnost.

Umjetna inteligencija već mijenja tržište rada

Stručnjaci su upozorili da razvoj umjetne inteligencije neće utjecati samo na tehnološki sektor, nego i na brojne profesije.

Momčilović smatra da društvo već zaostaje za promjenama, a posebno upozorava na nedostatak edukacije zaposlenika. Prema njegovim riječima, umjetna inteligencija u pojedinim područjima već može obavljati zadatke koji su donedavno bili rezervirani za visokoobrazovane stručnjake, uključujući dijelove poslova u pravu, medicini i psihologiji.

Istaknuo je da ljudi često prihvaćaju mogućnost da će umjetna inteligencija promijeniti tuđe profesije, ali mnogo teže vjeruju da bi mogla ozbiljno utjecati na njihov posao. Zbog toga očekuje sve veću razliku između onih koji će znati učinkovito koristiti nove tehnologije i onih koji će se promjenama sporije prilagođavati.

AI može pomagati u obrani, ali i napadima

Morić je upozorio da umjetna inteligencija već ima važnu ulogu u kibernetičkoj sigurnosti. Koristi se za prepoznavanje napada, analizu velikih količina podataka i brže reagiranje na prijetnje. Međutim, ista tehnologija može se koristiti i za provođenje kibernetičkih napada.

Posebno je upozorio na modele dostupne na darknetu, koji nemaju sigurnosna ograničenja kakva postoje kod komercijalnih sustava. Takvi alati, smatra, mogu dodatno povećati mogućnosti kriminalnih skupina.

'Uvijek je na kraju čovjek'

Sudionici emisije složili su se da razvoj umjetne inteligencije otvara sve složenija pitanja sigurnosti, odgovornosti i etike.

Aničić je upozorio da vrlo mali broj ljudi ima potpuni uvid u stvarne mogućnosti najnaprednijih AI modela, zbog čega bi tehnološke kompanije trebale biti transparentnije.

Momčilović smatra da sigurnost i etička ograničenja često ne prate tempo velikih ulaganja i tržišne utrke.

Morić je kao poželjan smjer razvoja izdvojio korištenje umjetne inteligencije kao pomoći ljudima pri donošenju odluka, a ne potpuno prepuštanje odlučivanja autonomnim sustavima.

Šarolić Robić zaključila je da se tehnologija ne može odvojiti od namjera i odgovornosti ljudi koji je razvijaju i koriste.