Mladen Vukmir jedan je od najpoznatijih domaćih pravnih stručnjaka za područje autorskih prava i intelektualnog vlasništva. No također je vrlo dobro upoznat s razvojem tehnologija i utjecajem koji ti procesi imaju na pojedince i društvo.

Na tu će temu održati i zanimljivo predavanje tijekom nadolazeće konferencije Mobility Day u Zagrebu 29. rujna, a mi smo to iskoristili kao povod za razgovor.

Čini se kako ni pravna branša neće ostati pošteđena u širenju automatizacije i robotizacije. Automatizacija dugotrajnih i zamornih poslova svakako je poželjna, ali koliko daleko možemo i trebamo ići? Hoćemo li doista u ne tako dalekoj budućnosti imati robote za odvjetnike? Gdje povući granicu?

Potpuno ste u pravu, niti jedna branša neće biti zaobiđena promjenama koje donose, između ostalih, robotizacija i automatizacija. U prošlosti se smatralo da u umnim djelatnostima, kao što je to pravna profesija, neće biti moguće ni lako zamijeniti profesionalce automatima.

Međutim, to se sada upravo događa, prvenstveno zahvaljujući uvođenju tehnologija zasnovanih na umjetnoj inteligenciji (artificial intelligence, AI) i novim pristupima u okviru AI tehnologije kao što su to dubinske (deep learning) i ostale varijante strojnog učenja.

Pri tome treba razumjeti da umjetna inteligencija za sada pogoduje zamjeni samo repetitivnih, rutinskih poslova, a u onima u kojima je potreban kreativni, nestandardni pristup za sada nema uspjeha.

Danas se stoga smatra da u procesu nadomještanja ljudi tehnologijom neće biti pošteđene ni manualne ni umne djelatnosti, nego će tehnologija AI zamijeniti jednako rutinske poslove kako u umnim, tako i u manualnim djelatnostima, dok će nestandardne djelatnosti kako umne, tako i manualne, za sada biti pošteđene.

Povijesno gledano, napredak tehnologija uglavnom nije moguće zaustaviti i naša civilizacija ima tendenciju usvajanja promjena. Ljudi taj proces pokreću svojom sposobnošću inovacije, ali posljedice promjena izazvanih tim inovacijama često inicijalno proizvode ljudske strahove i bojazni. Te bojazni nisu uvijek utemeljene na razumu i analiza promjena često je obojena strahovima.

Jedan takav tipični strah jest da će tehnologija nadomjestiti ljude, najbanalnije u smislu uzimanja radnih mjesta. Pokazalo se ipak, ako se danas uopće možemo pouzdati u prošla iskustva, da pojave novih tehnologija, iako doista dovode do ukidanja radnih mjesta, istovremeno stvaraju još veći broj novih radnih mjesta, na poslovima koje uopće nije bilo moguće zamisliti na osnovi odbačenih tehnologija.

Stoga bi bilo pravilnije pitati se ne hoćemo li imati robote za odvjetnike, nego hoćemo li željeti odvjetnike takve kakve danas poznajemo, koja će biti uloga pravnika i što će te velike promjene donijeti u smislu promjena pravnog sustava.

Zbog čega bi odvjetnički ured trebao zaposliti robota? Gdje vidite najveće potrebe i mogućnosti primjene?

Roboti nisu nužno ono što smo pod tim nazivom zamišljali u doba sci-fi romana Arthura C. Clarkea, nego ih je možda bolje opisati kao softverske automatizirane procese svojstvene ljudskoj interakciji. Primjerice, rijetko će se tko odlučiti bankomat nazvati robotom iako je upravo ta sprega softvera i hardvera nadomjestila bankovne činovnike.

Dakle, na način na koji je bankomat robot doživjet ćemo i mnoge druge automatizacije procesa ljudske interakcije, pa će tako i pravni procesi postati automatizirani. Velik dio tih procesa odvijat će se u internetskom oblaku u obliku softvera kao usluge i njihovi 'mehanizmi' neće u cijelosti biti vidljivi korisnicima.

Pretpostavljam da će svakodnevne transakcije kao što je to npr. kupoprodaja biti tako automatizirane kao softverske usluge bazirane u oblaku i siguran sam da će one biti preciznije i sofisticiranije nego što je to ispunjavanje obrazaca kupoprodajnih ugovora za vozila ili nekretnine kupljenih u Narodnim novinama.

Dakle, prvo će roboti nadomjestiti postojeće servise kao što su to Narodne novine, jer se koriste u najjednostavnijim standardiziranim transakcijama, a tek potom kompleksnije transakcije koje imaju manje elemenata rutine. To znači da će standardni, repetitivni i ponovljivi procesi biti među prvim kandidatima za automatizaciju.

Kao primjer mogao bih navesti možda meni vrlo drag pravni proces, a to je odlučivanje u sporovima o domenskim imenima UDRP (Uniform Dispute Resolution Policy). U toj tzv. upravnoj kvaziarbitraži broj pravnih elemenata o kojima se odlučuje potpuno je standardiziran i pojednostavljen. Mogu zamisliti da taj proces bude u budućnosti automatski, vođen umjetnom inteligencijom.

Pretpostavimo kako će u nekom trenutku ljude u odvjetničkim uredima doista zamijeniti roboti. Što smatrate najvećim izazovima i rizicima u pravnoj i društvenoj regulaciji takvog poslovanja? Kako ih savladati ili izbjeći?

Ne vjerujem da će zamjena ljudi robotima biti sveobuhvatna i linearna. Neke će radnje raditi roboti, a neke radnje će vjerojatno raditi i roboti i ljudi. Ako se vratimo poslovanju bankomata, u prvim godinama njihovog rada uvijek smo se bojali ili nadali da će oni pogriješiti te nam isplatiti više ili manje od proknjiženoga. To se nije događalo jer u mnogim djelatnostima strojevi rade preciznije od ljudi.

Slično će izgledati i izrada ugovora putem ekspertnih sustava, ali to ne znači da neće biti potrebno imati savjetnika koji na temelju svojega ljudskog iskustva može oblikovati pravilan input za ekspertni sustav.

Pravna regulacija automatiziranih sustava na određeni je na način jednostavnija od regulacija ljudskih postupaka. Naime, proizvođač će ostati odgovoran, ali će on zbog ponovljivosti i rutine poslova koje obavljaju njegovi ekspertni sustavi imati tu korist da može ispraviti nedostatke uz malo pogrešaka.

Zamislite usporedbu s moralnom dilemom koja se javlja s pojavom autonomnih vozila. Mnogi se ljudi boje scenarija u kojem vozilo u kojem se vozite odluči umjesto vas, na temelju programerskih uputa, da u cilju spašavanja života osobe za koju je ocijenilo da je dijete koje je upravo ispred vas istrčalo na ulicu, skrene sa sigurne putanje uz rizik da naškodi ili ubije vlastite putnike umjesto da pregazi osobu koju je detektiralo.

Pitanje koje se postavlja jest: je li moralnije da se ovaj scenarij doista dopusti uz uvjet da uvođenje autonomnih vozila dovede do značajnog povećanja sigurnosti u prometu i smanjenja nesreća sa smrtnim posljedicama?

Drugim riječima, biste li se opredijelili za rizik gubitka kontrole nad tehnologijom i time prihvatili eliminaciju brojnih ljudskih grešaka koje dovode do velikog svakodnevnog gubitka ljudskih života ako bi tehnologija koja vas može ubiti dramatično povećala sigurnost prometa i smanjila smrtnost u prometu?

Mislim da ovaj izoštreni primjer može poslužiti kao ilustracija dilema s kojima se moramo suočiti prilikom uvođenja novih tehnologija.

Proces pojave i uvođenja novih tehnologija već je sada tako brz da se mnogi pojedinci osjećaju nelagodno i faktički se izbjegavaju suočiti s puninom nastalih promjena. Kako bi olakšali osjećaj nelagode uslijed gubitka kontrole, mnogi guraju stvarni stupanj promjena u podsvijest i odbijaju se suočiti s dilemama koje su već nastale te time otežavaju prilagođavanje društvene zajednice novonastalim promjenama.

Upravo u tome segmentu vidi se nefunkcionalnost sustava upravljanja modernim društvima i neadekvatnost mnogih modernih političara koji nastoje tim procesima upravljati bez ikakve vizije.

Očito je stoga da moramo uložiti velike napore u promjeni sustava obrazovanja i upravljanja društvima kako bismo se u stvarnom vremenu suočili s promjenama i dilemama koje one donose.

Drugim riječima, čovječanstvo danas doista ima potrebu, ali i mogućnost na bazi znanja upravljati procesima na način na koji to nikada nije moglo u vlastitoj prošlosti. Naravno, tu veliku ulogu ima umjetna inteligencija. Upravo stoga promjene koje će uslijediti bit će veće nego ikada u povijesti čovječanstva.

Smatrate li takav scenarij prijetnjom ili prilikom?

Svaka je prijetnja ustvari prilika. Potrebno je upravljati ljudskim strahom da bi se prilika ispunila u cijelosti. Osobito je to tako u modernim društvima, gdje stalne promjene bivaju uglavnom doživljene kao prijetnje. Ljudska se vrsta nije još uspjela prilagoditi brzim promjenama koje generira njen vlastiti razvoj i potpuno neadekvatno reagira na te promjene doživljavajući ih kao prijetnje.

Koji puta su dileme duboke, ali to samo znači da treba uložiti veći napor da bi se njima kvalitetno upravljalo, ali ne i da su one nerješive. Koji puta su pak brige opravdane i tada te dileme treba uključiti u demokratski proces kako bi se što veći broj ljudi uključio u njihovo rješavanje i time olakšao rješenje. Vidimo to primjerice kod reakcija na pojavu Ubera ili na osobnoj razini na kojoj se pojedinci često protive promjeni vlastitih uvriježenih običaja i načina zaposlenja.

Bilo bi puno adekvatnije i svima ugodnije kada bismo mogli razinu razmišljanja o promjenama, koje su najkarakterističniji vid društvenih tijekova u modernim društvima, doživljavati kao priliku i kao zabavu. Dakle, opušteniji pristup promjenama mogao bi svakome od nas ponaosob donijeti osobno zadovoljstvo i pozitivan izazov, čije bi ispunjenje, kako sam rekao, moglo biti istinski zabavno i ispunjavajuće.

Za to je naravno potrebno reformirati obrazovni sustav jer samo dobro obrazovani pojedinci mogu izazove ove vrste doživljavati kao zabavu. Moglo bi se reći da je sama pojava interneta doprinijela neopisivom podizanju razine dostupnosti informacija i zapravo služi kao autokorektivni mehanizam u uvjetima snažnih promjena.

Koja su ključna pitanja na koja će ljudska zajednica morati pronaći odgovore prije no što stupi u doba umjetnih superinteligencija?

Bez ikakve dvojbe radi se na prvom mjestu o etičkim i moralnim pitanjima te ulozi i odnosima društva, pojedinaca i institucija u kontekstu radikalno različitih tehnoloških pojava i redefinirane moći pojedinca.

Stare navike traženja odgovora u prošlosti velika su prijetnja i značajno usporavaju donošenje adekvatnih novih rješenja koja su potrebna da naša društva nastave funkcionirati bez većih potresa.

Opasnost gledanja u prošlost leži u tome što u situaciji disruptivnih promjena tehnoloških, poslovnih i društvenih modela analogije s prošlim razvojem nisu uvijek odgovarajuće i mogu koji put biti posve pogrešne.

Stoga je potrebno sustavom odgoja stvoriti pojedince koji će biti u stanju gledati unaprijed na kreativan način i istovremeno moći tražiti najljudskije odgovore koji se mogu dati u situacijama što nisu zasnovane na ljudskom iskustvu.