riječ stručnjaka

Može li se umjetna inteligencija zbilja oteti kontroli? 'Svi smo gledali barem jedan SF film u kojem se to dogodi, ali ovaj sustav ne može samostalno promijeniti svoje ponašanje'

  • Autor: Biljana Starčić
  • Zadnja izmjena 18.06.2022 17:26
  • Objavljeno 18.06.2022 u 17:26
Matija Ilijaš, globalni potpredsjednik za inženjerstvo u AI-u u Microblinku

Matija Ilijaš, globalni potpredsjednik za inženjerstvo u AI-u u Microblinku

Izvor: Pixsell/Profimedia / Autor: Andrew Ostrovsky / Panthermedia / Profimedia / Robert Anic / Pixell

Inženjer iz Googlea objavio je dijelove razgovora s AI chatbotom, uvjeren kako ovaj alat želi da ga se smatra osobom, a ne vlasništvom. Cijela stvar očekivano je izazvala veliki interes javnosti, a za komentar smo pitali i domaćeg stručnjaka za umjetnu inteligenciju, Matiju Ilijaša iz Microblinka koji kaže kako svatko tko danas ozbiljno radi na razvoju AI tehnologije zna da je ta tehnologija, koliko god se brzo razvija, na stupnju razvoja koja ne ukazuje na opasnost od otimanja kontroli u filmskom smislu te riječi

Veliki interes javnosti ovog je tjedna izazvala tvrdnja Googleovog inženjera da je umjetna inteligencija s kojom je radio postala - samosvjesna.

Blake Lemoine naime softverski je inženjer koji je objavio dijelove razgovora s AI chatbotom, uvjeren kako Googleov alat želi da ga se smatra osobom, a ne vlasništvom. Kako je posvjedočio, najveći mu je strah da će biti isključen 'iako samo želi pomoći drugima'.

Riječ je o, podsjetimo, alatu Language Model for Dialog Applications (LaMDA) koji je trenutno u stadiju razvoja.

'Da nisam znao o čemu se tu radi, nedavno razvijenom programu, rekao bih da je riječ o sedmogodišnjaku koji odlično zna fiziku', izjavio je inženjer koji je trenutno na bolovanju, dok su stručnjaci prema njegovim tvrdnjama o samosvjesnoj umjetnoj inteligenciji dosta skeptični.

LaMDA po njihovim riječima tek usklađuje obrasce, a pri tome se oslanja na ogromne baze podataka koje ima o ljudskom jeziku. Što se Googlea tiče, kažu kako su istražili Lemoineove navode i dokaza za njegove tvrdnje - nema.

Cijelu stvar za tportal je prokomentirao i Matija Ilijaš, globalni potpredsjednik za inženjerstvo u AI-u u Microblinku.

Kao iz SF filma

'Javno objavljivanje razgovora sa AI chatbotom kojeg razvija tim u Googleu praćeno tvrdnjom jednog od inženjera da je riječ o dokazu samosvijesti, izazvali su mnogo pozornosti diljem svijeta. I to daleko šire od samo stručne javnosti, što je i razumljivo. Svi smo gledali barem jedan SF film u kojem se AI 'otela' kontroli i umjesto da ispuni svoju funkciju i pomaže ljudima, postala najveća prijetnja čovječanstvu. Objavljeni razgovor se mnogima učinio kao početak upravo takvog scenarija', kaže nam Ilijaš.

Ilijaš ističe da svatko tko danas ozbiljno radi na razvoju AI tehnologije zna da je ta tehnologija, koliko god se brzo razvija, na stupnju razvoja koja ne ukazuje na opasnost od otimanja kontroli u filmskom smislu te riječi.

Važno je ustanoviti kako na pravi način informirati širu javnost o ovoj tehnologiji, smatra Matija Ilijaš

Važno je ustanoviti kako na pravi način informirati širu javnost o ovoj tehnologiji, smatra Matija Ilijaš

Izvor: Pixsell / Autor: Robert Anic/PIXSELL

'Na stranu filozofske rasprave što uopće mislimo pod samosvijest, u struci ne postoje indikacije da ovaj sustav može samostalno promijeniti svoje ponašanje u nešto izvan zadatka za koji je namijenjen - komunikacija što više nalik ljudskoj. No, zahvaljujući novim metodama strojnog učenja koje omogućuju korištenje dosad neviđenih količina podataka, tim u Googleu je zaista razvio chatbota koji prilično vjerno može oponašati ljudsku komunikaciju. Koji je točno cilj ili glavna tema te komunikacije još uvijek definiraju inženjeri što omogućuje konkretnu primjenu i u konačnici ovako impresivan oblik oponašanja', kaže Ilijaš.

Dvije strane medalje

Smatra kako s jedne strane ovaj moćan alat, kada se koristi s dobrim namjerama, može postići vrlo pozitivan učinak na recimo edukaciju omogućavanjem lakog pristupa detaljnim informacijama kroz prirodan razgovor.

S druge strane, u rukama ljudi s lošim namjerama ova tehnologija postaje potencijalno vrlo opasna. Dobar primjer su razni oblici online prevare putem lažnog predstavljanja gdje ovakav alat otvara cijeli niz novih mogućnosti kako to lako napraviti, ističe stručnjak te daje primjer vlastite kompanije.

'U Microblinku se bavimo razvojem AI tehnologije u području računalnog vida koja se također ovisno o namjerama korisnika može teoretski primijeniti u dobre i loše svrhe. U praksi smo od samog početka razvoja naše AI platforme svjesni da baratamo vrlo naprednom tehnologijom te smo implementirali vrlo robusne procedure oko upravljanja našim podacima kao i rigorozne evaluacije ponašanja naših rješenja. Time smo osigurali da ne postoji mogućnost zloupotrebe naših podataka i rješenja, a s obzirom da radimo provjeru i svih naših poslovnih partnera i način njihova korištenja naše tehnologije, ne postoji mogućnost zloupotrebe ni putem naših klijenata. To nam je jednako važno kao i sam razvoj tehnologije', ističe Ilijaš.

Kako kaže, AI je tehnologija koja ima ogroman potencijal daljnjeg razvoja i koju zbog kompleksnosti malo ljudi može zaista razumjeti i educirano pratiti, stoga je važno pronaći kako na pravi način informirati širu javnost o samoj tehnologiji, o sigurnosnim standardima koji se koriste u upravljanju golemim bazama podataka na kojima se temelji AI, ali i o načinima korištenja te tehnologije.

'Naime, kao i sa svakom novom tehnologijom u povijesti, ključ leži u namjerama onih koji je razvijaju i koji je primjenjuju - ako su njihove namjere ispravne, tehnologija će nam pomoći napraviti niz dobrih pa i nevjerojatno dobrih stvari', zaključio je.

Pratite nas na društvenim mrežama:

Pregled tjedna bez spama i reklama

Prijavi se na naš newsletter i u svoj inbox primaj tjedni pregled najvažnijih vijesti!