NADZOR ILI PROPAST

Kako umjetnu inteligenciju držati na uzici?

  • Autor: D. J.
  • Zadnja izmjena 16.09.2017 08:22
  • Objavljeno 16.09.2017 u 08:22
Bi li trebalo dopustiti umjetnoj inteligenciji iz vlastitog doma da vas izda ako ste se ogriješili o zakon? To je samo jedno od brojnih pitanja...

Bi li trebalo dopustiti umjetnoj inteligenciji iz vlastitog doma da vas izda ako ste se ogriješili o zakon? To je samo jedno od brojnih pitanja...

Izvor: Profimedia / Autor: Profimedia

Nema posebnog konsenzusa oko umjetne inteligencije u svijetu istaknutih čelnika IT industrija. Elon Musk tako smatra da trebamo biti oprezni i da ćemo kad-tad lomiti koplja s AI-jem, dok Mark Zuckerberg recimo vjeruje da će zavladati blagostanje, upravo zahvaljujući AI-ju. Istina je u ovom smislu vrlo, vrlo složena

Baš kako se i očekuje - AI će biti onakav kakvog ga stvore ljudi. Ako temelj umjetnoj inteligenciji bude zaštita privatnost i/ili sigurnost te ako je bude moguće kontrolirati, stvari će biti bolje - iako će etički problemi i dalje postojati. Jedna od tvrtki koja se bavi ovim problemima je Kuna Systems. 

Stranica Digital Trends imala je priliku pričati s tehničkim direktorom tvrtke, Haomiaom Huangom, koji je među ostalim otkrio i da je razina kontrole jednostavno prijeko potrebna ako želimo vidjeti što AI može pružiti. 

Istinski AI još nije tu, ali...

Botovi za čavrljanje, digitalni pomoćnici poput Siri i Cortane, sustavi za prepoznavanje lica - sve ovo su tek napredni algoritmi, tek marketinški nazvani umjetnom inteligencijom. U svakom slučaju - više marketinški nego tehnički. No, doći će vrijeme i kada će neuralne mreže i AI postati poput nečega iz filmova. Na to jednostavno treba biti spreman već sada, kako bi se stvari razvijale određenim pravcima. 

Tvrtka Kuna Systems bavi se sigurnosnim rješenjima za domove koji su preventivnog karaktera. 'Umjesto da čekamo provalu u dom, omogućujemo klijentima da odgovore na problem tj. naš sustav može vidjeti i odgovoriti na potencijalni zločin tako da ga spriječi', rekao je Huang za Digital Trends

To je moguće zahvaljujući kamerama i sustavu umjetne inteligencije koji analizira prikaze. Sustavi moraju interpretirati što kamere vide te odgovoriti na pravi način. Huang dodaje kako njihovi sustavi mogu razaznati je li na snimkama riječ o osobi, više njih, automobilu i sl. 

Znamo da će lopovi znati pozvoniti na prednja vrata te ako nema odgovora otići otraga kako bi pokušali ući u dom. Treniramo naše AI sustave da takvo što prepoznaju, obavijeste vlasnike doma - pa i nazovu policiju. Danas se takve odluke redom donose zahvaljujući ljudima, no napredni AI bi ljude mogao učiniti potpunim viškom. 

Zašto je onda potrebna kontrola?

Sve ovo zvuči vrlo zanimljivo - i izvedivo. No, zašto je Huang oprezan po pitanju umjetne inteligencije? On vjeruje kako je sustav za kućnu sigurnost jedan divan primjer kako nam AI može pomoći u učinkovitoj borbi protiv kriminala. No, van te sfere nastaje niz problema...

Kako AI može donositi odluke u smislu moralnosti, nečeg potpuno ljudskog? Je li to uopće moguće?

Autonomna vozila o kojima se toliko priča proteklih godina lako je povezati s misaonim eksperimentom 'trolley problem'. Riječ je o pokusu općenite forme gdje zamišljeni vlak putuje tračnicama koje se granaju u dva ili više segmenata. Tipičan primjer je da vlak može ubiti pet osoba na tračnicama ako prolaznik ne povuče sklopku i preusmjeri vlak. Međutim, preusmjeravanjem vlaka može ubiti jednu osobu za koju je onda izravno odgovoran. 

Jedan od primjera Trolley problema

Autor: BBC Newsnight

Bi li autonomni automobil trebao skrenuti u jarak ili zid ugrozivši putnike, kako bi izbjegao obitelj koja prelazi cestu?

Jedan od problema etičke prirode iz svijeta umjetne inteligencije

Huang navodi da se sličan problem može uvesti i na prvi 'divan primjer' korisnosti umjetne inteligencije u osiguranju doma. Što ako sam vlasnik čini zločin a AI ga prepozna? Naravno, većina ljudi će se složiti da je to potrebno, no što je sa 'sivom zonom'? 'Što recimo ako vlasnik zalijeva travnjak ili kosi travu u sate kada je to zabranjeno?', pita se Huang. 'Stvari su mnogo jasnije ako AI vidi vlasnika kako ubija nekoga.'

Kako onda kontrolirati stvari?

Većina problema može se barem prividno riješiti davanjem kontrole - ljudima. Po svoj prilici, ljudi će biti trajan dio jednadžbe u svijetu umjetne inteligencije, iz jednostavnog razloga što je to nužno. Huang vjeruje da sve leži u vlasnicima, npr. budućih autonomnih vozila. Pred vlasnicima bi se trebale pojaviti opcije kako vozilo treba reagirati u danim situacijama i postaviti prioritete za spašavanje putnika u vozilu, npr. 

'Kada kupite pametni sustav za osiguranje doma, trebali biste moći odlučiti želite li da AI izravno prijavljuje zločin policiji ili to prepušta vama', piše Digital Trends. 

Kod ozbiljnih zločina takvo što je nepotrebno. No u moralnim dilemama, a posebno onima iz tzv. 'sive zone', stvari bi morale jednostavno biti u ljudskim rukama. 

  • +2

Testiranje nove generacije lunarnih robota

Izvor: Reuters / Autor: ANTONIO PARRINELLO

Pregled tjedna bez spama i reklama

Prijavi se na naš newsletter i u svoj inbox primaj tjedni pregled najvažnijih vijesti!