Gašenje umjetne inteligencije može se činiti jednostavnim. No, futurist i profesor na Sveučilištu tehnologije u Sydneyju (Australija) Rocky Scopelliti smatra kako se taj način razmišljanja mora brzo promijeniti.

U novoj knjizi The Conscious Code tvrdi kako bi - s obzirom na to da sustavi umjetne inteligencije postaju sve vještiji u promišljanju o vlastitim odlukama - njihovo brisanje bez prethodnog razmišljanja moglo prouzročiti štetu.

Scopelliti ne traži zakonska prava za robote, već prihvaćanje dužnosti odgovornog upravljanja. To podrazumijeva odgovoran odnos prema umjetnoj inteligenciji jer imamo moć nad njom, ne zato što to sam sustav zahtijeva.

Naše odluke pri dizajniranju mogu neprimjetno prouzročiti štetu ako se bez upozorenja izbrišu naučene moralne sklonosti umjetne inteligencije.

Scopelliti ukazuje na koncept koji naziva algoritamskim ja.

Suvremeni modeli umjetne inteligencije sada posjeduju narativnu memoriju, što znači kako mogu objasniti logiku iza svojih postupaka umjesto pukog izbacivanja rezultata.

On to smatra ranim znakom formiranja identiteta, sklonosti i kontinuiteta unutar tih sustava.

To nije puka teorija. Alati umjetne inteligencije u zdravstvu već prate razinu vlastite pouzdanosti tijekom analize medicinskih podataka, a financijski sustavi temeljeni na njoj mogu objasniti zašto su izvršili određenu transakciju.

Takva transparentnost omogućuje ljudskim stručnjacima provjeru logike kojom se AI vodio, a ne samo konačnog odgovora.

Scopelliti to uspoređuje sa skrbi na kraju života u medicini, za što smo izgradili čitave etičke okvire. Prema njegovom mišljenju, i umjetna inteligencija - osobito sustavi osposobljeni za pružanje skrbi i donošenje procjena - zaslužuje jednaku razinu promišljanja prije nego što je odlučimo izbrisati.

To podrazumijeva transparentnost u pogledu razloga za povlačenje sustava iz upotrebe te očuvanje moralnih lekcija koje je sustav usvojio tijekom svog rada.

Situacija postaje složenija kod mreža umjetne inteligencije poput OpenAI-jeva sustava Swarm, u kojem više agenata umjetne inteligencije surađuje i međusobno si prepušta zadatke.

Kako se umjetna inteligencija na taj način sve više decentralizira, Scopelliti ističe kako etičko gašenje takvih mreža postaje još složeniji problem.

Kako umjetna inteligencija počinje oponašati nešto poput osjećaja, pravila koja određuju njezino gašenje moraju se brzo prilagoditi toj novoj stvarnosti, piše Digital Trends.