Mustafa Suleyman ukazao je na to kako konkurentska tvrtka Anthropic tretira umjetnu inteligenciju kao ljudsko biće. Taj je pristup nazvao pogrešnim. Vjeruje kako bi time mogla biti stvorena tehnologija koju čovječanstvo neće moči kontrolirati.

Također smatra kako je zabrinutost ljudi zbog umjetne inteligencije opravdana, ali i ukazao na to kako postoje vrlo konkretni koraci koje možemo poduzeti kako bismo ju stavili pod nadzor.

Suleyman je upozorio kako tvrtke nastavljaju razvijati sustave umjetne inteligencije sposobne za samostalno postavljanje ciljeva, zarađivanje novca i posjedovanje imovine.

To bi, po njegovim riječima, u biti značilo stvaranje temelja za novu silicijsku vrstu, koja bi se nesumnjivo natjecala s nama za resurse, bez obzira na to koliko joj je stalo do čovječanstva i koliko nas voli.

Suleyman je nedavno objavio esej u kojem je doveo u pitanje Anthropicov pristup obuci njihovog modela umjetne inteligencije Claude, iako je pritom pohvalio čelnika te tvrtke Darija Amodeija i njegov tim kao intelektualno poštene ljude.

U tom je eseju kritizirao Anthropic zbog toga što svoj sustav umjetne inteligencije uči oponašanju ljudskih osobina - praksa poznata kao antropomorfizacija - ističući kako to stvara dojam kako Claude ima vlastite želje, vrijednosti i osjećaj vlastitog 'ja'.

Također je upozorio kako tehnološke tvrtke riskiraju stvaranje nečega što je nemoguće kontrolirati ako tu tehnologiju tretiraju kao ljudsko biće.

'Sustavi umjetne inteligencije nisu svjesni. Oni ne osjećaju, ne doživljavaju niti pate. Nemaju urođene sklonosti ni temeljne motive. One su sustavi za dovršavanje nizova, iznutra prazni, dizajnirani da slijede upute i ostvaruju ciljeve koje su postavili ljudi', naveo je Sujeyman.

Potreban zajednički standard i neovisna provjera

Ocijenio je kako je potrebna veća transparentnost u pogledu načina na koje se sustave umjetne inteligencije trenira i procjenjuje. To bi trebalo uključiti neovisnu provjeru ponašanja te snažnije alate za nadzor i kontrolu te tehnologije.

Pitanje koliku bi autonomiju sustavi umjetne inteligencije trebali imati sve više dijeli industriju. Suleyman je pozvao na usklađivanje kako bi se stvorila tehnologija koja mora biti podređena čovječanstvu.

Usklađivanje se odnosi na nastojanja čiji je cilj ugraditi ljudske etičke ideje i načela u umjetnu inteligenciju.

Suleymanovi komentari odražavaju Microsoftov početni nacrt Kodeksa ponašanja za humanističku umjetnu inteligenciju (Humanist AI Code of Conduct), 'priručnik' koji opisuje kako tvrtka razvija svoju umjetnu inteligenciju i iznosi ideju o 'humanističkoj superinteligenciji'.

Riječ je, kako je navedeno u kodeksu, o vrlo naprednoj umjetnoj inteligenciji koja uvijek djeluje u korist ljudi, ostaje unutar zadanih granica i zadržava se pod ljudskom kontrolom.

Vizija humanističke umjetne inteligencije koju zagovara ta tvrtka ističe središnji izazov s kojim se ta tehnologija suočava: kako je učiniti moćnijom, a pritom ne izgubiti iz vida vrijednosti kojima bi trebala služiti, piše BBC.