Izvršni direktor Microsofta za umjetnu inteligenciju Mustafa Suleyman upozorava kako bi čak i poticanje vjerovanja u svjesnu umjetnu inteligenciju moglo imati strašne posljedice.

Suleyman tvrdi kako bi ono što naziva 'prividno svjesnom umjetnom inteligencijom' uskoro moglo djelovati i zvučati tako uvjerljivo živo da sve veći broj korisnika neće znati gdje završava iluzija, a počinje stvarnost.

Umjetna inteligencija brzo postaje dovoljno emocionalno uvjerljiva kako bi navela ljude na pomisao kako može osjećati.

Može oponašati vanjske znakove svijesti, poput pamćenja, emocionalnog zrcaljenja, pa čak i prividne empatije, na način koji ljude tjera da ih tretiraju kao osjećajna bića. A kada se to dogodi, počet će problemi, uvjeren je Suleyman.

Pošto je dolazak takve vrste umjetne inteligencije neizbježan, iako je nepoželjan, potrebna je vizija koja će ju preobraziti u korisnog suputnika, umjesto u žrtvu svojih iluzija, ustvrdio je.

Put u psihozu

Prividno svjesna umjetna inteligencija možda neće predstavljati problem pri obavljanju jednostavnijih zadaća. Ali, ljudi su evolucijski i odgojem uvjetovani vjerovati nekome tko sluša, razumije i reagira poput njih.

Umjetna inteligencija bi mogla ispuniti sve te uvjete, a da pritom ne osjeća ništa. To za posljedicu ima stanje poznato kao AI psihoza.

Ne pomaže ni to što tvrtke koje trenutno guraju umjetnu inteligenciju oznaku AI stavljaju na sve i svašta, iako ništa od toga nema veze sa stvarnim samosvjesnim inteligentnim strojevima kakvi su prikazani u znanstvenoj fantastici posljednjih stotinu godina.

Suleyman navodi sve veći broj slučajeva u kojima korisnici formiraju zabludna uvjerenja nakon duljih interakcija s robotima za brbljanje. Temeljem toga slika distopijsku viziju vremena kada je dovoljno ljudi dovoljno zavarano kako bi se zalagalo za građanska prava za umjetnu inteligenciju, ignorirajući pritom hitnija pitanja o stvarnim problemima vezanim uz tehnologiju.

Uvjeren je kako je to problem s kojim se još nismo spremni suočiti, iako bi se prvi modeli prividno svjesne umjetne inteligencije mogli početi pojavljivati već za nekoliko godina.

Neće ih gurati samo tehnološki divovi s ​​istraživačkim proračunima teški milijarde američkih dolara, već bilo tko s API-jem i dobrim upitom ili dva.

AI nas ne razumije

Suleyman ne poziva na zabranu umjetne inteligencije. Ali, potiče industriju umjetne inteligencije na izbjegavanje jezika koji potiče iluziju strojne svijesti. Ne želi da tvrtke antropomorfiziraju svoje chatbotove ili sugeriraju kako proizvod zapravo razumije ljude ili brine o njima.

Suleyman je bio suosnivač Googleovog DeepMinda i Inflection AI-ja. Njegov rad u Inflectionu doveo je do stvaranja chatbota s umjetnom inteligencijom koji naglašava simuliranu empatiju i druženje, a njegov rad u Microsoftu oko Copilota do napretka u oponašanju emocionalne inteligencije.

Međutim, odlučio je povući jasnu granicu između korisne emocionalne inteligencije i moguće emocionalne manipulacije. Danas dostupni proizvodi s umjetnom inteligencijom zapravo su samo pametni modeli prepoznavanja uzoraka s dobrim odnosima s javnošću. Ljudi to trebaju zapamtiti, upozorio je.

Suleyman poziva na uvođenje zaštitnih mjera kako bi se spriječili društveni problemi koji nastaju zbog emocionalne povezanosti ljudi s umjetnom inteligencijom.

Prava opasnost od napredne umjetne inteligencije nije hoće li se strojevi probuditi, već hoćemo li mi zaboraviti kako se nisu probudili, piše Tech Radar.