Daniel Kokotajlo, bivši zaposlenik OpenAI-ja i jedan od autora scenarija 'AI 2027', objavio je novi dokument u kojem predlaže kako izbjeći najcrnje scenarije razvoja umjetne inteligencije. Za razliku od njegova prethodnog rada, koji je upozoravao na mogućnost izumiranja čovječanstva ili koncentracije moći u rukama jednog vladara, novi scenarij nudi mogući put prema sigurnijoj budućnosti i prijedloge kako izbjeći 'sudnji dan'
Dokument pod nazivom 'AI 2040: Plan A', koji je objavila neprofitna organizacija AI Futures Project, predlaže da države postignu međunarodni sporazum kojim bi se razvoj umjetne inteligencije sposobnije od bilo kojeg čovjeka odgodio do 2040. godine.
Autori smatraju da bi takva stanka omogućila razvoj učinkovitijih sigurnosnih mehanizama i međunarodnih pravila prije nego što AI dosegne razinu koja bi mogla predstavljati ozbiljan rizik za čovječanstvo. No odgoda razvoja samo je dio prijedloga.
'Plan A' predviđa i veću transparentnost vodećih AI kompanija. Autori smatraju da bi tvrtke trebale javnosti omogućiti pristup naprednim modelima koje danas koriste isključivo za interno testiranje te otvorenije dijeliti informacije o njihovim mogućnostima. 'Predviđamo da se kompanijama to neće svidjeti', rekao je Kokotajlo, piše Washington Post.
vezane vijesti
Nakon mračnog scenarija stiže optimističnija vizija
Kokotajlo je prošle godine privukao pozornost scenarijem 'AI 2027', koji je opisivao kako bi utrka između Sjedinjenih Država i Kine u razvoju umjetne inteligencije mogla završiti katastrofalno – bilo izumiranjem ljudske vrste, bilo uspostavom globalne vlasti koncentrirane u rukama jednog aktera.
Dokument je izazvao rasprave među stručnjacima, ali i u političkim krugovima. Američki potpredsjednik JD Vance priznao je prošle godine da je pročitao dokument 'AI 2027' i da ga 'sve to ozbiljno brine'.
Prema riječima Kokotajla, mnoge procjene iz scenarija 'AI 2027', koje su u trenutku objave zvučale pretjerano ili malo vjerojatno, danas se sve češće spominju u tehnološkoj industriji kao realna mogućnost. Njegova je želja da i prijedlozi iz novog dokumenta postanu dio političkih rasprava prije nego što razvoj umjetne inteligencije izmakne kontroli.
'Doći će trenutak kada će predsjednik Sjedinjenih Država paničariti zbog umjetne inteligencije. Nadam se da će tada pojmovi poput 'Plana A' već biti dio javne rasprave', zaključio je Kokotajlo.
