Kaplan je krajem prošle godine za Guardian rekao da bi odluka o dopuštanju takvog procesa mogla doći između 2027. i 2030. Nazvao ju je možda najvećom odlukom koju treba donijeti i jednim od najstrašnijih koraka koje bi čovječanstvo moglo poduzeti.

Prema Business Insideru, najnapredniji sustavi već pomažu istraživačima Anthropica i OpenAI-a u razvoju novih modela. To još nije potpuno samostalan proces o kojem govori Kaplan, ali njegovim upozorenjima daje sve veću težinu. Kaplan u Anthropicu nadzire tehnička istraživanja, sigurnost umjetne inteligencije i politiku odgovornog razvoja sve moćnijih modela. Njegov je posao procjenjivati i ublažavati rizike tehnologije koju kompanija razvija, piše Business Insider.

Na njegove se riječi pozivaju i istraživači koji su napustili industriju. Jacob Coxon, koji je ranije ovog mjeseca dao otkaz u Anthropicu, u objavi na X-u ustvrdio je da se Anthropic i OpenAI 'kockaju našim životima', upozoravajući da bi AI samostalno mogao trenirati nove sustave.

Jeffrey Ladish, bivši inženjer Anthropica i osnivač neprofitne organizacije Palisade Research, rekao je Business Insideru da je Kaplanova upozorenja spominjao i u razgovorima s američkim zakonodavcima. Posebno je isticao opasnost da bi taj proces mogao izmaknuti ljudskoj kontroli.

'Dobro je da više ljudi čuje inženjere, istraživače i ljude iz kompanije kojima posao nije voditi odnose s javnošću. Njihov je posao doći do odgovora', rekao je Ladish.

Rasprava ulazi i u politiku. Američki zakonodavci predlažu nove propise, a prema anketi Politica objavljenoj prošlog tjedna, oko dvije trećine Amerikanaca smatra da postoji rizik da bi AI mogao uništiti čovječanstvo. Kaplan, koji je u međuvremenu postao milijarder, rijetko istupa u javnosti. Bivši suradnici ipak ga opisuju kao jednu od ključnih osoba unutar Anthropica.

Umjetna inteligencija nije bila njegov prvi izvor. Prije nego što joj se posvetio, bavio se fizikom. Budućeg suosnivača Anthropica Darija Amodeija upoznao je tijekom poslijediplomskog studija: Kaplan je studirao fiziku na Harvardu, a Amodei biofiziku na Princetonu.

Kako je Kaplan ispričao na prošlogodišnjem predavanju Zaklade Hertz, zajedno su se vozili na jedan događaj i povezali razgovarajući o tada novoj organizaciji GiveWell, koja procjenjuje učinkovitost dobrotvornih organizacija. Postali su prijatelji, a neko su vrijeme bili i cimeri u San Franciscu.

Kaplan je već tada gradio zapaženu znanstvenu karijeru. Bio je koautor utjecajnog rada 'The Effective Field Theory of Inflation', radio je u laboratoriju američkog Ministarstva energetike u Menlo Parku i na Stanfordu, a 2012. pridružio se Sveučilištu Johns Hopkins.

Njegov mentor s Harvarda, fizičar Nima Arkani-Hamed, prisjetio se da je isprva bio skeptičan prema radu o kozmološkoj inflaciji. Kaplan i suradnici naposljetku su ga objavili prije sličnog rada poznatog nobelovca. Arkani-Hamed smatra da je Kaplanova snaga u sposobnosti da prepozna važnu temeljnu ideju i istraži kamo ona vodi. Takav mu je pristup, kaže, pomogao i pri prelasku u umjetnu inteligenciju.

Kaplan je vlastiti način razmišljanja opisao u intervjuu za časopis Johnsa Hopkinsa 2017. godine: 'Želim da mi nešto na temeljnoj razini bude nejasno: postavljamo li pravo pitanje? Postavljamo li ga na pravi način?' Potkraj prošlog desetljeća sve je više njegovih prijatelja razgovaralo o AI-ju, među njima i Amodei, koji je već radio u OpenAI-u. Kaplan je počeo proučavati tehnologiju s drugim fizičarima, a zatim kao konzultant sudjelovati u istraživanjima OpenAI-a.

Prekretnica 2020.

Prekretnica je došla 2020., kada je predvodio rad 'Scaling Laws for Neural Language Models'. Istraživanje je pokazalo kako se rezultati jezičnih modela poboljšavaju s povećanjem njihove veličine, količine podataka i računalnih resursa. Ti su nalazi pomogli usmjeriti razvoj koji je uslijedio.

'Do toga je došlo jer sam postavljao otprilike najgluplje moguće pitanje. Kao fizičara, za to vas obučavaju', rekao je Kaplan na predavanju Y Combinatora 2025. Istraživač Sören Mindermann, koji je poslije surađivao s Kaplanom, prisjetio se da je za njega prvi put čuo nakon objave tog rada. 'Oduševljeno sam ga predstavio našoj skupini. Ljudi su bili vrlo skeptični. Mislio sam da je to izvrstan smjer', rekao je.

Iste je godine Kaplan s drugim istraživačima OpenAI-a sudjelovao u predstavljanju GPT-3, važnog prethodnika modela na kojima je poslije razvijen ChatGPT.

Ubrzo je s Amodeijem, Tomom Brownom i drugim kolegama napustio OpenAI te 2021. osnovao Anthropic. Brown je poslije rekao da su tu skupinu činili ljudi koji su najozbiljnije shvaćali posljedice sve moćnijih modela i smatrali da se treba pripremiti za trenutak u kojem bi čovječanstvo moglo prepustiti kontrolu umjetnoj inteligenciji.

Arkani-Hamed kaže da je prije pet godina s Kaplanom oduševljeno razgovarao o tome kako bi AI mogao promijeniti fiziku. Kaplan mu je, prisjeća se, odgovorio da ga više brine kako spriječiti da ta tehnologija našteti društvu.

Danas se Anthropic, prema Business Insideru, približava velikom izlasku na burzu, a njegovi čelnici otvoreno upozoravaju na opasnosti daljnjeg razvoja. Amodei je u nedavnom eseju pozvao vodeće laboratorije da pažljivo određuju tempo napretka. 'Otprilike od ovog ljeta AI napreduje drastično brže, ponajprije zahvaljujući sve većoj sposobnosti AI-ja da gradi sljedeću generaciju AI-ja', napisao je.

Upozorio je da bi taj proces, ako ostane bez nadzora, mogao nadmašiti ljudsku sposobnost razumijevanja i kontrole tih sustava. Zato mu, smatra, treba pristupiti krajnje oprezno, ako mu se uopće odluči pristupiti.

David Duvenaud, koji je 2023. i 2024. radio u Anthropicovu timu za istraživanje usklađivanja AI-ja s ljudskim namjerama, Kaplana pamti kao pristupačnog, motiviranog i razumnog čovjeka koji mu je pokazivao eksperimente što ih je osobno provodio.

No mogućnost automatskog samousavršavanja AI-ja i dalje ga plaši. Pozive čelnika kompanije na uvođenje mehanizma za hitno zaustavljanje sustava vidi kao znak da ozbiljno shvaćaju rizik od gubitka kontrole. 'To je na neki način suluda oklada, kako god okrenete', rekao je Duvenaud. 'Čak i ako je vode najrazumniji ljudi.'