Rapidan napredak umjetne inteligencije, njezin utjecaj na tržište rada i opasnost koju predstavlja neobuzdani razvoj jedna je od tema kojima se, naglašava Jack Clark, moramo pozabaviti čim prije. Predlaže uvođenje odredbi koje bi tome pomogle te koje, ako tako ne žele, kompanije ne moraju poštovati te koji uključuje ugradnju 'kočnice' kojom bi ljudi mogli usporiti samorazvoj naprednog AI-ja
Suosnivač tvrtke Anthropica, Jack Clark, upozorio je da bi čovječanstvo uskoro moglo izgubiti mogućnost učinkovitog nadzora nad razvojem umjetne inteligencije te pozvao na stvaranje mehanizama koji bi omogućili usporavanje napretka tehnologije kada to bude potrebno.
U razgovoru za BBC-jev Newsnight Clark je rekao kako industrija umjetne inteligencije trenutno ima 'papučicu za gasa', ali ne i 'papučicu kočnice'. Prema njegovim riječima, vlade i regulatori moraju zadržati kontrolu nad sustavima koji postaju sve moćniji i imaju sve veći utjecaj na društvo.
'Zabrinut sam za svoju djecu ako kao društvo ne povedemo ozbiljan razgovor o tome što znače implikacije kontinuiranog napretka umjetne inteligencije', rekao je Clark. 'Postoje potencijalno goleme koristi. Postoje i rizici.'
Clark smatra da će svijet morati razviti nove regulatorne okvire koji će javnosti pružiti povjerenje u umjetnu inteligenciju i njezinu sigurnu primjenu. Kao primjer naveo je razvoj naftne industrije početkom 20. stoljeća, kada su države postupno uvele pravila koja su omogućila iskorištavanje koristi tehnologije uz istodobno ograničavanje rizika.
vezane vijesti
Posebnu pozornost izazvala je njegova tvrdnja da chatbot Claude, koji razvija Anthropic, danas radi na računalnom kodu od kojeg je oko 80 posto napisala sama umjetna inteligencija. Clark procjenjuje da bi taj udio u sljedeće dvije godine mogao dosegnuti 100 posto, što bi, kako kaže, imalo goleme posljedice za razvoj softvera i tehnološku industriju.
Iako upozorava na potrebu regulacije, Anthropic je nedavno podržao Trumpovu izvršnu uredbu o umjetnoj inteligenciji koja industriji ostavlja znatnu slobodu djelovanja. Uredba ne obvezuje kompanije na provođenje državnih sigurnosnih testiranja, već ih ostavlja na dobrovoljnoj osnovi.
Eksplozivan rast
Anthropic je osnovan 2021. godine, a među osnivačima je bilo sedam bivših zaposlenika OpenAI-a. Tvrtka je posljednjih godina doživjela eksplozivan rast te se priprema za izlazak na burzu. Prema procjenama privatnih ulagača, njezina vrijednost približava se jednom bilijunu američkih dolara, što bi je moglo učiniti jednom od najvrjednijih tehnoloških kompanija koje su ikada izašle na javno tržište.
Od osnutka Anthropic se profilirao kao jedna od tvrtki koja najotvorenije govori o potencijalnim rizicima umjetne inteligencije. Kompanija je ranije čak javno kritizirala američko Ministarstvo obrane zbog zabrinutosti oko moguće uporabe AI sustava za masovni nadzor građana i autonomno ratovanje, piše BBC.
Clark upozorava da bi jedan od najvećih izazova mogao biti utjecaj umjetne inteligencije na tržište rada. Posebno ističe razvoj AI agenata, sustava sposobnih samostalno obavljati rutinske zadatke, koji bi mogli zamijeniti dio poslova koje danas obavljaju ljudi. U posljednjih godinu dana se kao jedan od razloga masovnih otkaza u tehnološkim kompanijama spominje upravo AI.
Ipak, Clark vjeruje da će ljudska kreativnost ostati važna prednost. Smatra da još nema dokaza da umjetna inteligencija može biti istinski kreativna na način na koji to mogu ljudi. Prema njegovim riječima, u Anthropicu danas veći problem predstavlja pronalazak kvalitetnih ideja nego njihova tehnička realizacija.
'Ljudi koji su kreativni i mogu široko razmišljati, ljudi koji puno čitaju, ljudi koji imaju interese - oni su ti koji će od ovoga imati najviše koristi', rekao je Clark. 'Prepustite se znatiželji i to će vam se isplatiti u načinu na koji možete koristiti ovu tehnologiju.'
