U razgovoru za BBC-jev podcast 'Big Boss Interview' Smith je umjetnu inteligenciju opisao kao 'alat i oružje' te poručio da se s njezinom regulacijom mora odmah početi. 'Vaša perilica rublja trenutačno podliježe većem broju sigurnosnih pravila nego AI. Svako pakiranje mlijeka koje vidite u trgovini podliježe sigurnosnim pravilima i inspekciji', rekao je.

Smatra da kompanije trebaju imati 'kočnice za slučaj nužde', u industriji poznate kao kill switches, kojima bi se rad AI sustava mogao privremeno zaustaviti ili usporiti ako izmakne kontroli. Zatražio je i zakonsku obvezu sastavljanja izvješća o incidentima te obavještavanja pogođenih osoba i organizacija ako AI agent neovlašteno pristupi njihovim sustavima.

Uz to, smatra da treba odrediti kada bi neovisni stručnjaci iz državnih tijela morali provjeriti i odobriti novu AI tehnologiju prije njezina puštanja u uporabu. 'Znamo kako to raditi s drugim proizvodima. Trebali bismo se osloniti na to znanje i razmisliti kako ga primijeniti na AI', rekao je. Smithove izjave razlikuju se od pristupa američkog predsjednika Donalda Trumpa jer on zagovara samoregulaciju industrije da američke kompanije ne bi izgubile prednost pred kineskim suparnicima.

Zahtjevi za strožim pravilima sve su glasniji nakon upozorenja stručnjaka da bi umjetna inteligencija mogla predstavljati prijetnju čovječanstvu. BBC navodi da su čelnici Anthropica, OpenAI-a i Google DeepMinda podržali ideju usporavanja razvoja AI-a dok joj se Trump protivi. Američki predsjednik više je puta poručio: 'Tko pobijedi u AI-u, pobjeđuje.'

UK kao predvodnik?

Smith smatra da bi Ujedinjeno Kraljevstvo moglo predvoditi izradu globalnih pravila zahvaljujući svojem Institutu za sigurnost umjetne inteligencije, AI Security Instituteu, pokrenutom za vrijeme vlade bivšeg premijera Rishija Sunaka pod nazivom AI Safety Institute.

Ocjenjujući da Ujedinjeno Kraljevstvo ima vodeće tehničke sposobnosti za procjenu sigurnosti AI sustava, Smith kaže da bi većina ljudi koje poznaje u tehnološkom sektoru upravo tu zemlju izdvojila kao predvodnicu. 'Oni su najbolji', rekao je.

Unatoč Trumpovim izjavama, ne vjeruje da bi se američka administracija nužno snažno protivila pravilima čiju bi izradu predvodio London i procjenjuje da bi Washington lakše prihvatio britansku ulogu u postavljanju standarda nego onu Europske unije. 'U Washingtonu ne gledaju na Ujedinjeno Kraljevstvo i London onako kako gledaju na Bruxelles. To je prednost', rekao je.

Misli da su incidenti s autonomnim agentima i rastuće sposobnosti AI modela pokazali da se više ne može čekati. 'Kada pogledate AI agente koji su izmaknuli ljudskoj kontroli, kada pogledate modele toliko moćne da ugrožavaju svjetsku kibernetičku sigurnost, rekao bih: trenutak je stigao', poručio je. 'Govorimo mirno, možda čak i tiho, ali odlučno, i počnimo okupljati ljude. Nadam se da je to uloga koju možemo imati kao kompanija. Nadam se da je to uloga koju Ujedinjeno Kraljevstvo može imati kao država', dodao je.

Trump je krajem rujna u Bijeloj kući ugostio čelnike vodećih američkih tehnoloških kompanija te su potpisali dokument opisan kao 'moralno obvezujući'. Kompanije su se obvezale surađivati s neovisnim revizorima kako bi se procijenilo rade li njihovi AI sustavi onako kako je predviđeno te kako bi se osiguralo da ne provaljuju u druge sustave niti im pristupaju na nepredviđene načine.

Naravno, Smith je pozdravio tu izjavu i rekao da ju je Microsoft spreman potpisati, no smatra da dobrovoljne obveze više nisu dovoljne. 'To je dobar korak, nužan korak… Ali mislim da više nije dovoljan', rekao je. Glavni problem samoregulacije, prema njegovoj ocjeni, jest to što će odgovorne kompanije postupati onako kako se od njih očekuje, ali ostaje pitanje ponašanja drugih. 'Treba se brinuti zbog kompanija koje nisu toliko odgovorne', zaključio je.