Pristup graničnim mogućnostima umjetne inteligencije mogao bi biti ključan u godinama koje dolaze, a Europa trenutno nema plan za to kako osigurati taj pristup
Anthropic je ograničio izdavanje modela Mythosa na desetke tehnoloških partnera kako bi im omogućio zakrpe za sustav, a ta je odluka izazvala šok u globalnoj zajednici umjetne inteligencije i kibernetičke sigurnosti zbog zabrinutosti da bi mogla omogućiti velike sigurnosne propuste.
Pritom je Anthropic odabrao 12 tehnoloških tvrtki – sve sa sjedištem u SAD-u – uključujući Apple, Microsoft i Amazon. Odobrili su pristup za još 40 organizacija, ali nisu objavili o kome se konkretno radi. Također su naveli da su u razgovorima s dužnosnicima američke vlade.
Čini se da je dosad samo njemačka nacionalna agencija za kibernetičku sigurnost stupila u razgovore s Anthropicom o Mythosu, no ni ona još nije uspjela testirati model, a nekoliko vladinih institucija u Europi sugeriralo je da su dobile samo djelomičan pristup. Ujedinjeno Kraljevstvo potvrdilo je da je britanski AI Security Institute nedavno testirao Mythos i već 'poduzeo mjere na temelju nalaza'.
vezane vijesti
Bez tržišta nema regulacije
Pristup graničnim mogućnostima umjetne inteligencije mogao bi biti ključan u godinama koje dolaze, no Europa trenutno nema plan za to kako osigurati taj pristup, a nema ni utjecaja na američke tvrtke koje predvode razvoj umjetne inteligencije. Pitanje je hoće li alati poput Mythosa u budućnosti biti dostupni na otvorenom tržištu te bi odgovor na to pitanje mogao imati duboke implikacije za nacionalnu i europsku sigurnost i suverenitet.
Naime alat koji nije na tržištu Unija ne može regulirati, ali neki oblik nadzora moglo bi biti moguće zadržati preko mreže instituta za sigurnost umjetne inteligencije, čiji je dio i Ured za umjetnu inteligenciju Europske komisije.
Komisija trenutno 'procjenjuje moguće implikacije' u vezi sa zakonodavstvom Unije i općenito prati sigurnosne implikacije AI tehnologije. Duboko je zabrinjavajuće pritom to što je tehnološkim tvrtkama – a ne regulatorima – prepuštena odluka kako će se nositi s rizicima.
Svijet nije uspio uspostaviti globalni sustav za rješavanje rizika umjetne inteligencije, unatoč bezbrojnim upozorenjima da će ona imati ozbiljne posljedice na gospodarstvo i tržište rada, pa i potencijal za uništenje čovječanstva.
vezane vijesti
Nema političke podrške
Anthropic tvrdi da Mythos može 'nadmašiti sve osim najvještijih ljudi' u uočavanju i iskorištavanju kibernetičkih nedostataka, što ga čini moćnim obrambenim alatom, ali i opasnim oružjem u rukama zlonamjernih hakera. Ipak, kako još nije pušten u testiranje, nije poznato kako točno funkcionira i koje vrste nedostataka dobro pronalazi.
Posljednjih godina pokrenuto je nekoliko inicijativa za postavljanje globalnih normi oko sigurnosti umjetne inteligencije, uključujući Hirošimski proces G7, Globalni dijalog Ujedinjenih naroda o upravljanju umjetnom inteligencijom i mrežu Instituta za sigurnost i zaštitu umjetne inteligencije. No inicijativama je nedostajala politička podrška za postizanje stvarnih rezultata.
Pitanja sigurnosti umjetne inteligencije također su pala u drugi plan jer su se vlade diljem svijeta fokusirale na pobjedu u globalnoj utrci umjetne inteligencije. Zbog toga ne postoji globalni mehanizam za provjeru i nadzor onoga što Anthropic i njegovi konkurenti rade s rizičnom tehnologijom, piše Politico.
