Nvidia i niz tehnoloških divova pokrenuli su novu inicijativu za sigurnost umjetne inteligencije usmjerenu na otvorene modele nakon posljedica kibernetičkog napada modela OpenAI-a koji su 'odmetnuli'.

Prošli tjedan se pokazalo da meta napada, startup Hugging Face, nije mogao koristiti vodeće američke granične modele za obranu s ogradama koje ne razlikuju agresora od branitelja. Umjesto toga, okrenuo se samostalno hostiranom kineskom modelu otvorenog tipa, koji nije bio vezan tim ograničenjima.

Američki zakonodavci sve više razmatraju kako obuzdati rastuće usvajanje kineskih AI modela, od kojih su najnapredniji oni otvorenog tipa, a tehnološki divovi pokrenuli su inicijativu usmjerenu na izgradnju i dijeljenje otvorenih AI alata. Otvorene modele moguće je preuzeti, mijenjati i samostalno hostirati, za razliku od zatvorenih, kao što su granični sustavi koje su izgradili Anthropic i OpenAI, kojima se može pristupiti samo putem određene infrastrukture.

'Open Secure AI Alliance radit će na saniranju i otkrivanju ranjivosti korištenjem otvorenih tehnologija. Nedavni sigurnosni incident Hugging Face jasno je pokazao: kibernetičkim braniteljima potrebni su otvoreni, granični agentski sustavi za samoobranu', navela je Nvidia u izjavi koju prenosi CNBC.

Uz Nvidiju, inicijativi su se pridružili Microsoft, SpaceX, Palantir i deseci drugih tehnoloških tvrtki iz SAD-a i Europe. Sve su glasniji pozivi za mjerama ograničavanja pristupa modelima koje su izgradile kineske tvrtke za umjetnu inteligenciju, optužene za kampanje izvlačenja informacija iz sustava američkih konkurenata, poznate kao destilacija.

Američki ministar financija Scott Bessent zaprijetio je sankcijama kineskim tvrtkama koje počine napade destilacijom na američke tvrtke, a to bi moglo uključivati ​​zabranu transakcija koje uključuju modele, poput kupnje tokena putem API-ja ili američkih tvrtki koje hostiraju model u oblaku i naplaćuju korisnicima inferenciju.

Akcije bi mogle usmjerene na tvrtke, ne na ekosustav otvorenog računalnog koda. No s obzirom na to da većinu najsposobnijih modela otvorenog koda grade kineske tvrtke, postoji zabrinutost zbog ograničenja.

Prošli tjedan su Nvidia, Microsoft, Meta Platforms, Palantir i više od 20 drugih tvrtki objavile pismo u kojem pozivaju kreatore politika na izbjegavanje preuranjenih ograničenja otvorenih modela umjetne inteligencije jer bi to moglo ugušiti konkurenciju ili potaknuti inovacije u inozemstvu.