Anthropic je objavio pregled svog novog modela, nazvanog Mythos, za koji tvrdi kako će ga koristiti mala skupina partnerskih organizacija za rad na kibernetičkoj sigurnosti
Ograničeno predstavljanje modela dio je nove sigurnosne inicijative - projekta Glasswing - u kojoj će 12 partnerskih organizacija primijeniti model u svrhu 'obrambenog sigurnosnog rada' i za zaštitu kritičnog softvera.
Iako nije posebno obučen za rad na kibernetičkoj sigurnosti, model bi trebao biti korišten za skeniranje softverskih sustava prve strane i softverskih sustava otvorenog računalnog koda. Anthropic tvrdi kako je Mythos tijekom proteklih nekoliko tjedana identificirao 'tisuće sigurnosnih propusta nultog dana, od kojih su mnogi bili kritični', a bilo je i starih od jednog do dva desetljeća.
vezane vijesti
Spreman i za američku vladu?
Mythos je model opće namjene za Anthropicove sustave Claude AI, za koje tvrtka tvrdi kako imaju snažne vještine agentskog kodiranja i zaključivanja. Partnerske organizacije koje pregledavaju Mythos kao dio projekta Glasswing uključuju Amazon, Apple, Broadcom, Cisco, CrowdStrike, Linux Foundation, Microsoft i Palo Alto Networks.
Kao dio inicijative, ovi će partneri u konačnici podijeliti ono što su naučili korištenjem modela kako bi ostatak tehnološke industrije mogao imati koristi od njega. Pregled neće biti javno dostupan, iako će još 40 organizacija dobiti pristup pregledu Mythosa.
Anthropic je navodno o korištenju Mythosa pregovarao i s dužnosnicima američke savezne vlade, iako s administracijom američkog predsjednika Donalda Trumpa vode pravni spor nakon što ih je Pentagon označio kao rizik za lanac opskrbe zbog Anthropicovog odbijanja da dopusti autonomno ciljanje ili nadzor američkih građana.
Vijest o Mythosu izvorno je procurila u sigurnosnom incidentu u sklopu kojeg je Anthropic slučajno otkrio blizu dvije tisuće datoteka izvornog koda i preko pola milijuna redaka koda.
Nacrt objave na blogu o modelu (tada nazvanom Capybara) ostavljen je u neosiguranoj predmemoriji dokumenata dostupnih na javno dostupnom jezeru podataka. Tvrtka je potom slučajno uzrokovala uklanjanje tisuća repozitorija koda na GitHubu dok je pokušavala srediti nered. Propust, koji je Anthropic naknadno pripisao 'ljudskoj pogrešci', izvorno su uočili sigurnosni istraživači.
U objavi je bilo navedeno kako njihov novi model 'daleko premašuje područja performansi (poput softverskog kodiranja, akademskog razmišljanja i kibernetičke sigurnosti) koja zadovoljavaju njihovi trenutno javni modeli te bi potencijalno mogao predstavljati kibernetičku prijetnju ako ga zlonamjerni akteri iskoriste kao oružje za pronalaženje grešaka i njihovo iskorištavanje', piše Tech Crunch.
