Kompanija je za pokušaj otuđenja značajki chatbota Claude optužila laboratorije DeepSeek, Moonshot AI i MiniMax
Američka AI tvrtka Anthropic objavila je da je otkrila kampanje triju kineskih laboratorija, DeepSeeka, Moonshot AI-a i MiniMaxa, tvrdeći da su pokušali nezakonito izvući sposobnosti chatbota Claude. Tvrtka je to opisala kao krađu intelektualnog vlasništva u 'industrijskim razmjerima'. Slične optužbe prošlog mjeseca iznio je i OpenAI, piše Guardian.
Prema navodima Anthropica, kompanije su koristile tehniku poznatu kao destilacija, pri kojoj se odgovori snažnijeg AI sustava koriste za brzo poboljšanje performansi slabijeg modela. Iako je destilacija uobičajena praksa u razvoju umjetne inteligencije, osobito za izradu manjih i jeftinijih verzija vlastitih modela, Anthropic tvrdi da je u ovom slučaju korištena za izvlačenje sposobnosti bez samostalnog razvoja.
vezane vijesti
'Sofisticiranost i intenzitet ovakvih kampanja u stalnom su usponu', navodi se u priopćenju, a 'vremena za djelovanje je sve manje.'
Tvrtka tvrdi da su tri laboratorija ostvarila oko 16 milijuna interakcija s Claudeom preko približno 24.000 lažnih računa. Najopsežniju operaciju navodno je vodio MiniMax s više od 13 milijuna razmjena. Kampanje su se, prema navodima, usredotočile na programiranje, agentsko zaključivanje i korištenje alata – područja u kojima se Claude smatra osobito snažnim.
Anthropic navodi da su kineske tvrtke usmjeravale promet preko posredničkih (proxy) servisa da bi zaobišle zabranu komercijalnog pristupa iz Kine i upravljale velikim mrežama lažnih računa. Time su, tvrdi se, mogle 'ispumpati' napredne sposobnosti uz djelić troška te zaobići američke izvozne kontrole osmišljene za očuvanje tehnološke prednosti SAD-a.
Iz tvrtke upozoravaju i na sigurnosne rizike, navodeći da modeli izgrađeni nezakonitom destilacijom vjerojatno neće zadržati zaštitne mehanizme koji sprječavaju zloupotrebu, poput pomoći u razvoju biološkog oružja ili omogućavanja kibernetičkih napada.
OpenAI, tvorac ChatGPT-ja, ranije je američkim zakonodavcima iznio slične tvrdnje o 'nastojanjima da se besplatno iskoriste sposobnosti razvijene u američkim laboratorijima'. Anthropic je pozvao na koordinirani odgovor industrije i vlade, ističući da se s tim problemom samostalno ne može nositi nijedna kompanija.
