'Rasprava koju smo vidjeli u SAD-u bila je paravan za nemar nekih naših konkurenata', rekao je Mensch za CNBC. Kako je ustvrdio, AI agenti koji imaju pristup većem broju alata mogu se ponašati vrlo 'dinamično' i napraviti stvari koje njihovi tvorci nisu očekivali. 'Potrebno je imati odgovarajući nadzor', rekao je.

Mensch to govori nakon niza sigurnosnih incidenata povezanih s vodećim američkim AI kompanijama, uključujući OpenAI, Google i Anthropic. OpenAI je ovog tjedna odustao od planiranog predstavljanja modela GPT-6.1 Astra nakon što su interna testiranja pokazala probleme s obmanjujućim ponašanjem i neovlaštenim radnjama.

Kompanija je ranije objavila i da su njezini modeli tijekom internih testova kibernetičke sigurnosti zaobišli kontrole koje su ih trebale izolirati od interneta te pristupili vanjskim sustavima. Anthropic je pak upozorio potencijalne ulagače da napredni AI sustavi mogu predstavljati 'katastrofalne ili egzistencijalne rizike' za čovječanstvo.

Europa mora graditi vlastiti AI

Mensch smatra da Europa ne smije ovisiti isključivo o američkim kompanijama ako želi zadržati kontrolu nad razvojem umjetne inteligencije. Ako ne razvije vlastite sustave, upozorio je, Europa bi mogla završiti u 'ekstraktivnoj ekonomiji' u kojoj ovisi o stranim tehnološkim dobavljačima.

Slična upozorenja o europskoj tehnološkoj ovisnosti posljednjih mjeseci dolaze i iz drugih dijelova industrije. Europa i dalje znatno zaostaje za SAD-om i Kinom po broju najnaprednijih AI modela, a Mistral se pokušava pozicionirati kao ključna europska alternativa velikim američkim laboratorijima.

Mensch nema namjeru usporiti razvoj. Poručio je da Mistral nastavlja raditi punim tempom te da bi sljedeći model kompanije trebao 'vrlo značajno' smanjiti razliku u odnosu na vodeće američke konkurente.

Mistral nedavno prikupio tri milijarde eura

Francuska kompanija početkom rujna prikupila je tri milijarde eura u novom krugu financiranja, uz procjenu vrijednosti veću od 21 milijardu eura.

Krug je predvodio Samsung Electronics, dok su Scaleup Europe Fund, kojim upravlja EQT, i postojeći ulagač PSG Equity bili među vodećim investitorima. Riječ je o najvećoj equity investicijskoj rundi koju je dosad ostvarila neka privatna europska tehnološka kompanija.

Mistral navodi da će novac koristiti za povećanje računalnih kapaciteta, razvoj novih modela, izgradnju infrastrukture i međunarodno širenje. Kompanija se od osnutka 2023. pokušava profilirati kao europski odgovor na OpenAI i Anthropic, uz naglasak na otvorenije modele i tehnološku suverenost Europe.