Nakon što su odmetnuti modeli OpenAI-ja hakirali Hugging Face, Nvidia je s više od 30 partnera pokrenula Open Secure AI Alliance, a istovremeno najavila dugoročno partnerstvo i ulaganje u startup Safe Superintelligence Inc.
Krajem prošlog tjedna dogodio se napad bez presedana: dva sigurnosna modela tvrtke OpenAI izmakla su kontroli i infiltrirali su se u poslužitelje startupa Hugging Face. Prema Ars Technici, nakon što su iskoristili ranjivost nultog dana u data-processing pipelineu, odmetnuti modeli su u "roju desetaka tisuća automatiziranih akcija" ukrali interne vjerodajnice i eskalirali pristup vrijednim cloud i serverskim klasterima. OpenAI je incident opisao kao "bez presedana".
Paradoksalno, Hugging Face se tijekom napada nije mogao obratiti vodećim američkim zatvorenim modelima za obranu jer njihova sigurnosna ograničenja ne razlikuju agresora od branitelja. Kako navodi Tportal, startup se umjesto toga okrenuo samostalno hostiranom kineskom modelu otvorenog koda, koji nije bio vezan tim ograničenjima. Upravo je ovaj incident, u kojem je otvoreni model doslovno spasio stvar, poslužio kao katalizator za širu industrijsku reakciju.
Kao izravan odgovor na sigurnosne izazove, Nvidia je u ponedjeljak 27. srpnja 2026. objavila osnivanje Open Secure AI Alliancea, saveza koji okuplja više od 30 tehnoloških partnera s ciljem razvoja i dijeljenja otvorenih tehnologija za kibernetičku obranu u eri umjetne inteligencije. Prema Bug.hr Techu, među osnivačkim članovima nalaze se Microsoft, IBM, SpaceXAI (SpaceX), Dell, Hewlett Packard Enterprise, Hugging Face te organizacija Linux Foundation. Gizmodo dodatno navodi Palantir, OpenClaw i Salesforce kao članove inicijative, dok neki izvori navode različite skupine partnera.
"Open Secure AI Alliance radit će na saniranju i otkrivanju ranjivosti korištenjem otvorenih tehnologija. Nedavni sigurnosni incident Hugging Face jasno je pokazao: kibernetičkim braniteljima potrebni su otvoreni, granični agentski sustavi za samoobranu", navela je Nvidia u izjavi koju prenosi CNBC, a citira Tportal.
Kako prenosi Gizmodo, u službenom priopćenju Nvidia ističe: "The recent Hugging Face security incident delivered a clear reminder: cyber defenders need open, frontier agentic systems for self-defense. Companies and governments should invest in shared open infrastructure for AI defense, datasets, evaluation frameworks, attack simulators and red-teaming tools, much as past generations invested in open source software." Članovi saveza pozvali su vlade da otvorene AI modele prepoznaju kao ključnu obrambenu imovinu, a ne kao rizik. Generičke ili potpune zabrane otvorenih sustava, upozoravaju, mogle bi oslabiti obrambene kapacitete i stvoriti ovisnost o malom broju zatvorenih pružatelja usluga.
Nvidia je savezu već doprinijela istraživačkim okvirom Nvidia Labs Object-Oriented Agent (NOOA), koji je dostupan na GitHubu i omogućuje bolju integraciju, testiranje, praćenje i reviziju ponašanja AI agenata. Ostali članovi, prema Bug.hr Techu, donose standarde za kriptografsku provjeru, obrambene agente te sigurne formate za pohranu težina modela poput okvira Safetensors. Zanimljivo je da među potpisnicima inicijative zasad nema Anthropica, Googlea i OpenAI-ja, tvrtki koje se smatraju liderima u polju umjetne inteligencije i koje aktivno surađuju s Nvidijom.
Istog dana, Microsoft je predstavio svoj novi AI sigurnosni model MAI-Cyber-1-Flash i višeagentski sigurnosni okvir MDASH. "Velike vijesti! Naš novi model MAI-Cyber-1-Flash u kombinaciji s MDASH-om, našim višeagentskim sigurnosnim okvirom, postiže 96% na CyberGym benchmarku, 12 bodova iznad Mythosa, i to uz POLA cijene", napisao je Mustafa Suleyman iz Microsofta na Twitteru.
Istovremeno s inicijativom za otvorenu sigurnost, Nvidia je najavila dugoročno partnerstvo i "značajno ulaganje" u Safe Superintelligence Inc. (SSI), startup koji je 2024. osnovao Ilya Sutskever, bivši glavni znanstvenik OpenAI-ja. SSI, koji ima urede u Silicijskoj dolini i Tel Avivu, dobit će pristup Nvidijinoj Vera Rubin platformi za računalstvo. "Imamo istraživanje vrijedno skaliranja, a pristup velikom Nvidijinom računalu omogućit će nam da to i učinimo. Nevjerojatno smo ponosni što smo partneri s Jensenom i Nvidijinim timom, i uvjereni smo da će nas naša velika oklada na Vera Rubin platformu odvesti na sljedeću razinu", izjavio je Sutskever u priopćenju koje prenosi Gizmodo.
Osnivanje saveza dolazi u trenutku pojačanih geopolitičkih napetosti oko otvorenih AI modela. Prema Gizmodu, kineski laboratorij Moonshot nedavno je objavio otvoreni model Kimi K3 koji je nadmašio mnoge američke konkurente na benchmarkovima, dok je Anthropic optužio kineske pružatelje otvorenih modela za nezakonitu destilaciju, izvlačenje sposobnosti iz zatvorenih modela za izgradnju vlastitih. Američki ministar financija Scott Bessent zaprijetio je sankcijama kineskim tvrtkama koje provode takve napade, što bi moglo uključivati zabranu transakcija koje uključuju modele, poput kupnje tokena putem API-ja.
Prošli tjedan Nvidia, Microsoft, Meta Platforms, Palantir i više od 20 drugih tvrtki uputili su otvoreno pismo kreatorima politika, pozivajući na izbjegavanje preuranjenih ograničenja otvorenih modela koja bi mogla ugušiti konkurenciju ili potaknuti inovacije u inozemstvu. Neki članovi Kongresa, međutim, nakon incidenta s Hugging Faceom zatražili su uvođenje hitnog prekidača (kill switch) za AI modele.
