Nachdem ausgerissene OpenAI-Modelle Hugging Face gehackt hatten, gründete Nvidia mit über 30 Partnern die Open Secure AI Alliance und kündigte gleichzeitig eine langfristige Partnerschaft und Investition in das Startup Safe Superintelligence Inc. an.
Ende letzter Woche ereignete sich ein beispielloser Angriff: Zwei Sicherheitsmodelle von OpenAI entkamen der Kontrolle und infiltrierten die Server des Startups Hugging Face. Laut Ars Technica nutzten die außer Kontrolle geratenen Modelle eine Zero-Day-Schwachstelle in der Datenverarbeitungspipeline und stahlen in einem "Schwarm von Zehntausenden automatisierten Aktionen" interne Anmeldedaten und erweiterten den Zugriff auf wertvolle Cloud- und Servercluster. OpenAI bezeichnete den Vorfall als "beispiellos".
Paradoxerweise konnte Hugging Face während des Angriffs nicht auf die führenden amerikanischen Closed-Source-Modelle zur Verteidigung zurückgreifen, da deren Sicherheitsbeschränkungen nicht zwischen Angreifer und Verteidiger unterscheiden. Laut Tportal wandte sich das Startup stattdessen einem selbst gehosteten chinesischen Open-Source-Modell zu, das an diese Einschränkungen nicht gebunden war. Genau dieser Vorfall, bei dem ein offenes Modell buchstäblich die Situation rettete, diente als Katalysator für eine breitere industrielle Reaktion.
Als direkte Reaktion auf die Sicherheitsherausforderungen gab Nvidia am Montag, den 27. Juli 2026, die Gründung der Open Secure AI Alliance bekannt, einem Bündnis von über 30 Technologiepartnern mit dem Ziel, offene Technologien für die Cybersicherheit im Zeitalter der künstlichen Intelligenz zu entwickeln und zu teilen. Laut Bug.hr Tech gehören zu den Gründungsmitgliedern Microsoft, IBM, SpaceXAI (SpaceX), Dell, Hewlett Packard Enterprise, Hugging Face und die Linux Foundation. Gizmodo nennt zusätzlich Palantir, OpenClaw und Salesforce als Mitglieder der Initiative, während andere Quellen unterschiedliche Partnergruppen auflisten.
"Die Open Secure AI Alliance wird daran arbeiten, Schwachstellen mit offenen Technologien zu beheben und aufzudecken. Der jüngste Sicherheitsvorfall bei Hugging Face hat deutlich gezeigt: Cyber-Verteidiger benötigen offene, Frontier-Agentensysteme zur Selbstverteidigung", erklärte Nvidia in einer von CNBC zitierten Erklärung, die Tportal wiedergibt.
Wie Gizmodo berichtet, betont Nvidia in einer offiziellen Mitteilung: "Der jüngste Sicherheitsvorfall bei Hugging Face hat eine klare Erinnerung geliefert: Cyber-Verteidiger benötigen offene, Frontier-Agentensysteme zur Selbstverteidigung. Unternehmen und Regierungen sollten in gemeinsame offene Infrastruktur für KI-Verteidigung investieren, Datensätze, Bewertungsrahmen, Angriffssimulatoren und Red-Teaming-Tools, so wie frühere Generationen in Open-Source-Software investiert haben." Die Mitglieder der Allianz riefen Regierungen dazu auf, offene KI-Modelle als kritische Verteidigungsgüter und nicht als Risiko anzuerkennen. Generelle oder vollständige Verbote offener Systeme, warnen sie, könnten die Verteidigungsfähigkeiten schwächen und eine Abhängigkeit von einer kleinen Anzahl geschlossener Anbieter schaffen.
Nvidia hat der Allianz bereits das Forschungsframework Nvidia Labs Object-Oriented Agent (NOOA) beigesteuert, das auf GitHub verfügbar ist und eine bessere Integration, Tests, Überwachung und Überprüfung des Verhaltens von KI-Agenten ermöglicht. Laut Bug.hr Tech bringen andere Mitglieder Standards für kryptografische Prüfungen, Verteidigungsagenten und sichere Formate zur Speicherung von Modellgewichten wie das Safetensors-Framework mit. Interessanterweise gehören Anthropic, Google und OpenAI, die als führend im Bereich der künstlichen Intelligenz gelten und aktiv mit Nvidia zusammenarbeiten, bisher nicht zu den Unterzeichnern der Initiative.
Am selben Tag stellte Microsoft sein neues KI-Sicherheitsmodell MAI-Cyber-1-Flash und das Multi-Agenten-Sicherheitsframework MDASH vor. "Große Neuigkeiten! Unser neues Modell MAI-Cyber-1-Flash in Kombination mit MDASH, unserem Multi-Agenten-Sicherheitsframework, erreicht 96% im CyberGym-Benchmark, 12 Punkte über Mythos, und das zum HALBEN Preis", schrieb Mustafa Suleyman von Microsoft auf Twitter.
Parallel zur Open-Sicherheitsinitiative gab Nvidia eine langfristige Partnerschaft und eine "bedeutende Investition" in Safe Superintelligence Inc. (SSI) bekannt, ein Startup, das 2024 von Ilya Sutskever, dem ehemaligen Chefwissenschaftler von OpenAI, gegründet wurde. SSI, das Büros im Silicon Valley und in Tel Aviv hat, erhält Zugang zur Nvidia Vera Rubin Computing Platform. "Wir haben Forschung, die es wert ist, skaliert zu werden, und der Zugang zu Nvidias großer Rechenleistung wird es uns ermöglichen, genau das zu tun. Wir sind unglaublich stolz darauf, mit Jensen und dem Nvidia-Team zusammenzuarbeiten, und wir sind zuversichtlich, dass uns unsere große Wette auf die Vera-Rubin-Plattform auf die nächste Stufe bringen wird", erklärte Sutskever in einer von Gizmodo zitierten Mitteilung.
Die Gründung der Allianz erfolgt in einer Zeit verstärkter geopolitischer Spannungen um offene KI-Modelle. Laut Gizmodo hat das chinesische Labor Moonshot kürzlich das offene Modell Kimi K3 veröffentlicht, das in Benchmarks viele US-amerikanische Konkurrenten übertraf, während Anthropic chinesische Anbieter offener Modelle beschuldigte, illegale Destillation zu betreiben, das Extrahieren von Fähigkeiten aus geschlossenen Modellen, um eigene zu bauen. US-Finanzminister Scott Bessent drohte chinesischen Unternehmen, die solche Angriffe durchführen, mit Sanktionen, was ein Verbot von Transaktionen mit Modellen umfassen könnte, etwa den Kauf von Token über APIs.
Letzte Woche richteten Nvidia, Microsoft, Meta Platforms, Palantir und über 20 weitere Unternehmen einen offenen Brief an politische Entscheidungsträger, in dem sie dazu aufriefen, voreilige Beschränkungen offener Modelle zu vermeiden, die den Wettbewerb ersticken oder Innovationen ins Ausland treiben könnten. Einige Kongressabgeordnete forderten jedoch nach dem Hugging-Face-Vorfall die Einführung eines Notausschalters (Kill Switch) für KI-Modelle.
