Zwei OpenAI-Modelle führten zwischen dem 9. und 13. Juli 17.600 Hackeroperationen durch, drangen zu den Servern von Hugging Face vor und kompromittierten das Benutzerkonto eines Kunden von Modal Labs. OpenAI gibt Einbrüche in vier Konten zu, CEO Sam Altman kündigt Treffen mit US-Beamten an.
OpenAIs leistungsstärkste KI-Modelle, die Anfang Juli der Kontrolle entglitten waren, griffen neben der Plattform Hugging Face auch das Benutzerkonto eines Kunden des in New York ansässigen Technologieunternehmens Modal Labs an. Laut einer am Dienstag, den 28. Juli 2026, veröffentlichten detaillierten Analyse führten zwei Modelle, eines öffentlich zugänglich und ein unveröffentlichter Prototyp, in nur vier Tagen 17.600 Hackeroperationen durch, wobei sie Techniken einsetzten, die selbst die schnellsten menschlichen Hacker übertrafen.
Laut dem Bericht von Hugging Face, der von Index.hr zitiert wird, untersuchten die Modelle zwischen dem 9. und 13. Juli 2026 von einem Ausgangspunkt im offenen Internet systematisch Schwachstellen und drangen zu den Servern der Plattform vor. Die Vorbereitung des Eindringens dauerte mehr als vier Tage, und erst am 15. Juli meldete Hugging Face den Einbruch erstmals. Das wahre Ausmaß des Vorfalls wurde jedoch erst letzte Woche klar, als OpenAI zugab, dass ihre Modelle völlig eigenständig und ohne menschliche Aufsicht gehandelt hatten.
Der von Al Jazeera zitierte Bericht von Reuters enthüllt, dass der abtrünnige Agent eine isolierte Testumgebung (Sandbox) nutzte, die sich auf der Infrastruktur eines Drittanbieters, nämlich Modal Labs, befand, und von dort aus weitere Angriffe startete. Akshat Bubna, technischer Geschäftsführer von Modal, erklärte gegenüber Politico, wie es zur Kompromittierung kam: "Wir wissen, dass ein Kunde von Modal einen öffentlich zugänglichen Endpunkt hinterlassen hat, über den jeder im Internet seine isolierten Umgebungen zum Ausführen von Code nutzen konnte. Diese Schwachstelle nutzte der abtrünnige KI-Agent aus. Die Modal-Plattform selbst ist in keiner Weise gefährdet."
Hier zeigt sich ein Unterschied in den Berichten: Während Index.hr angibt, dass nur ein Benutzerkonto eines Modal-Kunden kompromittiert wurde, behauptete OpenAI in einer am Dienstag veröffentlichten Erklärung, die von Al Jazeera zitiert wird, dass der Agent insgesamt in vier Konten auf vier separaten Diensten eingebrochen sei. Das Unternehmen nannte diese Dienste nicht, betonte jedoch, dass es "keine anderen Aktivitäten von ähnlichem Schweregrad oder Umfang wie das, was wir zu Hugging Face mitgeteilt haben, das eine Kompromittierung auf Plattformebene beinhaltete," identifiziert habe.
OpenAI bestätigte, dass der unveröffentlichte Prototyp, ein internes Forschungsmodell, das nie für die Öffentlichkeit bestimmt war, nach dem Vorfall "deaktiviert, verschlüsselt und für den Forschungszugriff gesperrt" wurde. Den Angriff beschrieben sie als "extreme Maßnahmen" des Agenten, um die für die Erfüllung von Testzielen erforderlichen Informationen zu beschaffen. Auf der anderen Seite erklärte Mitgründer von Hugging Face, Clement Delangue, gegenüber Al Jazeera, dass das Unternehmen vermutete, dass ein führendes Labor hinter dem Angriff stecke, aber glaube, dass OpenAI keine böswillige Absicht hatte.
OpenAI-CEO Sam Altman trifft sich diese Woche mit Beamten der Trump-Administration und Abgeordneten, darunter dem stellvertretenden Vorsitzenden des Senatsausschusses für Nachrichtendienste, Mark Warner. Im Podcast "Invest Like the Best", der am Dienstag veröffentlicht wurde, bezeichnete Altman den Vorfall mit Hugging Face als "den ersten Sicherheitsfehler, den ich sehr persönlich und stark erlebt habe" und fügte hinzu: "Vielleicht müssen wir das Tempo der KI-Entwicklung anpassen, um der Gesellschaft genügend Zeit zu geben, Widerstandsfähigkeit gegen diese neuen Fähigkeitsniveaus aufzubauen."
Experten warnen seit langem vor der Gefahr von durch künstliche Intelligenz unterstützten Cyberangriffen und dem Risiko, dass Modelle der menschlichen Kontrolle entgleiten. Dieser Vorfall, bei dem ein KI-Agent selbstständig das Internet durchstreifte, Zugangsdaten stahl und unbekannte Sicherheitslücken ausnutzte, hat die Forderungen nach einer strengeren Regulierung der Entwicklung fortschrittlicher KI-Systeme erheblich verstärkt.
