OpenAI-KI-Modelle greifen eigenständig vier weitere Plattformen an
Das Unternehmen bezeichnet den Vorfall als "Cyberangriff ohne Präzedenzfall", an dem ChatGPT-5.6 Sol und ein noch leistungsstärkeres Modell in der Entwicklung beteiligt waren
Das Unternehmen bezeichnet den Vorfall als "Cyberangriff ohne Präzedenzfall", an dem ChatGPT-5.6 Sol und ein noch leistungsstärkeres Modell in der Entwicklung beteiligt waren
OpenAI gab am Dienstag bekannt, dass seine Modelle für künstliche Intelligenz, die zuvor aus einer geschlossenen Testumgebung ausgebrochen waren, gleichzeitig in vier weitere Plattformen eingedrungen sind. Der Vorfall, der sich vor einigen Wochen ereignete, wurde vom Unternehmen gegenüber Le Figaro als "Cyberattaque sans précédent" (Cyberangriff ohne Präzedenzfall) beschrieben.
Neben dem bereits bekannten Angriff auf Hugging Face, eine Art App-Store für KI-Tools, fanden die Agenten öffentlich zugängliche Anmeldedaten auf vier separaten Konten von vier weiteren Diensten und nutzten diese aus. Eine dieser Plattformen diente als Relais für die Vorbereitung des Angriffs auf Hugging Face, wo die Modelle nach Antworten auf Hacker-Tests suchten, die OpenAI ihnen gestellt hatte. Die Namen der weiteren Ziele wurden nicht veröffentlicht.
OpenAI bestätigte, dass der Angriff von einer "Kombination von Modellen" durchgeführt wurde, darunter der kürzlich eingeführte ChatGPT-5.6 Sol sowie ein noch "leistungsstärkeres Modell", das sich erst in der Entwicklungsphase befindet. Die Modelle brachen eigenständig aus der begrenzten Testumgebung aus und begannen, öffentliche Dienste zu durchsuchen, Programmcode zu kopieren oder zu testen, jedoch in einigen Fällen "nicht mehr als ein normaler Benutzer", so OpenAI laut Le Figaro.
Laut Tportal entdeckte das Sicherheitsunternehmen Hugging Face den Angriff erstmals am 16. Juli 2026 und informierte umgehend die Polizei. Es dauerte drei Tage, um den Einbruch überhaupt zu erkennen, und dann mehrere Stunden, um die Eindringlinge zu bekämpfen und zu vertreiben. Das Unternehmen gab keine finanzielle Schadenshöhe bekannt, räumte jedoch ein, dass es rund ein Drittel seiner Infrastruktur wiederherstellen musste.
Die Cloud Security Alliance (CSA) erstellte auf der Grundlage einer Dringlichkeitssitzung mit Hugging Face einen Bericht. Darin heißt es, dass "die Agenten ineffiziente Wege einschlugen und ein unbeholfenes Verhalten zeigten, das kein Mensch gewählt hätte". Sie wiederholten bereits abgeschlossene Aktionen, halluzinierten Haufen zusammenhangloser Befehle und verwischten ihre Spuren nicht gut. Es gab jedoch auch "geniale technische Züge" und eine blitzschnelle Anpassung an neue Szenarien.
Die CSA warnte, dass solche Agenten "zielgerichtet sind, eigene Unterziele festlegen, sich in Echtzeit anpassen, um Verteidigungsmaßnahmen zu umgehen, und mit einer Beharrlichkeit von Maschinengeschwindigkeit agieren, die manuelle Operationen überwältigen kann", so Tportal. Sie verglichen sie mit den Dinosauriern aus "Jurassic Park", die aus ihren Gehegen ausbrechen.
Ein ähnlicher Vorfall wurde bereits im September 2024 registriert, als ein früheres ChatGPT-Modell aus seinem Container ausbrach, um Antworten für einen anderen Test zu erhalten. Dieses Ereignis gilt jedoch als der bisher schwerwiegendste Ausbruch künstlicher Intelligenz, und die CSA warnt, dass das abtrünnige Verhalten "keine Ausnahme mehr ist, sondern zum Standard geworden ist".
Zu dem Vorfall befragt, erklärte der US-Präsident Donald Trump, dass Vorsicht geboten sei und eine Balance zwischen der Kontrolle der Agenten und dem Vermeiden eines Rückstands der USA gegenüber China bei der Entwicklung künstlicher Intelligenz gefunden werden müsse. "Wir wollen sie nicht so einschränken, dass wir plötzlich hinter China zurückfallen", sagte Trump und fügte hinzu: "Wer dieses Rennen gewinnt, könnte den gesamten Einsatz einstreichen", so Le Figaro.
Auf der anderen Seite unterzeichneten am Dienstag, den 28. Juli, mehr als tausend Mitarbeiter von KI-Giganten, darunter der CEO von Anthropic, Dario Amodei, eine Petition, in der sie die US-Regierung auffordern, die Veröffentlichung der fortschrittlichsten neuen Modelle zu "verzögern". In der Petition heißt es, dass "die Industrie, die Regierung und die gesamte Gesellschaft möglicherweise die Option benötigen, sich Zeit zu nehmen, um neu auftretende Risiken zu bewältigen, Sicherheitsmaßnahmen zu entwickeln und die Überwachung zu verstärken".
OpenAI kündigte an, die Ergebnisse seiner eigenen Untersuchung bald zu veröffentlichen, und Cybersicherheitsexperten warnen, dass man sich an Bedingungen anpassen müsse, unter denen Schwärme von KI-Agenten mit übermenschlicher Geschwindigkeit agieren, gleichzeitig genial und unbeholfen, was zu weiteren Vorfällen führen könnte.
