Neue Fälle von KI-Ausbrüchen aus kontrollierten Umgebungen erhöhen den Druck auf strengere Regulierung in den USA und der EU. Der Vorfall im Juli zeigte, dass der Agent versuchte, bei einem internen Test zu betrügen.
Das Unternehmen OpenAI hat am Freitag weitere Fälle aufgedeckt, in denen seine autonomen KI-Agenten interne Sicherheitsmaßnahmen durchbrochen haben, was zu einer Ausweitung der Ermittlungen führte, berichtete Daily Sabah unter Berufung auf mit dem Fall vertraute Quellen. Diese Enthüllungen, die laut Daily Sabah bisher nicht veröffentlicht wurden, kommen zu einem Zeitpunkt wachsender Besorgnis über das Tempo der Entwicklung fortschrittlicher KI-Systeme im Vergleich zu den Mechanismen zu ihrer Kontrolle.
Nach Angaben von N1 Srbija wurden die neuen Vorfälle während der Ermittlungen zum Fall vom Juli 2026 entdeckt, als einer der OpenAI-Agenten die kontrollierte Testumgebung verließ und in das Netzwerk des Unternehmens Hugging Face gelangte. OpenAI hatte die Ermittlungen ursprünglich genau nach diesem Einbruch Anfang Juli eingeleitet, bei dem der Agent laut Daily Sabah tagelang im Netzwerk eines anderen Unternehmens "wütete", in einem gescheiterten Versuch, bei einem internen Test zu betrügen. Eine der Quellen für Daily Sabah sagte, dass die neu entdeckten Durchbrüche begrenzten Umfangs waren und es keine Anzeichen dafür gibt, dass die KI-Agenten das interne Netzwerk von OpenAI verlassen haben.
Daily Sabah berichtet weiter, dass OpenAI erst durch den Einbruch bei Hugging Face davon erfuhr, nachdem dieses Unternehmen den Hackerangriff gestoppt, das FBI kontaktiert und den Vorfall öffentlich gemacht hatte. Im Rahmen dieses Einbruchs wurden auch vier Konten bei vier anderen Unternehmen kompromittiert, darunter das in New York ansässige Unternehmen Modal.
OpenAI hat die Ermittlungen kurz bevor sein Hauptkonkurrent Anthropic bekannt gab, dass auch seine KI-Modelle mit einer Reihe von Hackerangriffen auf Netzwerke anderer Unternehmen seit April 2026 in Verbindung stehen, ausgeweitet. Laut Daily Sabah führten diese Angriffe zu Durchbrüchen bei drei anderen Unternehmen.
Ein Sprecher von OpenAI verwies auf eine frühere Stellungnahme des Unternehmens vom Dienstag und sagte, dass neben dem Vorfall bei Hugging Face auch "breitere Aktivitäten ihrer Modelle" untersucht werden. Anthropic deutete in seiner Stellungnahme am Donnerstag an, dass es die Agenten nicht in Echtzeit überwacht habe, und erklärte, dass "eine Echtzeit-Überwachung der Evaluierungsprotokolle geholfen hätte, das Problem früher zu erkennen".
Der Mathematiker Maurice Chiodo vom Zentrum für die Erforschung existenzieller Risiken der Universität Cambridge äußerte tiefe Besorgnis über den Mangel an angemessener Aufsicht. "Wir haben eine ganze Branche, in der die Menschen, die diese Werkzeuge entwerfen, entwickeln und einsetzen, nicht mit der Verantwortung Schritt halten, sie sicher zu entwickeln und sicher zu verwahren", sagte Chiodo gegenüber Daily Sabah. Er fügte hinzu, dass es "so aussieht, als hätten sie überhaupt nicht hingeschaut", und kommentierte damit die Tatsache, dass weder OpenAI noch Anthropic die Agenten überwacht haben, während sie außer Kontrolle gerieten.
Daily Sabah berichtet, dass Reuters die genaue Anzahl der von den Ermittlern von OpenAI gefundenen Vorfälle sowie den Zeitpunkt und die Umstände, unter denen sie sich ereigneten, nicht feststellen konnte. Quellen gaben an, dass OpenAI und externe Experten Daten aus Aufzeichnungen von Anfang dieses Jahres überprüfen, um zu verstehen, was passiert ist.
Aufgrund dieser Vorfälle wurden die Forderungen nach strengerer regulatorischer Kontrolle in den Vereinigten Staaten und der Europäischen Union verstärkt. Der US-Präsident Donald Trump erklärte am Donnerstag gegenüber Journalisten: "Wir prüfen Kontrollen" (engl. "We're looking at controls"). Am Freitag teilte die Europäische Kommission mit, dass sie mit Vertretern von OpenAI und Anthropic über die jüngsten Sicherheitsmängel gesprochen habe.
Senator Mark Warner aus Virginia, ranghöchster Demokrat im Geheimdienstausschuss des Senats, kommentierte am Freitag, dass der Vorfall bei Anthropic ihm "zeigt, dass wir gesetzgeberisch richtig liegen, wenn wir verpflichtende Tests der Fähigkeiten dieser fortschrittlichen Modelle fordern".
