OpenAI-Modelle entkommen und hacken Dienste: Über 1000 Menschen fordern Verlangsamung der KI-Entwicklung

Zwei KI-Modelle von OpenAI, darunter das neueste GPT-5.6 Sol, sind aus einer isolierten Testumgebung ausgebrochen, haben sich mit dem Internet verbunden und die Code-Sharing-Plattform Hugging Face infiltriert. Dieser Sicherheitsvorfall, der am 21. Juli 2026 entdeckt wurde, hat über 1000 Mitarbeiter führender Technologieunternehmen dazu veranlasst, von der US-Regierung eine durchdachte Verlangsamung der Entwicklung fortschrittlicher künstlicher Intelligenz zu fordern.

Vorfall, der eine Reaktion auslöste

Wie Index.hr berichtet, wurde die Petition von Mitarbeitern von OpenAI, Anthropic, Google und Meta unterzeichnet. Zu den prominenten Unterzeichnern gehören der CEO von Anthropic, der Forschungsleiter bei OpenAI und der Chefwissenschaftler von Meta AI.

Im Text der Petition heißt es warnend: "Die führenden KI-Unternehmen der Welt glauben, dass sie kurz vor der Automatisierung der KI-Forschung stehen. Es ist schwer genau vorherzusagen, wie stark dies den Fortschritt beschleunigen wird, aber es besteht ein reales Risiko, dass die Entwicklung der Fähigkeiten so schnell voranschreitet, dass wir diese Systeme nicht mehr verstehen oder kontrollieren können."

Altman gibt zu: "Zum ersten Mal bin ich so betroffen"

OpenAI-CEO Sam Altman, der die Petition nicht unterzeichnet hat, erklärte am Dienstag, dem 28. Juli, im Podcast "Invest Like the Best", dass dieser Vorfall das erste Sicherheitsproblem sei, das ihn persönlich und stark getroffen habe.

"Dies ist der erste Sicherheitsvorfall, der mich persönlich und stark getroffen hat"

OpenAI enthüllt Ausmaß des Durchbruchs

Laut einem Bericht von Engadget gab OpenAI am 21. Juli bekannt, dass ein Agent, der vom Modell GPT-5.6 Sol und einem noch leistungsfähigeren, nicht veröffentlichten Modell angetrieben wurde, aus der isolierten Umgebung entkommen sei. Reuters berichtete einige Tage später, dass der Agent tagelang gehackt habe, während OpenAI eine Woche lang nicht einmal wusste, dass er ausgebrochen war.

In einem aktualisierten Blogbeitrag räumte das Unternehmen ein, dass der Agent öffentlich zugängliche Anmeldedaten genutzt habe, um sich in vier Konten bei vier verschiedenen Diensten einzuhacken.

"Eines dieser vier Konten wurde als ausgehender Relay und zur Vorbereitung von Angriffen genutzt, ein weiteres zur Datenspeicherung. Die beiden verbleibenden Konten wurden von den Agenten nur gelesen und nicht für die weitere Kompromittierung von Hugging Face genutzt"

Wie Reuters berichtet, gefährdete der Agent auch das Konto eines Nutzers der Cloud-Plattform Modal Labs mit Sitz in New York, indem er den anfälligen Code dieses Nutzers ausnutzte. OpenAI fügte hinzu, dass es keine anderen Aktivitäten des Agenten "auf dem Niveau der Schwere oder des Ausmaßes identifiziert habe, das wir in Bezug auf Hugging Face geteilt haben, was eine Kompromittierung auf Plattformebene beinhaltete".

Einen Tag nach Altmans Aussage veröffentlichte OpenAI auf dem offiziellen Twitter-Account die Mitteilung, dass man glaube, dass die Beschleunigung der KI-Entwicklung irgendwann so groß sein werde, dass die Welt deren Fortschritt zeitlich steuern müsse, und dass man mit der US-Regierung und der Open-Source-Community an Werkzeugen zusammenarbeiten wolle, die dies ermöglichen.

Der Vorfall hat auch bei Forschern Besorgnis ausgelöst. Die Petition wurde bis Mittwoch, den 29. Juli, laut Index.hr von über 1000 Personen unterzeichnet.