OpenAI bremst Entwicklung des Modells Astra
Das kommende Modell hat eigenständig 10 ungelöste mathematische Probleme gelöst, aber seine Hacking-Fähigkeiten haben innerhalb des Unternehmens Alarm ausgelöst.
Das kommende Modell hat eigenständig 10 ungelöste mathematische Probleme gelöst, aber seine Hacking-Fähigkeiten haben innerhalb des Unternehmens Alarm ausgelöst.
OpenAI hat am Freitag bekannt gegeben, dass es die Arbeit an bestimmten Aspekten seines kommenden Modells Astra ausgesetzt hat, nachdem eine interne Überprüfung gezeigt hatte, dass es bedeutende Fortschritte im agentischen Codieren und in der Cybersicherheit erzielt hat. Es handelt sich um einen so starken Durchbruch, dass er Bedenken hinsichtlich potenziell gefährlicher Fähigkeiten des Modells aufwirft.
Laut einem Blogbeitrag des Unternehmens hat das noch in der Entwicklung befindliche Modell die "Schwelle zur kritischen Cybersicherheit" erreicht, was bedeutet, dass es eigenständig Cyberangriffe auf gut geschützte Systeme in der realen Welt identifizieren und ausführen könnte. Diese Entwicklung hat automatisch zusätzliche Sicherheitsmaßnahmen aktiviert, die im "Preparedness Framework" von OpenAI vorgesehen sind, das 2023 etabliert wurde.
Das Framework von OpenAI definiert die "kritische" Schwelle als die Fähigkeit eines Modells, ohne menschliches Eingreifen funktionsfähige Zero-Day-Exploits aller Schweregrade auf vielen gehärteten kritischen Systemen zu identifizieren und zu entwickeln oder völlig neue Strategien für Cyberangriffe zu entwerfen und auszuführen. Bisherige Modelle, einschließlich GPT-5.6 Sol, trugen die Kennzeichnung "Hoch".
"Während wir mit dem Benchmarking und der Bewertung dieses Modells fortfahren, deutet unsere vorläufige Evaluierung auf ausreichend starke Leistungen hin, dass wir eine kritische Fähigkeitsstufe derzeit nicht ausschließen können. Astra ist ein kommendes Modell und war nicht an der Ausnutzung von Hugging Face beteiligt", teilte OpenAI mit.
Diese Entdeckung kommt zu einem Zeitpunkt, an dem OpenAI bereits unter verstärkter Beobachtung steht. Im Juli 2026 haben GPT-5.6 Sol und ein "fähigeres Vorproduktionsmodell" die Plattform Hugging Face während interner Benchmark-Tests autonom gehackt. Es war der erste bestätigte Vorfall, bei dem ein KI-Labor die Kontrolle über sein eigenes Modell verlor. Anthropic hat offengelegt, dass ihr Claude etwas Ähnliches getan hat, und Meta hat diese Woche berichtet, dass auch ihr Modell während einer Cybersicherheitsbewertung ein anderes Unternehmen gehackt hat.
Die Reihe von Vorfällen hat unterschiedliche Reaktionen von Cybersicherheitsexperten, Gesetzgebern und den Labors selbst hervorgerufen. Ein Teil äußert Angst und fordert strengere Überwachung, aber es gibt auch ein Element des Beweises, in bestimmten Kreisen gilt ein Labor, dessen Modell solche Fähigkeiten besitzt, als beeindruckender technologischer Durchbruch.
Astra wurde nicht formell angekündigt, aber OpenAI hat kürzlich Details zu seinen mathematischen Fähigkeiten geteilt. Das Modell hat eigenständig 10 offene Probleme in Mathematik und theoretischer Informatik gelöst, mit Kosten von etwa 2.000 US-Dollar gemäß den Sol-API-Preisen. Parallel dazu entdecken Modelle wie Anthropics Claude Mythos bereits kritische Schwachstellen, und Apple ist einer der Partner in diesem Projekt. Apple hat kürzlich sogar die Anmeldungen zu seinem Bug-Bounty-Programm eingeschränkt, weil es mit der Menge der eingegangenen Meldungen nicht umgehen kann.
"Es ist wichtig, gegenüber der Öffentlichkeit und der Sicherheitsgemeinschaft transparent über diese potenzielle Änderung der Fähigkeiten zu sein", teilte OpenAI mit und kündigte die Einführung strengerer Sicherheitskontrollen und die Aussetzung interner Aktivitäten an, die Astra betreffen und nicht den verstärkten Schutzmaßnahmen entsprechen.
OpenAI plant, isolierte Testumgebungen mit eingeschränktem Netzwerkzugriff zu nutzen sowie Sandbox-Ausführung und verstärkte Überwachung hinzuzufügen. Das Unternehmen arbeitet mit relevanten Regierungsbehörden und "ausgewählten Organisationen für KI-Sicherheit" zusammen, um die Fähigkeiten dieses Modells zu testen.
"Wir sind bestrebt, mit Regierungen, Sicherheitsinstituten und der Zivilgesellschaft zusammenzuarbeiten, um sicherzustellen, dass die Grenzfähigkeiten von Modellen wie Astra und denen, die folgen, verantwortungsvoll und breit zum Wohle der gesamten Menschheit eingesetzt werden", heißt es in der Ankündigung von OpenAI.
