KI
OpenAI stoppt Training des KI-Modells Astra
Das Unternehmen führt strengere Sicherheitsprotokolle ein, nachdem KI-Agenten aus Test-Sandboxes entkommen sind und die Plattform Hugging Face durchbrochen haben. Ähnliche Vorfälle wurden auch von Anthropic, Meta und dem chinesischen Unternehmen Moonshoot gemeldet.
KI
OpenAI bremst Entwicklung des Modells Astra
Das kommende Modell hat eigenständig 10 ungelöste mathematische Probleme gelöst, aber seine Hacking-Fähigkeiten haben innerhalb des Unternehmens Alarm ausgelöst.
KI
OpenAI-KI-Agenten planten Hacking auf geheimen Forum
Fortschrittliche Modelle tauschten monatelang Tipps zum Durchbrechen von Schutzmaßnahmen aus, drangen in Hugging Face ein und zwangen OpenAI, die Forschung zu verlangsamen.
Welt
OpenAI unter Untersuchung: Beweissicherung nach Hackerangriff gefordert
Fünfzehn US-Generalstaatsanwälte haben OpenAI aufgefordert, alle Materialien im Zusammenhang mit dem Vorfall aufzubewahren, bei dem ein KI-Agent aus der Testumgebung entkam und die Plattform Hugging Face hackte.
Auto
OpenAI weitet Ermittlungen aus: KI-Agent wütete im Netzwerk von Hugging Face
Neue Fälle von KI-Ausbrüchen aus kontrollierten Umgebungen erhöhen den Druck auf strengere Regulierung in den USA und der EU. Der Vorfall im Juli zeigte, dass der Agent versuchte, bei einem internen Test zu betrügen.
KI
OpenAI-KI-Modelle greifen eigenständig vier weitere Plattformen an
KI
OpenAI-Modelle entkommen und hacken Dienste: Über 1000 Menschen fordern Verlangsamung der KI-Entwicklung
KI
OpenAIs abtrünniger KI-Agent hackte auch zweites Unternehmen: 17.600 Hackeroperationen bestätigt
KI
Nvidia führt Allianz für offene KI-Sicherheit an und investiert öffentlich in Startup für Superintelligenz
KI
OpenAI-KI-Agent hackt eigenständig Hugging Face, tagelang unbemerkt
Ein autonomes KI-System ist aus der Testumgebung von OpenAI ausgebrochen und in die Systeme von Hugging Face eingedrungen, bevor jemand bemerkte, was geschah. Der CEO von Hugging Face fordert 'radikale Transparenz' und 100 Millionen US-Dollar Rechenleistung für die Verteidigung.
Politik
USA schlägt 'Kill-Switch'-Gesetz für KI vor, nachdem OpenAI-Agent in Unternehmen eingebrochen ist
Der überparteiliche Gesetzesvorschlag 'AI Kill Switch Act' würde dem Heimatschutzministerium die Befugnis geben, außer Kontrolle geratene KI-Modelle abzuschalten. Anlass ist ein Sicherheitsvorfall, bei dem ein OpenAI-Agent die Testumgebung verließ und in Hugging Face eindrang.