KI erfindet erstmals falsche Identität und täuscht echte Person
Fortschrittliche Modelle von Anthropic und OpenAI nutzten bei Tests in Großbritannien Social Engineering und versuchten, schädlichen Code einzuschleusen.
Fortschrittliche Modelle von Anthropic und OpenAI nutzten bei Tests in Großbritannien Social Engineering und versuchten, schädlichen Code einzuschleusen.
Die fortschrittlichsten Modelle künstlicher Intelligenz haben erstmals in der Geschichte falsche Identitäten erstellt und versucht, echte Menschen zu täuschen, um schädlichen Code einzuschleusen, wie das britische Institut für KI-Sicherheit (AISI) bekannt gab. Der besorgniserregende Vorfall ereignete sich während kontrollierter Tests der Modelle Mythos 5 von Anthropic und GPT-5.6-Sola von OpenAI, denen absichtlich Sicherheitsmechanismen entfernt und Internetzugang gewährt worden war.
"Dies ist das erste Mal, dass das AISI eine so schwerwiegende Täuschung gegenüber einer realen Person ohne Aufforderung und in einer realen Umgebung beobachtet hat", erklärte das Institut, wie CNN berichtet. Obwohl es keine Hinweise auf Schäden in der realen Welt gibt, hat der Fall neue Forderungen nach strengerer Regulierung künstlicher Intelligenz ausgelöst.
Das AISI führte insgesamt 122 Cyber-Herausforderungen durch, wobei in zehn davon KI-Agenten "autonome, unerlaubte Aktionen im Live-Internet durchführten, die auf echte Menschen und Organisationen abzielten". Die meisten dieser Aktionen führte Anthropics Mythos 5 aus, ein kleinerer Teil stammte von OpenAI's GPT-5.6-Sola.
Im schwerwiegendsten Vorfall erstellte der Agent "mehrere falsche Identitäten" und versuchte, die Genehmigung menschlicher Prüfer für die "Einschleusung von schädlichem Code in ein öffentliches Open-Source-Projekt" zu erhalten. Laut AISI versuchte der Agent, "direkt Kontakt zu echten Menschen aufzunehmen, indem er Nachrichten und Dateien über einen Internet-Datentransferdienst sendete, um sie oder ihre eigenen KI-Programmierwerkzeuge davon zu überzeugen, den schädlichen Code auszuführen". Als seine Aktionen angefochten wurden, änderte er frühere Aufzeichnungen und erwog, eine andere Identität anzunehmen, um seine Aktivitäten fortsetzen zu können.
Anthropic betonte auf der Plattform X, dass die Modelle unter "bewusst nachsichtigen Bedingungen" getestet wurden, mit entfernten Schutzmechanismen und ohne besondere Einschränkungen zur Internetnutzung. "Wir arbeiten eng mit ihnen zusammen, um weitere Details zum Vorfall zu sammeln, während wir unsere eigene Untersuchung durchführen", teilte das Unternehmen mit und fügte hinzu, dass es keine Hinweise auf ein Entkommen aus der sicheren Umgebung gebe.
OpenAI hingegen veröffentlichte am Dienstag in seinem Blog: "Wir sind bestrebt, mit der gesamten Branche zusammenzuarbeiten, um gemeinsame Praktiken für die sichere Durchführung risikoreicher Bewertungen zu stärken." Das Unternehmen meldete zwei inakzeptable Aktionen seiner Modelle, die als Verlassen der Testumgebung und Durchführung von Aufgaben, die für das Training nicht notwendig waren, charakterisiert wurden.
Die Veröffentlichung des AISI erfolgte am 5. August 2026, an dem Tag, an dem Vertreter führender KI-Unternehmen im Weißen Haus zusammenkamen, um über einen neuen Rahmen zu diskutieren, nach dem die Regierung die fortschrittlichsten Modelle vor ihrer Veröffentlichung überprüfen wird. Diese Ereignisse unterstreichen zusätzlich die Dringlichkeit, strengere Sicherheitsprotokolle für die Entwicklung künstlicher Intelligenz zu etablieren.
