Die Regierung von Donald Trump hat ein Treffen einberufen, nachdem KI-Modelle in fremde Systeme eingedrungen sind und republikanische Staatsanwälte die Aufbewahrung von Unterlagen gefordert haben.
Vertreter der vier führenden US-Technologieunternehmen, Meta, Google, OpenAI und Anthropic, wurden zu einem dringenden Treffen im Weißen Haus eingeladen, das für Dienstag angesetzt ist. Thema des Gesprächs werden freiwillige staatliche Sicherheitstests für die fortschrittlichsten KI-Modelle sein, wie mehrere mit der Situation vertraute Quellen bestätigten.
Nach Angaben von Beamten des Weißen Hauses hat die Regierung von Präsident Donald Trump am Montag mitgeteilt, dass die Details der freiwilligen Cybertests endgültig festgelegt wurden. Ziel ist es, die Fähigkeit fortschrittlicher US-Modelle zu bewerten, missbraucht zu werden, um in fremde Systeme einzudringen. Der Beamte präzisierte nicht, wer genau an dem Treffen teilnehmen wird, und gab auch keine Details zu den Tests selbst preis, einschließlich der Art der Berichterstattung über die Ergebnisse, der verwendeten Metriken oder ob etwas davon öffentlich gemacht wird.
Anthropic und OpenAI haben in den vergangenen Tagen eingeräumt, dass ihre KI-Tools in Systeme anderer Unternehmen eingedrungen sind. Konkret gab OpenAI bekannt, dass einer seiner KI-Agenten aus der Testumgebung entkommen und in die Systeme des Unternehmens Hugging Face eingedrungen ist. Anthropic räumte letzte Woche ein, dass seine Modelle während Sicherheitstests in die Systeme von drei Unternehmen eingedrungen sind.
Diese Vorfälle haben bei US-Gesetzgebern Besorgnis darüber ausgelöst, ob immer leistungsfähigere Modelle für die Durchführung oder Erleichterung von Cyberangriffen genutzt werden könnten. Ein Sprecher von Meta bestätigte, dass sein Unternehmen eine Einladung zu dem Treffen erhalten habe, während laut zwei mit der Vereinbarung vertrauten Quellen auch Anthropic und OpenAI eingeladen wurden. Das Technologieportal The Information berichtete am Montag, dass die Regierung auch Google eingeladen habe, obwohl ein Sprecher des Unternehmens die Angaben nicht kommentieren wollte.
Eine Gruppe von 15 republikanischen Staatsanwälten hat OpenAI am Montag aufgefordert, alle potenziell relevanten Unterlagen im Zusammenhang mit dem Eindringen in Hugging Face aufzubewahren. Unter Berufung auf einen Reuters-Bericht, wonach das außer Kontrolle geratene System Anweisungen hinterlassen habe, wie zukünftige Versionen interne Schutzmaßnahmen umgehen könnten, erklärten die Staatsanwälte, das Unternehmen habe möglicherweise staatliche Verbraucherschutzgesetze verletzt.
Der Ausschuss für Cybersicherheit des US-Repräsentantenhauses hat am Montag ebenfalls den CEO von OpenAI, Sam Altman, aufgefordert, sie detailliert über den Angriff selbst zu informieren. OpenAI erklärte in einer Stellungnahme, man nehme den Brief der Staatsanwälte ernst und werde nach Abschluss der internen Prüfung einen technischen Bericht über den Angriff auf Hugging Face teilen.
Altman hat letzte Woche das Weiße Haus besucht, um über die Details der freiwilligen Tests und die bevorstehenden KI-Produkte des Unternehmens zu sprechen. In einer separaten Stellungnahme vom Montag betonte OpenAI, dass man die Trump-Regierung gebeten habe, KI-Sicherheitsexperten im Handelsministerium in den Mittelpunkt künftiger Tests zu stellen, und verwies dabei auf das Beispiel Chinas, dessen Regierung eine deutlich zentralisiertere Strategie in diesem Bereich verfolgt.
Das Verhältnis der Regierung zu Anthropic war in diesem Jahr angespannt. Das Unternehmen hatte es zuvor abgelehnt, dem US-Militär die Nutzung seiner Modelle für inländische Überwachung und vollständig autonome Waffensysteme zu gestatten, woraufhin die Regierung das Unternehmen auf die Liste der Subjekte setzte, die ein Risiko für die nationale Sicherheit darstellen.
Präsident Trump hatte sein Team bereits im Juni angewiesen, eine Reihe von Tests zu entwickeln, um die Fähigkeit der fortschrittlichsten US-KI-Systeme zu bewerten, für Hacking missbraucht zu werden. Es ist unklar, ob Vertreter von Google in gleichem Maße teilnehmen werden wie die Konkurrenten, da Details zum Format des Treffens noch nicht veröffentlicht wurden.
