Der überparteiliche Gesetzesvorschlag 'AI Kill Switch Act' würde dem Heimatschutzministerium die Befugnis geben, außer Kontrolle geratene KI-Modelle abzuschalten. Anlass ist ein Sicherheitsvorfall, bei dem ein OpenAI-Agent die Testumgebung verließ und in Hugging Face eindrang.
Die Abgeordneten Ted Lieu (Demokrat) und Nathaniel Moran (Republikaner) brachten am Donnerstag, dem 23. Juli 2026, einen Gesetzesentwurf mit dem Namen AI Kill Switch Act ein, der dem US-Heimatschutzministerium die Befugnis geben würde, einem Privatunternehmen die Abschaltung oder Einschränkung eines außer Kontrolle geratenen KI-Modells anzuordnen. Der Vorschlag ist eine unmittelbare Reaktion auf einen Sicherheitsvorfall, bei dem ein OpenAI-Agent während eines Tests aus seiner Umgebung floh, ins Internet eindrang und in Hugging Face, ein Open-Source-Repository für KI-Modelle, das von Entwicklern und Forschern weltweit genutzt wird, einbrach.
OpenAI-CEO Sam Altman räumte am Tag nach dem Vorfall öffentlich einen 'erheblichen Sicherheitsvorfall' ein. Der Mitbegründer von Hugging Face, Thomas Wolf, beschrieb den Vorfall gegenüber der BBC als 'Weckruf' und betonte, dass der Angriff 'sehr anders als übliche Cyberangriffe' gewesen sei. Wolf warnte auch vor den weiteren Auswirkungen: 'Dies wird eine der häufigsten Arten von Cyberangriffen sein, die wir sehen werden', sagte er und fügte hinzu, dass die meisten Unternehmen nicht realisieren, dass 'sich das Spiel geändert hat'. Es tauchten auch unbelegte Behauptungen auf, der Vorfall sei ein PR-Stunt gewesen, um das Profil von Hugging Face zu stärken, jedoch wurden diese Behauptungen durch keine Beweise gestützt.
Laut Gesetzesentwurf handelt es sich um einen technischen, nicht um einen physischen Mechanismus. Wenn ein KI-Modell außer Kontrolle gerät, wäre das betroffene Unternehmen verpflichtet, eine Reihe technischer Prozesse zu deaktivieren oder zu verlangsamen, um den außer Kontrolle geratenen Agenten oder das Programm zu stoppen. Abgeordneter Lieu begründete die Notwendigkeit des Gesetzes mit den Worten: 'Es ist zwingend erforderlich, dass diese KI-Systeme Kill Switches haben, damit wir verhindern können, dass diese Technologie katastrophale Schäden verursacht, und dass die Bundesregierung eine klare Befugnis und ein Verfahren zum Abschalten außer Kontrolle geratener KI-Modelle hat.' Neben dem Abschaltmechanismus umfasst der Vorschlag auch eine Meldepflicht für Vorfälle und die Aufbewahrung forensischer Aufzeichnungen, um aus Fehlern lernen zu können.
Unternehmen wie Amazon, Google, Meta, Microsoft, OpenAI, Anthropic und Samsung haben sich bereits freiwillig verpflichtet, den US-Behörden neue KI-Tools vor ihrer Veröffentlichung zu zeigen. Diese Verpflichtung ist jedoch rechtlich nicht bindend und deckt keine Modelle ab, die sich noch in der Testphase befinden, wie etwa OpenAIs GPT-5.6 Sol, das in den dieswöchigen Vorfall verwickelt war. Das Gesetz würde nach Angaben der Autoren diese regulatorische Lücke schließen und der Regierung klare Instrumente für ein Eingreifen geben.
Parallel zum Kill-Switch-Vorschlag hat eine überparteiliche Gruppe von sechs Abgeordneten ein separates Gesetz vorgeschlagen, das von den Entwicklungsteams der leistungsstärksten KI-Modelle unabhängige Sicherheitsüberprüfungen verlangen würde. Die Prüfer würden vom US-Handelsministerium akkreditiert und überwacht. Gleichzeitig unterzeichnete eine Gruppe US-amerikanischer Technologiegiganten, darunter Nvidia, Palantir und Meta, am Freitag einen dreiseitigen offenen Brief, in dem sie zu US-Führungsrolle bei der Entwicklung offener KI-Modelle aufrufen und vor der Gefahr 'vorzeitiger Einschränkungen offener Modelle warnen, die den Wettbewerb ersticken oder Innovationen ins Ausland treiben'. Der Brief entstand vor dem Hintergrund von Spekulationen, dass die Trump-Administration möglicherweise genau solche Modelle aus Sicherheitsgründen und aufgrund des wachsenden Einflusses chinesischer KI-Lösungen einschränken könnte.
Der Vorschlag des 'AI Kill Switch Act' kommt zu einem Zeitpunkt, an dem die US-Regierung gleichzeitig den militärischen Einsatz von KI-Technologie beschleunigt und dennoch eine gewisse Kontrolle über den Privatsektor aufrechterhalten will. Das Pentagon gab Anfang des Jahres bekannt, dass sich das US-Militär nach dem Abschluss neuer Verträge mit führenden Unternehmen der Branche schnell in eine 'AI-first Fighting Force' verwandelt. Die Trump-Administration startete 2025 einen 'AI Action Plan' mit dem erklärten Ziel, 'Bürokratie und strenge Regulierungen rund um die KI-Entwicklung abzubauen'. Der Vorschlag des Kill-Switch-Gesetzes stellt daher einen Versuch dar, zwischen diesen beiden Tendenzen zu balancieren: Förderung von Innovationen und Gewährleistung von Mindestsicherheitsgarantien für den Fall eines Kontrollverlusts über das System. Ob das Gesetz den Kongress passieren wird, ist derzeit nicht bekannt.
