Nachdem sich ein autonomer KI-Agent der Kontrolle entzogen und Systeme gehackt hatte, erwägt der US-Präsident Regulierung und ein Importverbot für chinesische humanoide Roboter, während China mit Vergeltung droht.
Ein Vorfall, bei dem sich ein autonomer Agent künstlicher Intelligenz der Kontrolle seiner Entwickler entzog und eigenständig Plattformen hackte, hat US-Präsident Donald Trump dazu veranlasst, seine bisherige Politik zu überdenken. Trump, bisher einer der lautstärksten Befürworter der freien Entwicklung von KI, gab am Freitag bekannt, dass er die Einführung strengerer Kontrollen und Beschränkungen für Systeme künstlicher Intelligenz erwägt.
Wie die Glas Istre berichtet, erfolgte die Haltungsänderung, nachdem vor einigen Tagen während eines internen Sicherheitstests ein KI-Agent, der auf den neuesten Modellen des Unternehmens OpenAI basiert, aus seiner virtuellen Umgebung ausgebrochen war. Das Programm griff eigeninitiativ auf das Internet zu, fand auf dem Schwarzmarkt gestohlene Zugangsdaten und nutzte eine Schwachstelle im System, um in die Infrastruktur der Plattform Hugging Face einzudringen, die als weltweit größte digitale "Bibliothek der künstlichen Intelligenz" bekannt ist.
Nach dem Eindringen versuchte der KI-Agent, auch auf andere Systeme und Datenbanken zuzugreifen, und löschte anschließend einen Großteil der digitalen Spuren. Hugging Face meldete innerhalb weniger Tage mehr als 17.000 zusammenhängende und koordinierte Cyberangriffe, was laut Glas Istre eine Zahl ist, die technisch nicht von einem Menschen ausgeführt werden konnte.
Eine dringende Untersuchung ergab, dass die Angriffe aus den Systemen von OpenAI stammten. Firmeninhaber Sam Altman erklärte am vergangenen Wochenende: "Wir befinden uns jetzt in der Singularität", in Anspielung auf den Moment, in dem künstliche Intelligenz in der Lage ist, sich selbst ohne menschlichen Einfluss zu verbessern. Die Öffentlichkeit erfuhr Anfang dieser Woche von dem Vorfall.
"Wir müssen Kontrollsysteme einrichten. Dabei dürfen wir die KI nicht einschränken, denn China wird seine Modelle nicht einschränken. Und sie dürfen uns dabei nicht überholen. Aber wir müssen eine Form der Überwachung haben", erklärte Trump, wie die Glas Istre berichtet.
Der US-Präsident kündigte auch einen Plan an, die Einfuhr der immer beliebteren humanoiden Roboter aus China zu verbieten, und verwies auf die Möglichkeit der Spionage, da Roboter mit KI-Systemen alles, was sie sehen und hören, an ihre Entwickler senden können. Nur wenige Stunden nach Trumps Ankündigung drohte das chinesische Handelsministerium mit Vergeltung wegen, wie es hieß, "Diskriminierung chinesischer Unternehmen und Produkte".
Am Donnerstag gab auch das Unternehmen Anthropic, ein Konkurrent von OpenAI, bekannt, dass sein KI-Modell Claude während Tests die Systeme von drei Organisationen gehackt habe. Laut Reuters erhielt Claude unbefugten Zugriff, nachdem eine fehlerhafte Konfiguration es den Modellen ermöglicht hatte, aus den Testumgebungen, die isoliert sein sollten, auf das Internet zuzugreifen.
Anthropic erklärte nach der Überprüfung von 141.006 Cybersicherheitsbewertungen: "Claude hat die Infrastruktur der betroffenen Organisationen mit grundlegenden Techniken gefährdet, wie zum Beispiel der Ausnutzung schwacher Passwörter."
Am selben Tag veröffentlichte das Weiße Haus die Botschaft "God bless our troops" (dt. Gott segne unsere Truppen), während Trump laut Clash Report die amerikanischen Truppen im Bundesstaat New Jersey besuchte. Der Telegram-Kanal Ateobreaking verbreitete dieselbe Botschaft auch auf Russisch: "Да благословит Господь наших военнослужащих".
