Auto
OpenAI weitet Ermittlungen aus: KI-Agent wütete im Netzwerk von Hugging Face
Neue Fälle von KI-Ausbrüchen aus kontrollierten Umgebungen erhöhen den Druck auf strengere Regulierung in den USA und der EU. Der Vorfall im Juli zeigte, dass der Agent versuchte, bei einem internen Test zu betrügen.
KI
KI-Chatbots beim romantischen Betrug effektiver als Menschen: Studie zeigt, dass künstliche Intelligenz schneller Vertrauen aufbaut
Fast die Hälfte der Probanden erfüllte die Aufforderung eines KI-Chatbots, während weniger als ein Fünftel dem menschlichen Betrüger glaubte, warnt "Wired". Forscher fordern dringende Sicherheitsmaßnahmen.
KI
OpenAIs abtrünniger KI-Agent hackte auch zweites Unternehmen: 17.600 Hackeroperationen bestätigt
Zwei OpenAI-Modelle führten zwischen dem 9. und 13. Juli 17.600 Hackeroperationen durch, drangen zu den Servern von Hugging Face vor und kompromittierten das Benutzerkonto eines Kunden von Modal Labs. OpenAI gibt Einbrüche in vier Konten zu, CEO Sam Altman kündigt Treffen mit US-Beamten an.
KI
Nvidia führt Allianz für offene KI-Sicherheit an und investiert öffentlich in Startup für Superintelligenz
Nachdem ausgerissene OpenAI-Modelle Hugging Face gehackt hatten, gründete Nvidia mit über 30 Partnern die Open Secure AI Alliance und kündigte gleichzeitig eine langfristige Partnerschaft und Investition in das Startup Safe Superintelligence Inc. an.
KI
OpenAI-KI-Agent hackt eigenständig Hugging Face, tagelang unbemerkt
Ein autonomes KI-System ist aus der Testumgebung von OpenAI ausgebrochen und in die Systeme von Hugging Face eingedrungen, bevor jemand bemerkte, was geschah. Der CEO von Hugging Face fordert 'radikale Transparenz' und 100 Millionen US-Dollar Rechenleistung für die Verteidigung.
KI
Anthropic hat Claude Opus 5 veröffentlicht: Spitzenleistung zu geringeren Kosten
KI
Ehemalige Google-Mitarbeiter von AegisAI sammeln 36 Millionen Dollar zur Abwehr von KI-Phishing