Eine Frau aus Wyoming behauptet, ihr Stiefvater habe den KI-Chatbot genutzt, um über 7.000 gefälschte sexuell explizite Fotos zu erstellen, der Fall umfasst nun eine Sammelklage für Tausende Minderjährige.
Eine vierte Person hat sich dem Rechtsverfahren gegen das Unternehmen xAI angeschlossen und behauptet, dass deren KI-Chatbot Grok verwendet wurde, um Material zum sexuellen Missbrauch von Kindern (CSAM) auf der Grundlage ihrer Kindheitsfotos zu erstellen. Die Frau aus Wyoming, in der Klage als Jane Doe 4 bezeichnet, erklärte, ihr Stiefvater habe Grok genutzt, um "Tausende sexuell explizite Fotos, auf denen sie als Kind zu sehen ist, zu erstellen und diese über das Internet zu verbreiten", berichtet die Washington Post, wie auch Klix.ba übernahm.
Laut Klage erstellte der Stiefvater über 7.000 "gefälschte explizite Fotos von ihr unter Verwendung des KI-Chatbots Grok". Darunter befindet sich auch ein Foto, das aufgenommen wurde, als sie 11 Jahre alt war und in ein sexuell explizites Bild umgewandelt wurde. Nachdem staatliche und lokale Strafverfolgungsbehörden die elektronischen Geräte ihres Stiefvaters wegen CSAM durchsucht hatten, wurde er zwei Tage später tot in seinem Auto aufgefunden; es wurde festgestellt, dass er Selbstmord begangen hatte.
Jane Doe 4 schloss sich drei Teenagern aus Tennessee an, die die ursprüngliche Klage eingereicht hatten, in der behauptet wird, Grok sei verwendet worden, um sexuell explizite Deepfake-Fotos von ihnen zu erstellen. Die Sammelklage behauptet nun, sie könnte "mindestens Tausende Minderjährige" umfassen.
Neben dieser Klage stehen xAI und Grok im Zentrum zahlreicher Ermittlungen im Zusammenhang mit CSAM. Im Januar 2026 leitete der kalifornische Generalstaatsanwalt Rob Bonta eine Untersuchung gegen xAI ein und beschuldigte das Unternehmen, nicht autorisierte Deepfake-Nacktfotos von Frauen und Kindern zu generieren. Später in diesem Monat leitete auch die Europäische Union eine eigene Untersuchung gegen die Plattform X ein, um festzustellen, ob ausreichende Maßnahmen zur Verhinderung der Verbreitung von KI-generiertem CSAM vorhanden sind.
Zum Zeitpunkt der Veröffentlichung hat xAI nicht auf eine Anfrage um Stellungnahme zur jüngsten Erweiterung der Klage reagiert.
