Das Anthropic-Labor hat unsichtbare Wasserzeichen in die Claude-Modelle eingeführt und erfüllt damit die Verpflichtungen aus dem EU-KI-Gesetz. Dieser Schritt könnte das Leben von Autoren, die sich beim Schreiben von Büchern, Essays und anderen Inhalten auf KI verlassen, erheblich erschweren.
Das KI-Labor Anthropic gab am Montag bekannt, dass seine Claude-Modelle nun in jeden generierten Text ein unsichtbares Wasserzeichen einbetten. Diese Funktion, die weltweit in Kraft tritt, ist Teil der Verpflichtungen des Unternehmens gegenüber der neuen Verordnung über künstliche Intelligenz der Europäischen Union (EU-KI-Gesetz), die im August 2026 in Kraft getreten ist.
Die neuen Claude-Modelle, die am 2. August oder später veröffentlicht wurden, unterstützen die Kennzeichnung von Anfang an, und das Unternehmen arbeitet daran, diese Funktion auch älteren Versionen hinzuzufügen. Die Wasserzeichen werden als "unmerkbar" (imperceptible watermark) beschrieben, die die Bedeutung oder Lesbarkeit des Textes nicht verändern, aber beim Kopieren und Einfügen erhalten bleiben und "eine gewisse Bearbeitung überstehen können".
Die Technologie funktioniert, indem sie maschinenlesbare Muster in den Text einbettet. Neben dem Text können generierte Bilder und Dateien signierte C2PA-Metadaten über die Herkunft tragen. Anthropic plant außerdem, Dritten Werkzeuge zur Erkennung dieser Kennzeichen zur Verfügung zu stellen.
Dennoch ist das System nicht perfekt. Das Unternehmen warnt, dass umfangreiche Bearbeitung, Paraphrasierung, Übersetzung oder das Mischen von Claudes Text mit menschlichem Schreiben das Wasserzeichen unkenntlich machen kann. Darüber hinaus beweist das Auffinden des Wasserzeichens nicht, dass Claude der ursprüngliche Autor ist, da selbst Lektorat oder Übersetzung mit ihrer künstlichen Intelligenz Spuren hinterlassen kann.
Diese Funktion könnte einen Wendepunkt für die Verlagsbranche darstellen, die bereits mit einer Welle von KI-generierten Inhalten zu kämpfen hat. Im letzten Monat zog eine Agentur die Unterstützung für den beliebten Kriminalroman "Call Me, I'll Hide the Body" zurück, nachdem der Verdacht aufkam, dass der Autor KI verwendet hatte. 14 Verlage hatten auf die Rechte an dem Buch geboten, und der Vertrag war bereits unterzeichnet, bevor sich die Agentur entschuldigte. Der Schriftsteller Jerry Falade bestritt die Verwendung von künstlicher Intelligenz.
Früher in diesem Jahr zog der Verlag Hachette den Horrorroman "Shy Girl" der Schriftstellerin Mia Ballard nach Vorwürfen von KI-generierten Inhalten zurück. Ballard sagte der New York Times, sie habe keine KI verwendet, und fügte hinzu, dass ein freiberuflicher Redakteur KI-generiertes Material ohne ihr direktes Wissen eingebracht habe.
Claudes neues Wasserzeichen könnte Verlagen, Schulen und Universitäten ein zusätzliches Werkzeug zur Untersuchung solcher Fälle geben und es erschweren, KI-generierten Text als eigene Arbeit auszugeben.
Das Anthropic-Labor ist der zweite große Akteur, der die Kennzeichnung von Texten einführt. Google DeepMind kündigte 2024 die Kennzeichnung von Text und Video in der Gemini-App und im Web-Erlebnis mit seiner SynthID-Technologie an, deren Bildversion bereits 2023 veröffentlicht wurde.
In der Zwischenzeit verschiebt Anthropic auch auf anderen Gebieten die Grenzen. Am Sonntag teilten sie auf der Social-Media-Plattform X mit, dass sie eine unveröffentlichte Forschungsversion von Claude an der Riemannschen Vermutung getestet haben. Obwohl das Modell sie nicht löste, erzielte es Fortschritte bei einem verwandten Problem: Es erhöhte die untere Grenze des Anteils der Nullstellen der Riemannschen Zeta-Funktion, die die Vermutung erfüllen, von 41,6 % auf 67,2 %.
