Anthropic kennzeichnet nun die Inhalte, die seine Claude-Modelle produzieren. Seit dem 2. August webt das Unternehmen ein unsichtbares Wasserzeichen in generierten Text ein und fügt unterstützten Bilddateien signierte Metadaten-Etiketten hinzu – ein Vorstoß für mehr Transparenz rund um KI-generierte Inhalte.
So funktioniert das Wasserzeichen
Das Textwasserzeichen ist auf Modellebene eingebettet, nicht als verstecktes Tag oder Metadatenstück. Anthropic sagt, es reise mit kopiertem Text mit und könne einige Bearbeitungen überstehen, was es schwerer macht, es versehentlich zu entfernen. Das Unternehmen hat die vollständigen technischen Details des Mechanismus nicht veröffentlicht und auch noch kein öffentliches Detektor-Tool herausgebracht, obwohl es sagt, dass eines kommen wird.
„Ein Wasserzeichen hilft nur zu testen, ob Claude den Inhalt möglicherweise produziert oder verarbeitet hat“, sagte Anthropic. „Es sagt nichts über Eigentum oder Urheberschaft aus und ändert nichts an den Rechten eines Nutzers.“
C2PA-Etiketten für Bilder und Dateien
Für Dateien wie PNG-, JPG- und SVG-Bilder fügt Claude eine Inhaltsberechtigung hinzu: eine kleine, kryptografisch signierte Notiz in den Metadaten der Datei, die besagt, dass die Datei mit Claude erstellt oder verarbeitet wurde. Das Etikett verwendet den offenen C2PA-Standard, dasselbe System, das Kamerahersteller und Bildbearbeitungssoftware verwenden, um aufzuzeichnen, woher ein Bild stammt. Jedes C2PA-fähige Tool kann es lesen, und die signierte Aufzeichnung macht Manipulationen erkennbar.
Reaktion von Autoren und Entwicklern
Die Einführung hat gemischte Reaktionen hervorgerufen. Anthropic sagt, die Änderung folge seiner Verpflichtung gegenüber dem Verhaltenskodex der Europäischen Kommission zur Transparenz von KI-generierten Inhalten im Rahmen des EU-KI-Gesetzes. Einige Autoren und Entwickler begrüßten die Herkunftsetiketten, lehnten jedoch das versteckte Textwasserzeichen ab und argumentierten, dass es geschriebene Arbeit ohne die klare Zustimmung des Nutzers verändere und dass vorerst nur Anthropic, das die geheimen Schlüssel besitzt, es verifizieren könne. Regulierungsbehörden und Faktenprüfer sehen in den Markierungen unterdessen ein nützliches Werkzeug, um die Herkunft von Inhalten nachzuverfolgen.