OpenAI führt in den kommenden Wochen in der Europäischen Union unsichtbare Wasserzeichen für ChatGPT und Codex ein. Die unter dem Namen textGrain entwickelte Technik versieht maschinell generierte Texte mit einem statistischen Muster, um den Vorgaben des EU AI-Acts zur Kennzeichnungspflicht zu entsprechen.
textGrain und die statistische Veränderung der Wortwahl
Das neue Verfahren greift direkt in den Entstehungsprozess von KI-Inhalten ein, ohne sichtbare Zeichen wie Leerzeichen oder Sonderzeichen im Text zu hinterlassen. Bei der Texterzeugung kann die KI in den sprachlichen Freiräumen unauffällig gesteuert werden, da es häufig mehrere Formulierungen für denselben Inhalt gibt. So entsteht ein unsichtbares statistisches Muster in der Wortwahl des Modells, das für Leserinnen und Leser nicht sichtbar ist und die normale Lektüre nicht beeinträchtigt.
Auf diese Weise entsteht ein unsichtbares statistisches Muster im Text. Wie ein gezinkter Würfel manipuliert das System die Wortwahl, ohne dass der eigentliche Sinn oder Lesefluss für den Menschen verändert wird. Das Prüfprogramm nutzt einen geheimen Schlüssel, um dieses Muster später zu identifizieren.
EU-Vorgaben als Auslöser für den regionalen Start
Die Einführung in der Europäischen Union ist eine direkte Reaktion auf rechtliche Vorgaben. Die Transparenzregeln unter Artikel 50 des EU AI-Acts begannen im August anzuwenden. Seit Anfang August gilt ein neues Gesetz des EU AI-Acts, das von Maschinen lesbare Kennzeichnungen für KI-generierte Inhalte fordert.
Das Unternehmen plant, die Funktion schrittweise im Laufe der kommenden Wochen auszurollen, wobei der EU-Start als realer Test für die Technologie dienen soll.
ChatGPT: OpenAI führt Wasserzeichen für Text in der EU einhttps://t.co/E0PccctPOj
— https://x.com/deskmodder/status/2107459951023309256
Einschränkungen der Erkennung und veränderte Texte
Die technische Erkennung der Wasserzeichen weist klare Grenzen auf, wie interne Tests von OpenAI belegen. So spielt die Textlänge eine entscheidende Rolle für die Zuverlässigkeit des Prüfprogramms; erst ab einer Länge von etwa 200 bis 300 Wörtern funktioniert das Verstecken und Erkennen gut. Kürzere Abschnitte lassen sich schwerer zuverlässig untersuchen.
Zudem kann die nachträgliche Bearbeitung den statistischen Signalwert erheblich schwächen. In einem Test mit 400 Token langen englischen Passagen sank die Erkennungsrate von ungefähr 92 Prozent auf 17 Prozent, als 25 Prozent der Wörter durch Synonyme ersetzt wurden. Eine positive Erkennung liefert zudem keine hundertprozentige Sicherheit, da Detektoren Fehler machen können und die Markierung auch dann erhalten bleiben kann, wenn ein Mensch den Text im Anschluss überarbeitet hat.
Zugang zum Detektor für Forschung und Experten
Ein öffentliches Prüfwerkzeug für Endverbraucher steht zum Start nicht zur Verfügung. OpenAI stellt das Programm vorerst nur zugelassenen Forschern und Fachorganisationen auf Antrag zur Verfügung, um die Technologie in der Praxis zu testen.
Detektoren können zwei Arten von Fehlern machen: Sie können ein Wasserzeichen melden, wo keines vorhanden ist – ein falsches Positives –, oder ein vorhandenes Wasserzeichen übersehen – ein falsches Negatives.
OpenAI, via Android Authority
Fachleute wie Waldemar Berchtold, Gruppenleiter für Multimedia Sicherheit am Fraunhofer Institut für Sichere Informationstechnologie in Darmstadt, weisen zudem darauf hin, dass die Erkennung eines Wasserzeichens keinen Rückschluss auf den genauen Grad der menschlichen Mitarbeit oder die inhaltliche Richtigkeit zulässt.
