OpenAI rollt in den kommenden Wochen ein unsichtbares statistisches Wasserzeichen namens textGrain für ChatGPT und Codex in der EU aus. Die Technik erfüllt die Vorgaben des EU AI Act, lässt sich jedoch durch einfache Wortänderungen oder manuelle Überarbeitungen mit Synonymen relativ leicht umgehen.
Die Umsetzung erfolgt direkt im Rahmen der Transparenzpflichten des EU AI Act, der seit dem 2. August 2026 von Anbietern generativer KI verlangt, maschinell erzeugte Texte maschinenlesbar als solche zu kennzeichnen. Konkret bezieht sich OpenAI auf Artikel 50 der EU-KI-Verordnung.
Technische Funktionsweise von textGrain und regionale Unterschiede beim Rollout
Das von OpenAI entwickelte textGrain-Verfahren greift tief in den Generierungsprozess ein. Sprachmodelle wählen bei der Textausgabe an bestimmten Stellen aus mehreren statistisch passenden Wörtern aus. Das System bevorzugt dabei konsistente Muster, die über einen längeren Textabschnitt hinweg ein maschinell auslesbares Signal ergeben, ohne dass sich die Lesbarkeit oder optische Darstellung ändert. Ein geheimer Schlüssel bestimmt dabei, welches Wort gewählt wird, wenn mehrere Formulierungen gleich gut passen. Es werden keine versteckten Zeichen eingefügt; das Muster entsteht allein durch die Wortwahl.
Für Nutzer in der Europäischen Union wird die Funktion in den kommenden Wochen in allen ChatGPT-Tarifen – einschließlich der kostenlosen Version – automatisch aktiviert. In der Schweiz, die nicht zur EU gehört, bleiben die Texte ohne Wasserzeichen. Außerhalb der EU bleibt das Wasserzeichen vorerst optional, da OpenAI zunächst aus dem praktischen Einsatz lernen möchte. OpenAI plant zudem, die Technologie als Open Source zu veröffentlichen.
Erkennungsraten und die Grenzen bei Textlänge sowie Bearbeitung
In internen Tests zeigt sich die Technologie jedoch anfällig für Textänderungen und verschiedene Inhaltstypen. Bei psychologischen Fachtexten mit einer Länge von 400 Token erkennt der Detektor das Signal bei einer Falsch-Positiv-Rate von einem Prozent in etwa 95 Prozent der Fälle, bei 200 Token sinkt die Quote auf rund 80 Prozent. Bei mathematischen Inhalten, bei denen die Wortwahl von vornherein stark eingeschränkt ist, fallen die Raten deutlich niedriger
aus; hier liegt die Erkennungsrate bei 400 Token bei nur etwa 60 Prozent.
Noch stärker wirkt sich eine manuelle Nachbearbeitung aus. OpenAI dokumentiert hierfür folgende Werte für Passagen mit 400 Token:
- Keine Bearbeitung: Die Erkennungsrate liegt bei etwa 92 Prozent.
- 10 Prozent Synonymtausch: Die Erkennungsquote sinkt auf rund 66 Prozent.
- 25 Prozent Synonymtausch: Die Erkennung bricht auf nur noch etwa 17 Prozent ein.
Bereits ein geringfügiges Umformulieren durch Menschen oder der Einsatz eines zweiten Werkzeugs reicht demnach aus, um das statistische Muster weitgehend zu verwischen. Auch Übersetzungen oder sehr kurze Texte können die Erkennung erschweren.
Wettbewerb und alternative Ansätze: Anthropic und Google
Im Vergleich dazu ist Anthropic bereits weiter fortgeschritten. Das Unternehmen markiert alle Texte seiner Claude-Produkte weltweit, einschließlich der Chat-App, der API und von Claude Code. Dies gilt auch bei Cloud-Partnern wie AWS, Google Cloud und Microsoft. Technisch nutzt Anthropic eine Variante von SynthID-Text von Google DeepMind, die ebenfalls Signale in der Wahl zwischen gleichwertigen Synonymen versteckt. Während OpenAI detaillierte Erkennungsraten nennt, beschreibt Anthropic das eigene System als sehr robust gegenüber Änderungen. Für Dateien wie Bilder setzt Anthropic zusätzlich auf C2PA-Metadaten, für die ein kostenloser Content Checker existiert.
Eingeschränkter Detektor-Zugang und offene Fragen zur Textqualität
Um Fehldeutungen und Kontroversen vorzubeugen, hält OpenAI das Prüfprogramm vorerst unter Verschluss. Der Detektor wird nach einer Einzelfallprüfung lediglich an ausgewählte Forscher und Fachorganisationen vergeben. Eine weltweite oder öffentliche Freigabe existiert zum Start nicht, da das Tool für die breite Öffentlichkeit noch zu fehleranfällig sei. Das Unternehmen begründet diesen Schritt mit dem Risiko von Fehlalarmen und kündigt an, den Zugang zu erweitern, wenn wir glauben, dass die Ergebnisse verantwortungsvoll interpretiert werden können
.
„Das Fehlen eines erkannten Wasserzeichens beweist keine menschliche Urheberschaft.“
OpenAI, Stellungnahme zum textGrain-Verfahren
Zudem betonen die Entwickler, dass ein erkennbares Wasserzeichen weder Rückschlüsse auf den konkreten Nutzer, das Konto, die Eingabe oder die Unterhaltung zulässt, noch über die inhaltliche Richtigkeit oder die Urheberschaft des Textes Auskunft gibt. Es zeigt nicht an, wie viel des fertigen Textes von einem Menschen geschrieben oder bearbeitet wurde. Das Werkzeug erkennt zudem ausschließlich Texte aus OpenAI-Modellen; Inhalte anderer KI-Modelle werden nicht identifiziert.
Trotz dieser Maßnahmen gibt es Kritik in Foren und Kommentarspalten. Nutzer befürchten, dass Texte für Bewerbungen, Hausarbeiten oder Business-Kontexte unattraktiv werden könnten, da bereits eine geringe statistische Erkennungswahrscheinlichkeit ausreichen könnte, um Texte in Schule, Job oder Universität unter Generalverdacht zu stellen.
Weiterlesen
