EU AI Act

Woran man Inhalte von Claude, Gemini und ChatGPT erkennt

Wenn im Unternehmen KI-generierte Texte, Grafiken oder Videos verarbeitet werden, taucht schnell die Frage auf: „Können wir – oder ein Prüfer – im Nachhinein feststellen, ob diese Datei von einer KI stammt?” Die kurze Antwort: Ja, aber nicht lückenlos.

Das Drei-Ebenen-Modell der Kennzeichnung

Um zu verstehen, wo Signale herkommen und wo sie verloren gehen, hilft die Unterscheidung in drei Ebenen:

1. Sichtbar: Badges, Logos und Text-Hinweise direkt im Bild oder auf der Website – die Ebene, die Besucher unmittelbar wahrnehmen.
2. Metadaten: kryptografische Zertifikate und Header (C2PA, XMP, IPTC), eingebettet in die Datei. Maschinenlesbar, signiert – aber entfernbar. Was dahinter steckt, erklärt das Kapitel zu C2PA und Content Credentials.
3. Signal: unsichtbare statistische Muster direkt in den Pixeln, im Audiosignal oder in der Wortwahl von Texten (SynthID, Token-Bias).

Die Systeme der großen Anbieter

Anthropic (Claude)

Nach übereinstimmenden Branchenberichten hat Anthropic zum Art.-50-Stichtag ein zweistufiges System für neue Modelle ausgerollt, das weltweit gilt – eine offizielle technische Dokumentation von Anthropic stand bei Redaktionsschluss noch aus:

• Text-Wasserzeichen (Token-Bias): Bei der Generierung wird die Wahl nahezu gleichwertiger Wörter unmerklich statistisch verschoben. Das Muster übersteht Copy-Paste und Formatwechsel, schwächt sich bei starkem Umschreiben oder Übersetzen aber ab.
• C2PA für Mediendateien: Von Claude erzeugte Grafiken (.svg, .png, .jpg) tragen digital signierte C2PA-Metadaten.
• Grenzen: Sehr kurze Passagen liefern zu wenige Datenpunkte. Und ein erkanntes Signal belegt nur die Mitwirkung des Modells – etwa beim Lektorat –, nicht die alleinige Urheberschaft.

Google (SynthID und Gemini)

Google betreibt mit SynthID das am weitesten verbreitete Wasserzeichen-System für Bild, Audio, Video und Text – über hundert Milliarden markierte Inhalte.

• Funktionsweise: Das Wasserzeichen wird direkt in die Rohdaten eingewebt (Pixel, Frequenzspektren), ohne die Qualität wahrnehmbar zu verändern.
• Prüfung: Mediendateien lassen sich über den SynthID Detector oder direkt in Gemini prüfen. Text-Wasserzeichen kann nur Google selbst lesen – es gibt kein öffentliches Werkzeug dafür.
• Praxis-Problem: Unabhängige Tests dokumentierten Falsch-Positive und Falsch-Negative, und für Bilder existieren Open-Source-Werkzeuge, die das Rauschmuster gezielt stören.

OpenAI (ChatGPT, DALL·E, Sora)

OpenAI sitzt im Steering Committee der C2PA-Initiative und setzt primär auf kryptografische Metadaten.

• Content Credentials: DALL·E 3, ImageGen und Sora betten beim Export standardmäßig C2PA-Metadaten ein.
• Ergänzende Wasserzeichen: Weil Metadaten beim Upload auf vielen Plattformen entfernt werden, nutzt OpenAI bei ausgewählten Medien zusätzlich die von Google lizenzierte SynthID-Technik.
• Praxis-Herausforderung: Untersuchungen fanden Exporte ohne C2PA-Header, obwohl sie welche tragen sollten – die Abdeckung ist in der Praxis nicht garantiert.

Was die Fachwelt einwendet

Drei wiederkehrende Einwände aus Entwickler- und Compliance-Diskussionen – sinngemäß zusammengefasst, weil sie die Praxis-Probleme präzise treffen:

• Der Entwickler-Einwand: Code-Formatierer, Linter und Compiler tilgen die feinen Token-Muster in Sekunden. Wer generierten Quellcode lokal aufräumt, hat das Wasserzeichen entfernt – ohne es zu wollen.
• Das Compliance-Dilemma: Ein Algorithmus meldet „80 % KI”, der Mitarbeiter schwört das Gegenteil. Ein statistischer Wert trägt keine Abmahnung und keine Abnahme – Prüfer brauchen Dokumentation, keine Vermutungen.
• Die Marketing-Ernüchterung: Dasselbe Bild, zwei C2PA-Checker, zwei Ergebnisse – nach dem WebP-Export im CMS war die Historie weg. Automatische Erkennung allein ist Lotterie.

Warum Metadaten unterwegs verschwinden

In gängigen Publishing-Workflows gehen die Signaturen Schritt für Schritt verloren:

Was das für Website-Betreiber bedeutet

1. Kein Signal ist keine Entwarnung. Findet ein Parser keine C2PA-Daten, beweist das nicht menschliche Urheberschaft – die Signatur kann schlicht unterwegs verloren gegangen sein.
2. Die Pflicht hängt nicht am Wasserzeichen. Die Verantwortung zur Kennzeichnung liegt beim Betreiber der Website – unabhängig davon, ob das KI-Werkzeug eine funktionierende Signatur mitgeliefert hat.
3. Ein eigenes Inventar ist unverzichtbar. Verlassen Sie sich nicht darauf, dass Ihr System KI-Medien „erkennt”. Die klare Zuordnung im Redaktionsprozess ist der einzige Nachweis, der trägt – und die Basis für eine belegte KI-Transparenzseite.

Dieser Beitrag gibt den Verordnungstext und benannte Quellen wieder. Er ist keine Rechtsberatung und ersetzt im Einzelfall keine anwaltliche Prüfung.

Angaben zur Rechtslage, zu deren Auslegung sowie zu Funktionen, Oberflächen und Schnittstellen fremder Systeme geben den Stand zum oben genannten Datum wieder. Beides kann sich jederzeit und ohne Ankündigung ändern. Für Aktualität, Richtigkeit und Vollständigkeit übernehmen wir keine Gewähr; eine Haftung für Schäden aus der Nutzung dieser Inhalte, der beschriebenen Anleitungen oder der Code-Beispiele ist ausgeschlossen, soweit gesetzlich zulässig. Genannte Produkt- und Firmennamen gehören ihren jeweiligen Inhabern; eine Verbindung zu ihnen besteht nicht.

Dieser Text wurde mit Unterstützung von KI erstellt und redaktionell geprüft.

Link kopieren