Deepfake, KI-generiert oder KI-bearbeitet: Was der Unterschied ist
Stand: 5. August 2026
Die Kennzeichnungspflicht nach Artikel 50 Absatz 4 knüpft nicht daran an, ob KI im Spiel war, sondern daran, ob ein Inhalt ein Deepfake ist. Das ist ein Unterschied, der in der Praxis den Ausschlag gibt.
Wie die Verordnung den Begriff fasst
Erwägungsgrund 134 beschreibt die gemeinten Inhalte als Bild-, Audio- oder Videoinhalte, die
- wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln und
- einer Person fälschlicherweise echt oder wahr erscheinen würden.
Artikel 50 Absatz 4 verpflichtet Betreiber solcher Systeme, klar offenzulegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
Text ist davon getrennt geregelt: Für ihn greift die Pflicht nur, wenn er veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren und sie entfällt, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und jemand die redaktionelle Verantwortung trägt.
Beispiele aus offiziellen Quellen
Die folgenden Beispiele stammen nicht von uns, sondern aus den genannten Quellen. Wir geben sie wieder, ohne sie zu bewerten.
Von der EU-Kommission
Zur Kategorie vollständig KI-generiert nennt die Kommission auf ihrer Seite zu den EU-Icons:
- vollständig KI-generierte Deepfake-Videos mit Politikern oder fiktiven Ereignissen
- vollständig KI-komponierte Musik oder Kunst
- KI-generierte Nachrichtenzusammenfassungen
Zur Kategorie teilweise KI-modifiziert:
- Ein Gesicht in einem authentischen Foto wird mit KI durch das Gesicht eines Politikers ersetzt.
- Authentische Fotos einer leeren Wohnung werden mit KI eingerichtet.
Von der IHK Köln
Die IHK Köln nennt als Beispiele für kennzeichnungspflichtige Texte: Nachrichten, politische Informationen, gesellschaftlich relevante Themen sowie manipulative, meinungslenkende Texte.
Als Beispiele für nicht kennzeichnungspflichtige Texte: Produktbeschreibungen, Texte, die durch Rechtschreibkorrektur der KI verbessert wurden, Übersetzungen durch KI sowie Fälle, in denen eine wesentliche Erstellung durch einen Menschen erfolgte.
Zur KI-Interaktion nennt sie als kennzeichnungspflichtig: KI-Chatbot auf der Website, KI-Beantwortung von Fragen per Sprachsystem am Telefon, automatisch KI-generierte E-Mail-Antworten, beratender digitaler Avatar. Als nicht kennzeichnungspflichtig: Fälle, in denen offensichtlich ist, dass mit einer KI kommuniziert wird, sowie die Nutzung einer KI-Anwendung durch einen Kundenberater zur Unterstützung im Gespräch.
Vom Mittelstand-Digital Zentrum Berlin
Das Zentrum schreibt, KI-generierte Bilder dürften zur Dekoration auf einer Website verwendet werden, ohne sie explizit als KI-generiert zu kennzeichnen. Es weist zugleich darauf hin, dass die Ausnahme mehr Bilder betreffe, als man vielleicht denke, und dass ein Bild sichtbar zu kennzeichnen sei, wenn es ein Deepfake im Sinne des AI Act ist.
Zur Definition nennt es zwei Kriterien, die gleichzeitig erfüllt sein müssen, darunter den Realitätsbezug: Der Inhalt ähnelt Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen, die real existieren oder plausibel existieren könnten.
Von Everyblue
Die Agentur schreibt, offensichtlich künstliche Illustrationen, Grafiken oder Comic-Stile müssten in der Regel nicht gekennzeichnet werden. Zu Stockfotos merkt sie an, dass je nach Anbieter nicht immer ersichtlich sei, ob ein Bild mithilfe von KI erstellt oder bearbeitet wurde, und dass sie im Zweifel zur Kennzeichnung raten würde.
Von Prigge Recht
Die Kanzlei weist darauf hin, dass auch synthetische Produktfotos, die reale Waren täuschend echt darstellen, schnell in den Anwendungsbereich geraten können, insbesondere wenn sie einen falschen Eindruck vom tatsächlichen Produkt erwecken. Bei Deepfake-Werbung mit synthetischen Testimonials oder geklonten Stimmen bekannter Personen kämen neben der Kennzeichnungspflicht regelmäßig persönlichkeitsrechtliche Ansprüche hinzu.
Anwendungsbeispiele: die Kriterien durchgespielt
Der folgende Abschnitt wendet die beiden Kriterien aus Erwägungsgrund 134 auf typische Fälle an. Das ist keine rechtliche Bewertung, sondern das Durchspielen der Prüfschritte, nachvollziehbar, damit Sie dieselbe Prüfung an Ihren eigenen Assets vornehmen können. Verbindliche Auslegungen zu diesen Fällen liegen uns nicht vor.
Die zwei Fragen lauten:
- Ähnelt der Inhalt wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich?
- Würde er einer Person fälschlicherweise echt oder wahr erscheinen?
Nur wenn beide mit Ja beantwortet werden, ist die Beschreibung aus Erwägungsgrund 134 erfüllt.
Fall A: Generiertes Hintergrundmuster
Frage 1: Ähnelt es etwas Wirklichem? Nein, es zeigt keine Person, keinen Ort, kein Ereignis.
Ergebnis der Prüfung: Frage 2 stellt sich nicht mehr. Nach den Kriterien aus Erwägungsgrund 134 liegt kein Deepfake vor.
Fall B: Illustration im hauseigenen Stil
[Bild: flächige Illustration, erkennbar gezeichnet]
Frage 1: Sie kann durchaus eine Szene zeigen, die es geben könnte, etwa Menschen in einem Büro.
Frage 2: Würde sie für eine echte Aufnahme gehalten? Bei einer erkennbaren Illustration spricht viel dagegen.
Ergebnis der Prüfung: Das zweite Kriterium ist nach dieser Einschätzung nicht erfüllt. Das Mittelstand-Digital Zentrum Berlin schreibt in dieselbe Richtung, dass KI-generierte Bilder zur Dekoration verwendet werden dürfen, ohne sie explizit zu kennzeichnen, weist aber darauf hin, dass die Ausnahme weniger weit reiche, als man denke.
Fall C: Fotorealistisches Team-Bild mit generierten Personen
[Bild: fotorealistische Büroszene mit Menschen, die nicht existieren]
Frage 1: Es zeigt Menschen in einem Büro. Beides existiert plausibel.
Frage 2: Es sieht aus wie eine Fotografie.
Ergebnis der Prüfung: Beide Kriterien sind nach dieser Einschätzung erfüllt. Dieser Fall entspricht der Beschreibung in Erwägungsgrund 134.
Das ist der häufigste Fall auf Unternehmenswebsites und der, den viele übersehen, weil das Bild aus einer Stockdatenbank stammt und nie als KI-generiert gekennzeichnet war.
Fall D: Echtes Foto, Hintergrund per KI ersetzt
[Bild: Produktfoto vor generiertem Hintergrund]
Hier hilft die Kategorisierung der EU-Kommission weiter. Für ihr Icon „teilweise KI-modifiziert” nennt sie als Beispiel: Authentische Fotos einer leeren Wohnung werden mit KI eingerichtet.
Ergebnis der Prüfung: Die Kommission ordnet vergleichbare Fälle der Kategorie „teilweise KI-modifiziert” zu. Ob im Einzelfall eine Kennzeichnungspflicht nach Artikel 50 Absatz 4 besteht, hängt weiterhin an den beiden Kriterien, ein modifizierter Hintergrund kann täuschungsgeeignet sein oder nicht, je nachdem, was er behauptet.
Fall E: Gesichtstausch
Die Kommission nennt als Beispiel für „teilweise KI-modifiziert” ausdrücklich: Ein Gesicht in einem authentischen Foto wird mit KI durch das Gesicht eines Politikers ersetzt.
Ergebnis der Prüfung: Ein Lehrbuchfall. Prigge Recht weist darauf hin, dass bei Deepfake-Werbung mit synthetischen Testimonials oder geklonten Stimmen bekannter Personen neben der Kennzeichnungspflicht regelmäßig persönlichkeitsrechtliche Ansprüche hinzukommen.
Fall F: Stockfoto ohne Herkunftsangabe
[Bild: generisches Stockfoto]
Der unangenehmste Fall, weil die Ausgangsfrage unbeantwortbar ist. Everyblue schreibt dazu, dass je nach Anbieter nicht immer ersichtlich sei, ob ein Bild mithilfe von KI erstellt oder bearbeitet wurde, und rät im Zweifel zur Kennzeichnung.
Ergebnis der Prüfung: Die Kriterien lassen sich anwenden, fotorealistisch, zeigt Menschen, wirkt echt, aber die Vorfrage, ob überhaupt KI im Spiel war, bleibt offen. Warum das technisch so schwer zu klären ist, steht in Kapitel 7.
Wo die Abgrenzung offen bleibt
Die Wirtschaftskammer Österreich formuliert das Problem deutlich: Der Begriff „täuschend echt” sei rechtlich nicht eindeutig definiert, was zu Unsicherheiten führen könne. Derzeit gebe es keine zentrale Prüfstelle, das Risiko der Fehleinschätzung liege beim Anwender.
Die Kommission hat am 8. Mai 2026 einen Entwurf für Leitlinien zu Artikel 50 veröffentlicht, der laut Berichterstattung unter anderem Anforderungen an klare, verständliche und barrierefreie Hinweise erläutert. Dieser Entwurf ist nach derselben Quelle nicht rechtsverbindlich.
Für Grenzfälle liegt uns damit keine verbindliche Auslegung vor. Wer sich unsicher ist, sollte anwaltlichen Rat einholen.
Dieser Beitrag gibt den Verordnungstext und die Einordnungen der genannten Quellen wieder. Die aufgeführten Beispiele stammen aus diesen Quellen und sind keine eigene rechtliche Bewertung. Er ist keine Rechtsberatung.
Dieser Text wurde mit Unterstützung von KI erstellt und redaktionell geprüft.
Quellen
- Erwägungsgrund 134, AI Act Service Desk der EU-Kommission
- Artikel 50 KI-Verordnung, AI Act Service Desk
- EU-Icons zur Kennzeichnung von KI-generierten Inhalten, EU-Kommission
- Transparenzpflichten nach der KI-Verordnung, IHK Köln
- Leitfaden KI-generierte Inhalte kennzeichnen, Mittelstand-Digital Zentrum Berlin
- KI-Kennzeichnungspflicht auf Websites, Everyblue
- KI-Kennzeichnungspflicht, Prigge Recht
- Kennzeichnungspflicht für KI-Inhalte, Wirtschaftskammer Österreich
- KI-Transparenz, Datenschutz-Generator (zum Leitlinienentwurf vom 8. Mai 2026)
Dieser Text wurde mit Unterstützung von KI erstellt und redaktionell geprüft. 
