EU AI Act

Deepfake, KI-generiert oder KI-bearbeitet: Was der Unterschied ist

Person vor blauem Himmel und Sonnenblumen, über dem Gesicht ein weißes Drahtgitter wie bei einer Gesichtsvermessung
Das Wichtigste in Kürze
  • Entscheidend ist nicht, ob KI im Spiel war, sondern ob der Inhalt die Merkmale eines Deepfakes erfüllt.
  • Zwei Fragen entscheiden: Ähnelt er realen Personen, Orten oder Ereignissen? Und wirkt er wie eine echte Aufnahme?
  • Übliche Bildbearbeitung – Beleuchtung, Rauschen, Retusche – macht aus einem Foto keinen Deepfake.
  • Sechs durchgespielte Fälle zeigen, wo die Grenze in der Praxis verläuft.

Entscheidend für die Pflicht aus Artikel 50 Absatz 4 der KI-Verordnung ist nicht, ob ein Inhalt mit KI entstanden ist, sondern ob er die Merkmale eines Deepfakes erfüllt. Ein KI-erzeugtes Bild kann kennzeichnungsfrei bleiben, ein geringfügig bearbeitetes Foto kennzeichnungspflichtig werden. Welche Merkmale das sind, entscheidet deshalb über jeden Einzelfall.

Wie die Verordnung den Begriff fasst

Was ist ein Erwägungsgrund?

EU-Verordnungen bestehen aus zwei Teilen: den Artikeln, die das eigentliche Gesetz sind, und den davor stehenden Erwägungsgründen, die erklären, was damit gemeint ist. Erwägungsgründe sind nicht selbst verbindlich, werden aber zur Auslegung herangezogen – Gerichte und Behörden lesen sie mit.

Für den Deepfake-Begriff ist das entscheidend, weil Artikel 50 den Begriff nur benutzt. Beschrieben wird er in Erwägungsgrund 134.

Erwägungsgrund 134 beschreibt die gemeinten Inhalte als Bild-, Audio- oder Videoinhalte, die

Artikel 50 Absatz 4 verpflichtet Betreiber solcher Systeme, klar offenzulegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

Text ist davon getrennt geregelt: Für ihn greift die Pflicht nur, wenn er veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren und sie entfällt, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und jemand die redaktionelle Verantwortung trägt.

Beispiele aus offiziellen Quellen

Die folgenden Beispiele stammen nicht von uns, sondern aus den genannten Quellen. Wir geben sie wieder, ohne sie zu bewerten.

Von der EU-Kommission

Zur Kategorie vollständig KI-generiert nennt die Kommission auf ihrer Seite zu den EU-Icons:

Zur Kategorie teilweise KI-modifiziert:

Von der IHK Köln

Die IHK Köln nennt als Beispiele für kennzeichnungspflichtige Texte: Nachrichten, politische Informationen, gesellschaftlich relevante Themen sowie manipulative, meinungslenkende Texte.

Als Beispiele für nicht kennzeichnungspflichtige Texte: Produktbeschreibungen, Texte, die durch Rechtschreibkorrektur der KI verbessert wurden, Übersetzungen durch KI sowie Fälle, in denen eine wesentliche Erstellung durch einen Menschen erfolgte.

Zur KI-Interaktion nennt sie als kennzeichnungspflichtig: KI-Chatbot auf der Website, KI-Beantwortung von Fragen per Sprachsystem am Telefon, automatisch KI-generierte E-Mail-Antworten, beratender digitaler Avatar. Als nicht kennzeichnungspflichtig: Fälle, in denen offensichtlich ist, dass mit einer KI kommuniziert wird, sowie die Nutzung einer KI-Anwendung durch einen Kundenberater zur Unterstützung im Gespräch.

Vom Mittelstand-Digital Zentrum Berlin

Das Zentrum schreibt, KI-generierte Bilder dürften zur Dekoration auf einer Website verwendet werden, ohne sie explizit als KI-generiert zu kennzeichnen. Es weist zugleich darauf hin, dass die Ausnahme mehr Bilder betreffe, als man vielleicht denke, und dass ein Bild sichtbar zu kennzeichnen sei, wenn es ein Deepfake im Sinne des AI Act ist.

Zur Definition nennt es zwei Kriterien, die gleichzeitig erfüllt sein müssen, darunter den Realitätsbezug: Der Inhalt ähnelt Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen, die real existieren oder plausibel existieren könnten.

Zwei wiederkehrende Praxisfälle

Offensichtlich künstliche Darstellungen. Illustrationen, Grafiken und Comic-Stile, die niemand für eine Aufnahme hält, fallen in aller Regel schon an der Echtheitsfrage aus der Pflicht – sie ähneln keiner realen Person und erwecken nicht den Eindruck einer Aufnahme. Maßgeblich ist der Eindruck beim Betrachter, nicht das eingesetzte Werkzeug.

Stockfotos. Hier liegt das Problem eine Ebene früher: Ob ein Bild mit KI erzeugt oder bearbeitet wurde, weisen längst nicht alle Anbieter durchgängig aus. Wo sich das nicht klären lässt, ist die vorsichtige Einstufung die tragfähigere – siehe den Fall weiter unten und C2PA und Content Credentials.

Von Prigge Recht

Die Kanzlei weist darauf hin, dass auch synthetische Produktfotos, die reale Waren täuschend echt darstellen, schnell in den Anwendungsbereich geraten können, insbesondere wenn sie einen falschen Eindruck vom tatsächlichen Produkt erwecken. Bei Deepfake-Werbung mit synthetischen Testimonials oder geklonten Stimmen bekannter Personen kämen neben der Kennzeichnungspflicht regelmäßig persönlichkeitsrechtliche Ansprüche hinzu.

Anwendungsbeispiele: die Kriterien durchgespielt

Der folgende Abschnitt wendet die beiden Kriterien aus Erwägungsgrund 134 auf typische Fälle an. Das ist keine rechtliche Bewertung, sondern das Durchspielen der Prüfschritte, nachvollziehbar, damit Sie dieselbe Prüfung an Ihren eigenen Assets vornehmen können. Verbindliche Auslegungen zu diesen Fällen liegen uns nicht vor.

Die zwei Fragen lauten:

  1. Ähnelt der Inhalt wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich?
  2. Würde er einer Person fälschlicherweise echt oder wahr erscheinen?

Nur wenn beide mit Ja beantwortet werden, ist die Beschreibung aus Erwägungsgrund 134 erfüllt.


Fall A: Generiertes Hintergrundmuster

Weicher Farbverlauf in Blau und Gelb, gegenstandslos – keine Person, kein Ort, kein Ereignis
Beispielhafte Darstellung: ein abstraktes Muster – keine Person, kein Ort, kein Ereignis

Frage 1: Ähnelt es etwas Wirklichem? Nein, es zeigt keine Person, keinen Ort, kein Ereignis.

Ergebnis der Prüfung: Frage 2 stellt sich nicht mehr. Nach den Kriterien aus Erwägungsgrund 134 liegt kein Deepfake vor.


Fall B: Illustration im hauseigenen Stil

Gezeichnete Illustration: fünf Personen an einem Besprechungstisch, flächige Formen und offene Konturen
Beispielhafte Darstellung: eine erkennbar gezeichnete Illustration – die Szene wäre denkbar, die Machart ist es nicht

Frage 1: Ähnelt sie etwas Wirklichem? Sie kann durchaus eine Szene zeigen, die es geben könnte, etwa Menschen in einem Büro.

Frage 2: Würde sie für eine echte Aufnahme gehalten? Bei einer erkennbaren Illustration spricht viel dagegen.

Ergebnis der Prüfung: Das zweite Kriterium ist nach dieser Einschätzung nicht erfüllt. Das Mittelstand-Digital Zentrum Berlin schreibt in dieselbe Richtung, dass KI-generierte Bilder zur Dekoration verwendet werden dürfen, ohne sie explizit zu kennzeichnen, weist aber darauf hin, dass die Ausnahme weniger weit reiche, als man denke.


Fall C: Fotorealistisches Team-Bild mit generierten Personen

Fotorealistische Büroszene: ein Mann am Schreibtisch, davor Sonnenblumen, im Hintergrund weitere Arbeitsplätze
Beispielhafte Darstellung: wirkt wie eine Fotografie – die gezeigten Personen existieren nicht

Frage 1: Ähnelt es etwas Wirklichem? Es zeigt Menschen in einem Büro, beides existiert plausibel.

Frage 2: Würde es für eine echte Aufnahme gehalten? Es sieht aus wie eine Fotografie.

Ergebnis der Prüfung: Beide Kriterien sind nach dieser Einschätzung erfüllt. Dieser Fall entspricht der Beschreibung in Erwägungsgrund 134.

Das ist der häufigste Fall auf Unternehmenswebsites und der, den viele übersehen, weil das Bild aus einer Stockdatenbank stammt und nie als KI-generiert gekennzeichnet war.


Fall D: Echtes Foto, Hintergrund per KI ersetzt

Heller, hoher Altbauraum mit Sofas, Teppich und Sonnenblumen auf dem Tisch
Beispielhafte Darstellung: ein eingerichteter Raum – genau der Fall, den die Kommission als „teilweise KI-modifiziert" nennt

Hier hilft die Kategorisierung der EU-Kommission weiter. Für ihr Icon „teilweise KI-modifiziert” nennt sie als Beispiel: Authentische Fotos einer leeren Wohnung werden mit KI eingerichtet.

Ergebnis der Prüfung: Die Kommission ordnet vergleichbare Fälle der Kategorie „teilweise KI-modifiziert” zu. Ob im Einzelfall eine Kennzeichnungspflicht nach Artikel 50 Absatz 4 besteht, hängt weiterhin an den beiden Kriterien, ein modifizierter Hintergrund kann täuschungsgeeignet sein oder nicht, je nachdem, was er behauptet.


Fall E: Gesichtstausch

Schema-Grafik: In einem echten Foto wird das Gesicht durch ein KI-generiertes ersetzt
Schema-Grafik, kein reales Beispiel

Die Kommission nennt als Beispiel für „teilweise KI-modifiziert” ausdrücklich: Ein Gesicht in einem authentischen Foto wird mit KI durch das Gesicht eines Politikers ersetzt.

Ergebnis der Prüfung: Ein Lehrbuchfall. Prigge Recht weist darauf hin, dass bei Deepfake-Werbung mit synthetischen Testimonials oder geklonten Stimmen bekannter Personen neben der Kennzeichnungspflicht regelmäßig persönlichkeitsrechtliche Ansprüche hinzukommen.


Fall F: Stockfoto ohne Herkunftsangabe

Junge Frau in einem Sonnenblumenfeld, im Gegenlicht aufgenommen – ein typisches Stockfoto-Motiv
Beispielhafte Darstellung: ein Stockfoto, wie es tausendfach verwendet wird – ob KI im Spiel war, steht nirgends

Der unangenehmste Fall, weil die Ausgangsfrage unbeantwortbar ist: Ob ein Stockbild mit KI erzeugt oder bearbeitet wurde, weisen längst nicht alle Anbieter durchgängig aus.

Ergebnis der Prüfung: Die Kriterien lassen sich anwenden, fotorealistisch, zeigt Menschen, wirkt echt, aber die Vorfrage, ob überhaupt KI im Spiel war, bleibt offen. Warum das technisch so schwer zu klären ist, steht in C2PA und Content Credentials.


Wo die Abgrenzung offen bleibt

Das Kernproblem steht im Verordnungstext selbst: Wann ein Inhalt „fälschlicherweise als echt oder wahrheitsgetreu” erscheint, wird nirgends weiter bestimmt. Es gibt keinen Schwellenwert, keine Beispielliste, keine technische Definition – die Einschätzung liegt beim Betreiber.

Eine Instanz, die diese Einschätzung vorab bestätigt, existiert nicht. In Deutschland ist mit dem Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) die Bundesnetzagentur als zentrale Marktüberwachungsbehörde und Beschwerdestelle benannt. Sie beaufsichtigt, prüft Beschwerden und kann Maßnahmen ergreifen – ein Genehmigungs- oder Zertifizierungsverfahren für die Transparenzpflichten nach Artikel 50 sieht die Verordnung dagegen nicht vor. Wer einstuft, trägt das Risiko der Fehleinschätzung also selbst.

Die Kommission hat am 8. Mai 2026 einen Entwurf für Leitlinien zu Artikel 50 veröffentlicht, der unter anderem Anforderungen an klare, verständliche und barrierefreie Hinweise erläutert. Dieser Entwurf ist nicht rechtsverbindlich.

Für Grenzfälle liegt uns damit keine verbindliche Auslegung vor. Wer sich unsicher ist, sollte im Zweifel anwaltlichen Rat einholen.

Wie die wirklich.ai App dieses Risiko auf Websites minimiert

Da es keine Behörde gibt, die eine Einstufung vorab freigibt, kommt es im Ernstfall darauf an, dass Sie Ihre Sorgfalt und organisatorischen Maßnahmen nachweisen können (siehe Dokumentation und Nachweis). Genau an dieser Schnittstelle setzt die wirklich.ai App für Websites an:

Die Basisnutzung der wirklich.ai App ist für Website-Betreiber dauerhaft kostenlos.

Selbst durchspielen

Derselbe Prüfweg als Klickstrecke – jede Frage mit ihrer Fundstelle. Nichts wird übertragen oder gespeichert.

Frage 1

Haben Sie Inhalte, bei denen KI im Spiel war – beim Erzeugen oder beim Bearbeiten?

Gemeint ist jedes Bild, Video oder Audio, an dem ein KI-Werkzeug beteiligt war – ob beim Erzeugen aus Text-Prompts oder bei der nachträglichen Bearbeitung.

Grundlage: Artikel 50 Absatz 4

Häufige Fragen

Ist jedes KI-generierte Bild ein Deepfake?

Nein. Ein Deepfake im Sinne der Verordnung muss wirklichen Personen, Gegenständen, Orten oder Ereignissen merklich ähneln und für echt gehalten werden können. Eine erkennbare Illustration erfüllt das nicht, auch wenn sie vollständig mit KI entstanden ist.

Muss ich ein Foto kennzeichnen, das ich nur mit KI nachbearbeitet habe?

Übliche Bildbearbeitung führt nicht zur Kennzeichnungspflicht. Beleuchtung anpassen, Rauschen entfernen, Falten glätten oder retuschieren bleibt unproblematisch. Anders liegt es, wenn die Bearbeitung die Aussage des Bildes verändert – etwa bei einem ausgetauschten Gesicht.

Was gilt für fotorealistische Personen, die es gar nicht gibt?

Sie fallen in der Regel darunter. Maßgeblich ist nicht, ob eine bestimmte reale Person abgebildet ist, sondern ob der Inhalt Personen oder Situationen zeigt, die plausibel existieren könnten, und ob er wie eine echte Aufnahme wirkt. Das trifft auf ein generiertes Teamfoto zu.

Was mache ich bei Stockfotos, wenn die Herkunft unklar ist?

Nicht alle Anbieter weisen durchgängig aus, ob ein Bild mit KI erzeugt oder bearbeitet wurde. Wo sich das nicht klären lässt, ist die vorsichtige Einstufung die tragfähigere – dokumentieren Sie dabei, worauf Sie sie gestützt haben.

Muss ich diese Prüfung für jedes Bild einzeln machen?

Im Grundsatz ja, denn die Kriterien beziehen sich auf den einzelnen Inhalt. In der Praxis lassen sich gleichartige Medien aber zusammenfassen: wirklich.ai erlaubt Regeln für ganze Gruppen – etwa „alle Icons aus diesem Ordner“ – und dokumentiert die Sammelentscheidung mit.

Quellen

Dieser Beitrag gibt den Verordnungstext und benannte Quellen wieder. Er ist keine Rechtsberatung und ersetzt im Einzelfall keine anwaltliche Prüfung.

Angaben zur Rechtslage, zu deren Auslegung sowie zu Funktionen, Oberflächen und Schnittstellen fremder Systeme geben den Stand zum oben genannten Datum wieder. Beides kann sich jederzeit und ohne Ankündigung ändern. Für Aktualität, Richtigkeit und Vollständigkeit übernehmen wir keine Gewähr; eine Haftung für Schäden aus der Nutzung dieser Inhalte, der beschriebenen Anleitungen oder der Code-Beispiele ist ausgeschlossen, soweit gesetzlich zulässig. Genannte Produkt- und Firmennamen gehören ihren jeweiligen Inhabern; eine Verbindung zu ihnen besteht nicht.

AI modified – EU-PiktogrammDieser Text wurde mit Unterstützung von KI erstellt und redaktionell geprüft.

Support kontaktieren

Ob Einbau, Einstufung oder Trainings-Signale: Schreiben Sie uns, wo es hakt. Wir sehen uns Ihre Website an und melden uns persönlich bei Ihnen.