Warum KI-Kennzeichnung richtig und wichtig ist
Die vorangegangenen Kapitel geben wieder, was in der Verordnung, im Verhaltenskodex und in Fachquellen steht. Dieses Kapitel tut das nicht. Es ist unsere eigene Position, und wir haben es ans Ende gestellt, damit klar bleibt, wo die reine Wiedergabe aufhört und die Meinung anfängt.
Der Ausgangspunkt
Über die Kennzeichnungspflicht wird meistens als Belastung gesprochen. Noch eine Vorschrift, noch ein Aufwand, noch etwas, das man falsch machen kann.
Wir halten sie für richtig. wirklich.ai ist die Folge dieser Überzeugung, nicht ihr Anlass.
Was die Zahlen sagen
Bevor es um unsere Position geht, kurz die belegbare Ausgangslage.
In einer Eurobarometer-Sonderumfrage der EU-Kommission halten 87 Prozent der Befragten Online-Manipulation für eine Bedrohung der Demokratie; die Kommission nennt dabei ausdrücklich Desinformation, Deepfakes, KI-generierte Inhalte und Einflussnahme aus dem Ausland. 53 Prozent fühlen sich von Fake News und Desinformation persönlich betroffen. 80 Prozent finden, die KI-Entwicklung sollte sorgfältig reguliert werden, auch wenn das Einschränkungen für Entwickler bedeutet.
Gleichzeitig ist die Technologie im Alltag angekommen. Nach dem Bericht der Kommission über den Stand der digitalen Dekade nutzen etwa vier von zehn Menschen in der EU generative KI mindestens einmal pro Woche; von diesen geben fast sieben von zehn an, dass ihre Nutzung im vergangenen Jahr zugenommen hat.
Diese Zahlen belegen, dass die Sorge verbreitet ist und die Nutzung wächst. Sie belegen nicht, dass Kennzeichnung die Sorge automatisch auflöst. Das ist eine andere Frage.
Die Kommission hat ihre Symbole vor der Veröffentlichung testen lassen. Ein Ergebnis: Sie werden deutlich besser verstanden, wenn ein kurzer Text danebensteht – ein Zeichen allein sagt den meisten Menschen noch nichts.
Das ist der Grund, warum wir in Die offiziellen EU-Icons zu Symbol plus Beschriftung raten, statt nur das Piktogramm zu setzen.
Was auf dem Spiel steht
Dass man einem Bild glauben kann, ist kein Naturgesetz, sondern eine Verabredung – rund 180 Jahre alt und getragen von einer technischen Voraussetzung: Eine Fotografie herzustellen, die etwas zeigt, das es nie gab, war extrem aufwendig.
Diese Voraussetzung ist weg. Nicht schrittweise, sondern rasend schnell.
Das Problem ist dabei nicht die einzelne Fälschung. Fälschungen gab es immer. Das Problem ist, was passiert, wenn alles gefälscht sein könnte: Dann verliert nicht nur das Falsche seine Wirkung, sondern auch das Echte. Wer nichts mehr glauben muss, kann alles bestreiten – auch das, was tatsächlich passiert ist.
Kennzeichnung löst dieses Dilemma nicht alleine. Aber sie hält die Unterscheidung am Leben, um die es im Wesentlichen geht.
Die Gegenargumente, ernst genommen
Es gibt gute Einwände. Vier davon halten wir für ernsthaft:
„Kennzeichnung nutzt nur den Ehrlichen.” Stimmt. Wer täuschen will, kennzeichnet nicht. Nur ist das bei jeder Transparenzregel so: Zutatenlisten halten auch niemanden davon ab, zu lügen. Der Nutzen liegt nicht darin, kriminelle Täuschung zu verhindern, sondern darin, ehrliches Verhalten sichtbar und damit zum Standard zu machen. Wenn Kennzeichnung normal wird, wird ihr Fehlen auffällig.
„Ein Label sagt nichts über Qualität oder Wahrheit.” Auch richtig. Ein KI-generiertes Bild kann inhaltlich korrekt sein, ein echtes Foto kann durch die Perspektive in die Irre führen. Das Label sagt nur, wie etwas entstanden ist. Wir halten das trotzdem für wertvoll, weil Herkunft eine der wenigen Angaben ist, die man objektiv belegen kann.
„Es entwertet die Kennzeichnung, wenn alles gekennzeichnet wird.” Der stärkste Einwand, und er ist der Grund, warum wir vor pauschalen Labels warnen. Wenn unter jedem Icon-Set und jedem Hintergrundmuster „KI-generiert” steht, lernen Leute, den Hinweis zu übersehen. Genau deshalb ist die enge Fassung des Artikels 50 keine Lücke, sondern richtig konstruiert.
„Das ist bürokratischer Aufwand ohne Nutzen.” Hier sind wir am wenigsten einverstanden. Der Aufwand entsteht überwiegend einmalig, beim ersten Durchgang durch den Bestand. Und er erzeugt etwas, das die meisten Websites ohnehin nicht haben: eine klare Übersicht darüber, was da eigentlich an Medien liegt.
Was uns wichtiger ist als das Gesetz
Wir würden das Argument auch ohne Verordnung machen, und zwar aus einem Grund, der wenig mit rechtlicher Compliance zu tun hat.
Wer Inhalte veröffentlicht, hat ein Verhältnis zu den Leuten, die sie ansehen. Dieses Verhältnis funktioniert über eine unausgesprochene Zusage: Was hier steht, ist so gemeint. Ein täuschend echtes Bild, das keine reale Aufnahme ist, bricht diese Zusage – auch wenn es niemand merkt und auch wenn es rechtlich nicht zu beanstanden ist.
Kennzeichnung ist deshalb weniger eine Vorschrift als eine Haltung und eine Form von Respekt. Sie kostet fast nichts und sagt: Wir nehmen Sie ernst genug, Ihnen zu zeigen, was Sie gerade sehen.
Was wir nicht behaupten
Damit dieses Kapitel nicht in das kippt, was es kritisiert:
Wir wissen nicht, ob Kennzeichnung das Vertrauen in Medien messbar erhöht. Die oben genannten Zahlen zeigen, dass die Sorge groß ist und dass eine Mehrheit Regulierung befürwortet. Sie zeigen nicht, dass Hinweise auf KI-Herkunft tatsächlich Vertrauen stiften. Uns ist dazu keine belastbare Untersuchung bekannt.
Die EU-Kommission berichtet lediglich, dass ihre Icons in Nutzertests besser abschnitten, wenn sie von einer Textbeschriftung begleitet wurden. Das ist eine Aussage über Verständlichkeit, nicht über Vertrauen.
Und wir haben ein wirtschaftliches Interesse an dem Thema. Das ändert nichts an den Argumenten, aber es gehört ehrlich dazugesagt.
Wie wir es selbst halten
Die Beiträge in diesem Handbuch sind mit Unterstützung von KI entstanden und redaktionell geprüft. Wir schreiben das unter jeden Text.
Nach Artikel 50 Absatz 4 der KI-Verordnung müssten wir das streng genommen nicht: Die Pflicht für veröffentlichten Text entfällt, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Beides ist bei uns der Fall.
Wir tun es trotzdem. Es wäre unglaubwürdig, ein Handbuch über Transparenz zu schreiben und beim eigenen Text die Ausnahme zu nutzen.
Dieses Kapitel gibt unsere eigene Position wieder und ist keine Wiedergabe von Rechtsquellen. Es stellt keine Rechtsberatung dar.
Wer wissen will, was daraus konkret folgt, findet den Einstieg in der Checkliste und die Abgrenzung in Was gekennzeichnet werden muss.
Dann haben Sie nach Artikel 50 nichts zu kennzeichnen – und genau das sieht nach außen erst einmal niemand. Wie sich ein geprüfter Bestand ohne KI-Inhalte belastbar nachweisen lässt, zeigt unser Kapitel Ohne KI arbeiten sowie unser kostenloser Bündnis für sichtbare KI.
Häufige Fragen
Bringt Kennzeichnung überhaupt etwas, wenn sie niemand liest?
Belegt ist bislang nur, dass die EU-Symbole besser verstanden werden, wenn ein kurzer Text danebensteht. Dass Kennzeichnung Desinformation vollständig auflöst, behaupten wir nicht. Sie stellt die Information bereit, mit der das Publikum selbst urteilen kann.
Schadet ein KI-Hinweis der Wirkung meiner Inhalte?
Diese Sorge ist verständlich, wird aber selten überprüft. Wer voraussetzt, dass Transparenz schadet, unterstellt, dass die Wirkung auf dem Nichtwissen der Betrachter beruht. Das ist eine unangenehme Annahme über das eigene Publikum.
Warum nicht einfach abwarten, bis sich die Praxis geklärt hat?
Weil die Pflichten gelten und Beschwerden bei der Marktüberwachungsbehörde kostenlos und formfrei möglich sind. Wer wartet, wartet nicht in einem rechtsfreien Raum, sondern in einem, in dem er geltende Regeln nicht einhält.
Was kostet es, Transparenz auf der eigenen Website umzusetzen?
Sehr wenig. Die Basisnutzung der wirklich.ai App für die eigene Website ist dauerhaft kostenlos, läuft ohne Tracking-Cookies und wird DSGVO-konform in der EU gehostet.
Quellen
Dieser Beitrag gibt den Verordnungstext und benannte Quellen wieder. Er ist keine Rechtsberatung und ersetzt im Einzelfall keine anwaltliche Prüfung.
Angaben zur Rechtslage, zu deren Auslegung sowie zu Funktionen, Oberflächen und Schnittstellen fremder Systeme geben den Stand zum oben genannten Datum wieder. Beides kann sich jederzeit und ohne Ankündigung ändern. Für Aktualität, Richtigkeit und Vollständigkeit übernehmen wir keine Gewähr; eine Haftung für Schäden aus der Nutzung dieser Inhalte, der beschriebenen Anleitungen oder der Code-Beispiele ist ausgeschlossen, soweit gesetzlich zulässig. Genannte Produkt- und Firmennamen gehören ihren jeweiligen Inhabern; eine Verbindung zu ihnen besteht nicht.
Dieser Text wurde mit Unterstützung von KI erstellt und redaktionell geprüft.
