Art. 50 KI-VO: KI-generierte Inhalte und Deepfakes kennzeichnen

Artikel 50 steht in Kapitel IV der Verordnung und trägt dort die Überschrift Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Das Wort bestimmter ist der Schlüssel: Die Vorschrift greift nicht bei jedem KI-Einsatz, sondern bei vier klar umrissenen Konstellationen.

1. Absatz 1 — Interaktion mit Menschen (Anbieter). Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen so ausgelegt sein, dass die Person erfährt, dass sie es mit einem KI-System zu tun hat. Die Pflicht entfällt, wo das aus Sicht einer verständigen, hinreichend aufmerksamen Person ohnehin offensichtlich ist.
2. Absatz 2 — Maschinenlesbare Markierung (Anbieter). Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben in einem maschinenlesbaren Format markieren und als künstlich erzeugt oder manipuliert erkennbar machen. Die technischen Lösungen müssen wirksam, interoperabel, belastbar und zuverlässig sein, soweit das technisch möglich ist. Ausgenommen sind Systeme mit reiner Unterstützungsfunktion für die Standardbearbeitung sowie solche, die die Eingabedaten oder deren Semantik nicht wesentlich verändern.
3. Absatz 3 — Emotionserkennung und biometrische Kategorisierung (Betreiber). Wer solche Systeme einsetzt, muss die betroffenen Personen über den Betrieb informieren und die personenbezogenen Daten nach den Datenschutzvorschriften verarbeiten.
4. Absatz 4 — Deepfakes und bestimmte Texte (Betreiber). Wer Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dasselbe gilt für Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu unterrichten.

Zwei Dinge fallen an dieser Liste auf. Erstens sind die beiden Pflichten, an die die meisten Betriebe zuerst denken — maschinenlesbare Markierung und Chatbot-Hinweis — Anbieterpflichten. Zweitens hängt keine der vier an der Risikoklasse: Artikel 50 gilt unabhängig davon, ob ein System als Hochrisiko-System eingestuft ist.

Für einen Betrieb mit 10 bis 250 Mitarbeitenden ist die wichtigste Frage nicht, was gekennzeichnet werden muss, sondern von wem. Wer ein zugekauftes Werkzeug nutzt, ist Betreiber. Die Absätze 1 und 2 richten sich an den Anbieter des Werkzeugs — Sie schulden sie nicht, Sie sollten sich aber darauf verlassen können.

Die Rolle kann allerdings wechseln. Nach Artikel 25 wird zum Anbieter, wer ein KI-System unter eigenem Namen oder eigener Handelsmarke bereitstellt, es wesentlich verändert oder seine Zweckbestimmung ändert. Der praktische Fall dazu ist kein Sonderfall: Ein zugekaufter Chatbot, der unter Ihrem Namen auf Ihrer Website antwortet, kann Sie in die Anbieterrolle bringen — und damit in Absatz 1. Die Abgrenzung steht ausführlich im Überblick zur KI-Verordnung im Mittelstand.

Praktisch heißt das: Klären Sie je System, in welcher Rolle Sie stehen, und halten Sie das Ergebnis fest. Das ist keine Fleißaufgabe — es ist dieselbe Angabe, die das KI-Inventar ohnehin je System führt.

Die meistgestellte Frage lautet, ob ein mit einem Bildgenerator erzeugtes Bild gekennzeichnet werden muss. Die Antwort hängt an einem Begriff, den die Verordnung in Artikel 3 ausdrücklich definiert: Deepfake. Gemeint sind durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgetreu erscheinen würden.

Daraus folgt die Trennlinie, an der sich die Praxis orientieren kann:

• Wirklichkeitsgetreue Nachbildung. Ein fotorealistisches Bild einer real existierenden Person, eines echten Gebäudes oder eines Ereignisses fällt in den Deepfake-Begriff — auch dann, wenn niemand getäuscht werden soll.
• Erkennbar synthetische Darstellung. Eine Illustration, ein Icon, ein abstraktes Muster oder eine offensichtlich künstliche Szene bildet nichts Wirkliches wahrheitsgetreu nach.

Für erkennbar künstlerische, kreative, satirische oder fiktionale Werke sieht Absatz 4 eine Erleichterung vor: Dort beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen.

Wo im Einzelfall die Grenze verläuft — etwa bei einem fotorealistischen Produktbild, das kein reales Produkt zeigt —, ist eine Rechtsfrage und keine Einstellung in einem Werkzeug. Was Sie tun können und sollten, ist die Entscheidung zu treffen, sie zu begründen und sie festzuhalten. Eine dokumentierte Abwägung ist im Zweifel deutlich mehr wert als eine spätere Erinnerung.

Bei Texten ist die Betreiberpflicht deutlich schmaler, als sie in der öffentlichen Diskussion oft dargestellt wird. Absatz 4 erfasst KI-erzeugte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu unterrichten. Beides muss zusammenkommen: Veröffentlichung und der Zweck, über eine Angelegenheit von öffentlichem Interesse zu informieren.

Dazu kommt eine Ausnahme, die es bei Bildern und Videos so nicht gibt: Die Pflicht entfällt, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Wer also redaktionell verantwortet, was er veröffentlicht, hat die Ausnahme in der Hand — er muss sie nur auch tatsächlich ausüben und belegen können.

Was die Verordnung nicht definiert, ist der Begriff der Angelegenheit von öffentlichem Interesse. Das ist die eigentliche Unschärfe dieser Pflicht, und sie lässt sich nicht durch eine Faustregel auflösen. Für die betriebliche Praxis heißt das: Legen Sie in Ihrer KI-Richtlinie fest, welche Veröffentlichungsarten Sie als erfasst behandeln und wer die redaktionelle Verantwortung trägt. Eine getroffene und aufgeschriebene Entscheidung ist prüfbar; eine ungeklärte Lage ist es nicht.

Absatz 1 ist die Pflicht, die Kundinnen und Kunden am häufigsten zu Gesicht bekommen: Ein System, das für die direkte Interaktion mit Menschen bestimmt ist, muss diese Eigenschaft offenlegen. Der Hinweis muss nicht aufdringlich sein, aber er muss rechtzeitig kommen — nach Absatz 5 spätestens zum Zeitpunkt der ersten Interaktion.

Die Ausnahme für das Offensichtliche ist enger, als sie klingt. Maßstab ist eine verständige, hinreichend aufmerksame und umsichtige Person unter Berücksichtigung der Umstände und des Kontexts der Nutzung. Ein Fenster mit der Aufschrift KI-Assistent trägt den Hinweis bereits in sich. Eine synthetische Stimme am Telefon, die sich mit einem Vornamen meldet, tut das nicht.

Weil ein unter eigenem Namen betriebener Assistent den Betrieb in die Anbieterrolle bringen kann, ist der praktische Rat schlicht: Setzen Sie den Hinweis, statt die Rollenfrage offenzulassen. Er kostet eine Zeile, und er erledigt beide Lesarten auf einmal.

Artikel 50 ist seit dem 2. August 2026 anwendbar und von der Verschiebung der Hochrisiko-Pflichten durch die Änderungsverordnung (EU) 2026/1744 nicht erfasst. Wer auf die verschobenen Fristen verweist, verweist auf einen anderen Teil der Verordnung; den gepflegten Gesamtstand halten wir auf der Seite Fristen der EU-KI-Verordnung.

Eine einzige Erleichterung hat dieselbe Änderungsverordnung eingeführt, und sie ist eng zugeschnitten: Für Anbieter, die ein generatives System vor dem 2. August 2026 in Verkehr gebracht haben, gilt eine viermonatige Übergangsfrist für die maschinenlesbare Markierung nach Absatz 2. Sie endet am 2. Dezember 2026.

Diese Übergangsfrist betrifft ausdrücklich die Anbieterpflicht aus Absatz 2. Die Betreiberpflichten der Absätze 3 und 4 haben keine solche Frist bekommen — wer heute ein Deepfake veröffentlicht, schuldet die Offenlegung heute.

Die Verordnung schreibt keinen Wortlaut und kein Symbol vor. Sie schreibt in Absatz 5 die Eigenschaften vor, die der Hinweis haben muss: klar und erkennbar, spätestens bei der ersten Exposition und im Einklang mit den Barrierefreiheitsanforderungen. Daraus lässt sich ein brauchbares Vorgehen ableiten.

• Am Inhalt, nicht im Kleingedruckten. Eine Bildunterschrift, ein Overlay im Video, eine Zeile über dem Text. Ein Sammelhinweis in den Nutzungsbedingungen kommt zu spät und am falschen Ort.
• In der Sprache des Inhalts und in verständlichen Worten. Der Hinweis richtet sich an das Publikum, nicht an eine Aufsichtsbehörde.
• Barrierefrei. Ein Hinweis, der nur als Bild existiert, erreicht Screenreader nicht — er gehört als Text ausgezeichnet.
• Einheitlich über alle Kanäle. Wer auf der Website anders kennzeichnet als im Newsletter, erzeugt genau die Uneinheitlichkeit, die im Prüfungsfall erklärt werden muss.
• Und einmal aufgeschrieben. Die Regel gehört in die Richtlinie, nicht in den Kopf einer Person aus dem Marketing.

Die maschinenlesbare Markierung nach Absatz 2 können Sie als Betreiber nicht selbst herstellen — sie entsteht im System des Anbieters. Was Sie tun können: beim Anbieter erfragen, ob und wie markiert wird, die Antwort schriftlich festhalten und das Ergebnis am jeweiligen System im Inventar vermerken. Genau diese Frage gehört auch in den Anbieter-Check vor der Beschaffung.

• Alles kennzeichnen. Eine Kennzeichnung an jedem Text und jedem Bild ist nicht die sichere Variante, sondern eine Selbstverpflichtung, die man einhalten muss, sobald sie einmal angekündigt ist — und die den Blick darauf verstellt, wo die Pflicht wirklich besteht.
• Gar nichts kennzeichnen, weil der Anbieter markiert. Die maschinenlesbare Markierung ist für Maschinen. Sie ersetzt die sichtbare Offenlegung bei einem Deepfake nicht.
• Die Rollenfrage überspringen. Wer nicht weiß, ob er bei einem System Anbieter oder Betreiber ist, weiß auch nicht, welche der vier Pflichten ihn trifft.
• Den Hinweis zu spät geben. Absatz 5 nennt die erste Interaktion oder Exposition als späteste Gelegenheit. Ein Hinweis am Ende eines Videos oder unter dem Fold erfüllt das nicht.
• Die Regel nicht bekannt machen. Kennzeichnen muss die Person, die veröffentlicht. Ohne Richtlinie und Schulung erfährt sie nie, dass sie es soll.