Nicht jeder KI-Inhalt braucht ein Label – die Transparenzpflichten nach Art. 50 KI-VO im Überblick

Transparenzpflichten nach der KI-VO: Wer muss was kennzeichnen?

Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der KI-Verordnung (KI-VO). Die EU-Kommission hat hierzu im Juli 2026 ergänzende Leitlinien veröffentlicht, die die einzelnen Pflichten und deren praktische Anwendung weiter konkretisieren.

Im Mittelpunkt steht dabei die Frage, wann der Einsatz künstlicher Intelligenz für betroffene Personen oder die Öffentlichkeit erkennbar gemacht werden muss. Die häufig verwendete Aussage, KI-generierte Inhalte müssten grundsätzlich gekennzeichnet werden, greift allerdings zu kurz. Art. 50 unterscheidet zwischen verschiedenen Einsatzszenarien, Inhalten und Verantwortlichkeiten.

Entscheidend ist daher nicht nur, ob KI eingesetzt wird, sondern auch, wie sie eingesetzt wird, welcher Inhalt entsteht und welche Rolle das jeweilige Unternehmen einnimmt.

Transparenz ist mehr als ein Hinweis „KI-generiert“

Die Transparenzpflichten der KI-Verordnung verfolgen unterschiedliche Ziele. Teilweise soll verhindert werden, dass Menschen unbemerkt mit einem KI-System interagieren. In anderen Fällen geht es darum, künstlich erzeugte oder manipulierte Inhalte technisch erkennbar zu machen oder deren künstlichen Ursprung gegenüber der Öffentlichkeit offenzulegen.

Damit verlangt Art. 50 nicht in jeder Situation denselben Hinweis. Je nach Einsatz kann eine Information über die Interaktion mit einem KI-System, eine technische Kennzeichnung oder eine ausdrückliche Offenlegung erforderlich sein.

Gerade deshalb sollte die Prüfung nicht mit der pauschalen Frage beginnen, ob „KI gekennzeichnet werden muss“. Zunächst muss geklärt werden, welcher konkrete Anwendungsfall vorliegt.

Die Rolle entscheidet darüber, wer handeln muss

Für die Zuordnung der Transparenzpflichten ist die Rolle des Unternehmens nach der KI-Verordnung relevant.

Als Anbieter gilt grundsätzlich, wer ein KI-System entwickelt oder entwickeln lässt und es unter dem eigenen Namen oder der eigenen Marke in Verkehr bringt oder in Betrieb nimmt. Ein Betreiber verwendet ein KI-System dagegen unter eigener Verantwortung.

Diese Unterscheidung ist wichtig, weil Art. 50 KI-VO unterschiedliche Pflichten vorsieht. Anbieter sind insbesondere für bestimmte technische Transparenzanforderungen verantwortlich. Betreiber müssen dagegen vor allem bei der konkreten Nutzung eines KI-Systems sicherstellen, dass erforderliche Informationen oder Offenlegungen erfolgen.

Unternehmen sollten deshalb nicht nur erfassen, welche KI-Systeme sie einsetzen, sondern auch dokumentieren, in welcher Rolle sie bei dem jeweiligen Use Case handeln.

Wenn Menschen mit KI interagieren

Ein klassischer Anwendungsfall ist die direkte Kommunikation mit einem KI-System, etwa über einen KI-gestützten Chatbot im Kundenservice.

Grundsätzlich muss die betroffene Person nach Art. 50 Abs. 1 KI-VO darüber informiert werden, dass sie mit einer KI interagiert. Die Anforderung richtet sich zunächst an den Anbieter, der das System entsprechend gestalten muss.

Die Leitlinie sieht hierfür vier Kriterien für die Einordnung vor.

Das System muss als KI-System gelten.
Es muss für einen echten wechselseitigen Austausch mit Personen konzipiert sein, anstatt nur Daten zu sammeln oder automatisierte Antworten zu liefern.
Die Interaktion muss direkt sein, d. h. die KI selbst kommuniziert mit der Person und nicht über einen menschlichen Vermittler.
Die Interaktion muss mit natürlichen Personen erfolgen, unabhängig davon, ob es sich um Verbraucher, Fachleute oder andere Nutzer handelt.

Eine zusätzliche Information ist jedoch nicht erforderlich, wenn für eine angemessen informierte, aufmerksame und verständige Person aufgrund der konkreten Umstände ohnehin offensichtlich ist, dass sie mit einem KI-System kommuniziert.

In der Praxis macht es daher einen Unterschied, ob ein System deutlich als „KI-Assistent“ bezeichnet wird oder den Eindruck vermittelt, dass ein tatsächlicher Mitarbeiter die Kommunikation führt.

KI-generierte Inhalte müssen teilweise technisch erkennbar sein

Eine weitere Pflicht trifft Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen.

Solche Ausgaben müssen nach Art. 50 Abs. 2 KI-VO grundsätzlich in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sein. Hier geht es also nicht zwingend um einen für Menschen sichtbaren Hinweis, sondern zunächst um die technische Erkennbarkeit des Inhalts.

Die eingesetzten technischen Lösungen sollen, soweit technisch möglich, wirksam, interoperabel, robust und zuverlässig sein.

Nicht jede Bearbeitung eines bestehenden Inhalts löst jedoch automatisch dieselben Anforderungen aus. Übernimmt ein KI-System lediglich eine unterstützende Funktion bei einer Standardbearbeitung und verändert die Eingabedaten oder deren Bedeutung nicht wesentlich, kann die Situation anders zu bewerten sein. Die Leitlinie konkretisiert diesen Punkt.

Deepfakes: eine eigenständige Transparenzpflicht

Besonders relevant sind die Anforderungen an sogenannte Deepfakes. Diese sind in Art. 3 Nr. 60 KI-VO definiert.

Betreiber eines KI-Systems müssen grundsätzlich offenlegen, wenn Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert wurden und dadurch ein Deepfake entsteht.

Wichtig ist dabei die Abgrenzung zu KI-generierten Texten: Bei Deepfakes ist nicht zusätzlich erforderlich, dass sich der Inhalt auf eine Angelegenheit von öffentlichem Interesse bezieht. Art. 50 behandelt Deepfakes als eigenständigen Transparenzfall.

Damit kann bereits eine künstliche oder manipulierte Darstellung einer realen Person, eines realen Ereignisses oder eines real wirkenden Sachverhalts eine Kennzeichnungspflicht auslösen, wenn die Voraussetzungen eines Deepfakes erfüllt sind.

Besonders relevant wird die Transparenz daher bei photorealistischen oder anderweitig authentisch wirkenden Darstellungen, bei denen für den Betrachter nicht ohne Weiteres erkennbar ist, dass der Inhalt künstlich erzeugt oder verändert wurde.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Inhalte sieht die KI-Verordnung in Art. 50 Abs. 4 UAbs. 1 Erleichterungen vor. Hier genügt eine angemessene Offenlegung, die die Darstellung oder den Genuss des Werkes nicht unangemessen beeinträchtigt.

Eine weitere Ausnahme besteht, soweit die Verwendung im Rahmen einer gesetzlich zulässigen Strafverfolgung erfolgt.

KI-generierte Texte: Vier Voraussetzungen sind entscheidend

Bei Texten ist die Transparenzpflicht enger gefasst als bei Deepfakes. Für eine Kennzeichnungspflicht des Betreibers müssen vielmehr mehrere Voraussetzungen zusammentreffen.

Entscheidend ist, dass ein Betreiber einen KI-generierten oder KI-manipulierten Text veröffentlicht, der dazu bestimmt ist, die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren. Zusätzlich darf keine ausreichende menschliche beziehungsweise redaktionelle Kontrolle vorliegen.

Typische Angelegenheiten von öffentlichem Interesse können beispielsweise Themen aus Politik, Gesundheit, Wirtschaft oder gesellschaftlich relevanten Bereichen sein.

Die vier Voraussetzungen lassen sich daher auf eine einfache Formel bringen:

Betreiber + KI-generierter oder manipulierter Text + Veröffentlichung zu einer Angelegenheit von öffentlichem Interesse + keine ausreichende menschliche/redaktionelle Kontrolle = Kennzeichnung erforderlich.

Gerade diese Kombination ist für die Praxis wichtig. Die bloße Nutzung eines generativen KI-Tools bei der Erstellung eines Unternehmensblogs oder Beitrags führt noch nicht automatisch zu einer Kennzeichnungspflicht.

Menschliche und redaktionelle Kontrolle als wichtige Ausnahme

Bei Texten sieht Art. 50 eine bedeutende Ausnahme vor. Wurde ein KI-generierter oder manipulierter Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, entfällt die besondere Kennzeichnungspflicht nach Art. 50 für diesen Fall.

Entscheidend ist daher nicht allein, ob KI bei der Erstellung beteiligt war. Relevant ist auch, wie intensiv der Inhalt anschließend geprüft wurde und wer letztlich die Verantwortung für seine Veröffentlichung übernimmt.

Gerade bei der Nutzung generativer KI in Marketing, Kommunikation oder Wissensmanagement sollte deshalb dokumentiert werden, wie die redaktionelle Kontrolle ausgestaltet ist.

Emotionserkennung und biometrische Kategorisierung

Eine weitere Transparenzpflicht betrifft Systeme zur Emotionserkennung und biometrischen Kategorisierung.

Wer ein solches KI-System einsetzt, muss die davon betroffenen natürlichen Personen grundsätzlich über den Betrieb des Systems informieren. Die Verpflichtung trifft hier den Betreiber, weil sie unmittelbar an die konkrete Verwendung des Systems anknüpft.

Daneben können weitere rechtliche Anforderungen bestehen, insbesondere aus der DSGVO. Die Transparenz nach Art. 50 KI-VO ersetzt daher nicht automatisch bestehende datenschutzrechtliche Informationspflichten.

Was Unternehmen daraus mitnehmen können

Die Transparenzpflichten nach Art. 50 KI-VO sind deutlich differenzierter, als es die Aussage „KI-Inhalte müssen gekennzeichnet werden“ vermuten lässt.

Insbesondere bei Texten lohnt sich eine genaue Prüfung der einzelnen Voraussetzungen, während für Deepfakes eine eigenständige und weitergehende Offenlegungspflicht besteht. Gleichzeitig zeigt sich, dass die richtige Zuordnung der Rollen entscheidend dafür ist, wer die jeweilige Pflicht erfüllen muss.

Für Unternehmen bedeutet dies: Transparenz beginnt mit der Kenntnis der eigenen KI-Use-Cases. Wer weiß, welche Systeme eingesetzt werden, welche Rolle das Unternehmen einnimmt und wie Inhalte erstellt und kontrolliert werden, kann auch die Anforderungen des Art. 50 zuverlässig umsetzen.

Eine ausreichende KI-Kompetenz der beteiligten Mitarbeitenden bildet dabei die Grundlage, damit diese Anforderungen nicht nur auf dem Papier bestehen, sondern im Arbeitsalltag tatsächlich erkannt und umgesetzt werden.