Datenschutz / Methoden und Wissen
Transparenzpflichten: Wann KI-Inhalte gekennzeichnet werden müssen – und wann nicht
28. Juli 2026 / Bärbel Rolfes
Ab 2. August 2026 wird EU-weit Transparenz bei KI-Inhalten zur Pflicht. Die Europäische Kommission hat finale Leitlinien, FAQs und Quick Facts zu den Transparenzpflichten veröffentlicht (Artikel 50 AI Act). Diese machen deutlich, dass die Regelungen zielgerichtet bestimmte Risikoszenarien adressieren und keinen pauschalen Kennzeichnungszwang für sämtliche KI-Nutzung vorsehen.
Das Wichtigste in Kürze
Der AI Act verpflichtet Unternehmen nicht dazu, jeden KI-generierten Inhalt zu kennzeichnen. Die Transparenzpflichten konzentrieren sich auf klar definierte Risikosituationen:
- KI-Interaktionen mit Menschen
- Emotionserkennung und biometrische Kategorisierung
- Deepfakes
- bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse ohne menschliche Kontrolle.
Wer KI lediglich als Assistenzwerkzeug nutzt, Inhalte redaktionell prüft, verantwortet und transparente Prozesse etabliert, wird in vielen Fällen nicht von zusätzlichen Kennzeichnungspflichten betroffen sein.
Gerade das dokumentierte „Human-in-the-Loop“-Prinzip kann bei Texten eine entscheidende Rolle spielen. Ein nachweisbares menschliches Lektorat reduziert nicht nur rechtliche Risiken, sondern stärkt auch die Qualität der veröffentlichten Inhalte.
Übersicht: Wann gilt die Transparenzpflicht?
| KI-Einsatz | Transparenzpflicht ja/nein |
|---|---|
| Chatbot | Pflicht: Information über KI-Interaktion Die Information muss spätestens vor oder bei der ersten Interaktion verfügbar sein. |
| Emotionserkennung insbesondere Analyse emotionaler Zustände, automatische Kategorisierung von Personen, Bewertung von Verhaltensmerkmalen | Pflicht: Information der Betroffenen Die Information muss spätestens vor oder bei der ersten Interaktion verfügbar sein. |
| Deepfake KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als authentisch oder wahr erscheinen könnten. | Pflicht: Offenlegung Bei kurzen Videos ist eine besonders gut sichtbare Kennzeichnung erforderlich. Das KI-Label soll während der gesamten Wiedergabe sichtbar bleiben. Bei Audioinhalten können gesprochene Hinweise erforderlich sein, insbesondere wenn künstliche Stimmen reale Personen imitieren. |
| KI-Text zu öffentlichem Interesse ohne menschliche Kontrolle | Pflicht: Offenlegung als deutlich sichtbarer Hinweis |
| Rechtschreibkorrektur | Keine Pflicht |
| Übersetzung | Keine Pflicht |
| Interne Dokumente | Regelmäßig keine Pflicht |
| Überarbeitungen von Texten, E-Mails, Angeboten (redaktionell geprüft) | Regelmäßig keine Pflicht |
| Produktinformationen, Werbetexte, Vertriebstexte (redaktionell geprüft) | Regelmäßig keine Pflicht |
Die KI-Kennzeichnungspflicht im Detail
Worum geht es bei den Transparenzpflichten?
Der AI Act soll sicherstellen, dass Menschen erkennen können,
- wann sie mit einer KI kommunizieren,
- wann Inhalte künstlich erzeugt oder manipuliert wurden,
- wann bestimmte KI-Systeme persönliche Merkmale analysieren,
- und wann ein vermeintlich echter Inhalt tatsächlich das Ergebnis einer KI ist.
Die Transparenzregeln sollen insbesondere Täuschung, Manipulation, Identitätsmissbrauch und Desinformation verhindern sowie das Vertrauen in KI-Systeme stärken.
Wichtig: Anbieter und Betreiber haben unterschiedliche Pflichten
Die KI-Verordnung unterscheidet sehr genau zwischen Anbietern von KI-Systemen und Unternehmen, die KI-Ergebnisse einsetzen oder veröffentlichen (Betreiber).
Anbieter (Provider)
Anbieter entwickeln oder vermarkten KI-Systeme und müssen vor allem technische Transparenzmechanismen bereitstellen. Sie müssen insbesondere sicherstellen, dass:
- Nutzer erkennen können, wenn sie mit einer KI interagieren,
- KI-generierte Inhalte technisch markiert werden,
- die Ausgaben maschinenlesbar als KI-generiert oder KI-manipuliert erkennbar sind.
Betreiber (Deployer)
Betreiber nutzen KI-Systeme im Rahmen ihrer beruflichen oder geschäftlichen Tätigkeit und müssen vor allem die eigentlichen Offenlegungs- und Informationspflichten gegenüber Nutzern und der Öffentlichkeit sicherstellen. Sie müssen insbesondere prüfen:
- ob Deepfakes offengelegt werden müssen,
- ob Betroffene über Emotionserkennung oder biometrische Kategorisierung informiert werden müssen,
- ob bestimmte KI-generierte Texte gekennzeichnet werden müssen.
Für die meisten Unternehmen sind die Betreiberpflichten daher deutlich relevanter als die Anbieterpflichten.
Die vier Transparenzpflichten des Artikel 50 AI Act
1. Kennzeichnung der Interaktion mit KI
Wer mit einem KI-System interagiert, muss dies grundsätzlich erkennen können. Betroffen sind beispielsweise Chatbots, virtuelle Assistenten, KI-Kundenservice, Sprachassistenten und KI-Agenten. Die Information muss spätestens vor oder bei der ersten Interaktion verfügbar sein. Eine Ausnahme besteht nur dann, wenn für einen durchschnittlich informierten Nutzer offensichtlich ist, dass er mit einer KI kommuniziert.
Praxisbeispiel: „Sie kommunizieren mit einem KI-System.“
2. Technische, maschinenlesbare Kennzeichnung KI-generierter Inhalte
Anbieter generativer KI-Systeme müssen sicherstellen, dass generierte oder manipulierte Inhalte maschinenlesbar als künstlich erzeugt oder verändert erkennbar sind. Dies betrifft Texte, Bilder, Videos und Audiodateien. Typische Beispiele sind:
- Metadaten
- digitale Wasserzeichen
- Herkunftsnachweise
- kryptografische Verfahren
- weitere technische Markierungsverfahren.
Diese Pflicht richtet sich primär an die Anbieter der KI-Systeme und nicht automatisch an jedes Unternehmen, das solche Systeme nutzt. Die Kennzeichnung muss wirksam, robust und interoperabel sein.
Wichtig ist jedoch: Metadaten allein genügen nicht immer. Wenn ein Deepfake oder ein kennzeichnungspflichtiger Inhalt veröffentlicht wird, kann zusätzlich eine für Menschen sichtbare Kennzeichnung erforderlich sein (siehe 4. Offenlegung von Deepfakes).
3. Transparenz bei Emotionserkennung und biometrischer Kategorisierung
Betreiber von Emotionserkennungssystemen oder biometrischen Kategorisierungssystemen müssen die betroffenen Personen über den Einsatz dieser Systeme informieren. Dies betrifft insbesondere Anwendungen, die emotionale Zustände analysieren, Personen automatisiert kategorisieren und Verhaltensmerkmale bewerten.
Gerade aus Datenschutzsicht ist dieser Punkt besonders relevant, weil häufig personenbezogene Daten verarbeitet werden und somit zusätzlich die Anforderungen der DSGVO eingehalten werden müssen.
4. Offenlegung von Deepfakes und bestimmten KI-Texten
Der wichtigste Bereich für Unternehmen betrifft Deepfakes. Als Deepfakes gelten KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als authentisch oder wahr erscheinen könnten.
Dazu zählen beispielsweise:
- KI-generierte Personenbilder
- realistisch wirkende Avatare
- synthetische Werbevideos
- simulierte Interviews
- imitierte Stimmen
- manipulierte Videos realer Personen
In diesen Fällen müssen Betreiber offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Was bedeutet das für Texte?
Wann müssen KI-generierte Texte gekennzeichnet werden?
Für Texte enthält der AI Act eine sehr spezielle Regelung. Kennzeichnungspflichten kommen nur in Betracht, wenn:
- ein Text durch KI erzeugt oder manipuliert wurde,
- der Text veröffentlicht wird und
- die Veröffentlichung dazu dient, die Öffentlichkeit über Angelegenheiten vonöffentlichem Interesse zu informieren.
Typische Beispiele können sein:
- Nachrichten
- politische Informationen
- gesellschaftliche Themen
- öffentlich relevante Informationsangebote.
Die wichtigste Ausnahme: Menschliche Kontrolle
Die Transparenzpflicht entfällt, wenn:
- eine menschliche Überprüfung erfolgt,
- eine redaktionelle Kontrolle stattfindet und
- eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Für Unternehmen bedeutet das: Ein mit KI erstellter Entwurf, der anschließend von Mitarbeitenden geprüft, überarbeitet und freigegeben wird, löst regelmäßig keine Kennzeichnungspflicht aus.
Die „Kunstausnahme“
Besondere Regelungen gelten für Kunst, Satire und fiktionale Werke. Hier entfällt die Transparenzpflicht nicht vollständig. Sie wird jedoch abgeschwächt. Nach aktuellem Stand kann ein dezenter Hinweis ausreichend sein, sofern der künstlerische Charakter des Werkes nicht unverhältnismäßig beeinträchtigt wird.
Allerdings bestehen noch erhebliche Rechtsunsicherheiten:
- Was gilt als Kunst?
- Was gilt als offensichtliche Satire?
- Wie sind Marketingkampagnen zu bewerten?
Diese Fragen sind derzeit noch nicht abschließend geklärt.
Was ist mit Marketing, Webseiten und Social Media?
Hier besteht häufig Unsicherheit. Aber nicht jede Unternehmenskommunikation fällt unter die Transparenzpflicht für Texte. Regelmäßig nicht betroffen sind:
- Produktbeschreibungen
- Unternehmenswebseiten
- Werbetexte
- Vertriebsunterlagen
- interne Kommunikation
- redaktionell geprüfte Beiträge.
Dennoch kann eine freiwillige Kennzeichnung im Einzelfall sinnvoll sein, um Transparenz zu schaffen und Missverständnisse zu vermeiden.
Welche Sanktionen drohen?
Die KI-Verordnung sieht erhebliche Sanktionen vor. Bei Verstößen gegen die Transparenzpflichten können Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes verhängt werden. Zusätzlich können wettbewerbsrechtliche Risiken entstehen, wenn Verbraucher durch nicht gekennzeichnete KI-Inhalte in die Irre geführt werden.
KI-Systeme, die vor dem 2. August in Verkehr gebracht wurden, müssen ab dem 2. Dezember 2026 die Markierungs- und Aufdeckungspflichten erfüllen.
Empfehlung aus KI-Datenschutz-Sicht
Unternehmen sollten nicht versuchen, jeden KI-Einsatz vorsorglich zu kennzeichnen. Das wäre weder erforderlich noch praktikabel. Sinnvoller ist ein risikobasierter Ansatz:
1. KI-Anwendungsfälle identifizieren
- Welche KI-Systeme werden eingesetzt?
- Werden Inhalte veröffentlicht?
- Gibt es Kundeninteraktionen?
2. Deepfake-Risiken bewerten
Besonders relevant sind KI-Bilder, KI-Videos, KI-Stimmen und Avatare.
3. Redaktionelle Prozesse dokumentieren
Die menschliche Prüfung kann entscheidend sein, um Transparenzpflichten bei Texten zu vermeiden. Eine dokumentierte redaktionelle Kontrolle schafft Sicherheit und Nachweisbarkeit.
4. KI-Governance
Die Richtlinien zum Einsatz von Tools und KI einhalten. Teilnahme an den verpflichtenden Schulungen zum Einsatz von KI.
Unsere Expertin für KI und Datenschutz
Bärbel Rolfes
Beratung Datenschutz0421 20750 371 E-Mail senden
Bärbel ist Datenschutzbeauftragte und Anforderungsmanagerin bei der HEC. Getreu ihrem Motto „Wissen ist wertvoll – aber erst durch neues Lernen wird es lebendig“ verbindet sie fachliches Know-how mit rechtlicher Expertise. Dafür befasst sie sich regelmäßig mit der aktuellen Gesetzgebung und neuesten Methoden im Anforderungsmanagement. Sie bringt die Bedürfnisse der Nutzer:innen mit den technischen und rechtlichen Rahmenbedingungen zusammen. So entwickelt sie gemeinsam mit ihren Kunden Lösungen, die so rechtssicher wie praxistauglich sind.
