Art. 50 Abs. 4 AI Act: Was Unternehmen ab August 2026 als KI-Inhalt kennzeichnen müssen

Für weitere Einzelheiten:

Knapp drei Monate vor dem Geltungsbeginn am 2. August 2026 hat die EU-Kommission am 8. Mai 2026 einen ersten Entwurf der Leitlinien zur Umsetzung der Transparenzpflichten nach Art. 50 AI Act veröffentlicht. Die Kommission beantwortet damit zwei zentrale Fragen, die der Text des AI Acts offen lässt:

• Welche Inhalte müssen Betreiber tatsächlich kennzeichnen? und
• Wie konkret hat die Kennzeichnung auszusehen?

Die Antworten geben erstmals einen belastbaren Prüfrahmen – sind aber bis zum Ende der Konsultationsphase am 3. Juni 2026 noch nicht final.

Warum braucht Art. 50 Abs. 4 AI Act überhaupt Leitlinien?

Art. 50 Abs. 4 AI Act steht seit Inkrafttreten der Verordnung (EU) 2024/1689 im August 2024 im Raum, ohne dass Betreiber von KI-Systemen bisher wussten, wie sie ihn praktisch umsetzen sollen. Der Text des AI Acts selbst arbeitet mit unbestimmten Rechtsbegriffen, wie „Deepfake“, „im öffentlichen Interesse“, „klar und unterscheidbar“, die einer weiteren Konkretisierung bedürfen.

Die Konkretisierung soll über Leitlinien und einen Verhaltenskodex erfolgen:

• Während sich die Leitlinien vor allem der Auslegung der abstrakten Rechtsbegriffe widmen,
• regelt der freiwillige Verhaltenskodex (Code of Practice on Transparency of AI-Generated Content; Stand: 2. Entwurfsfassung vom 5. März 2026) vor allem Fragen der praktischen und technischen Umsetzung.

Beide Instrumente sind rechtlich nicht bindend, dienen aber als anerkannter Compliance-Maßstab. Wer sich an ihnen orientiert, hat erhebliche Indizwirkung für die Einhaltung der Pflichten. Wer sie ignoriert, trägt das volle Risiko der Bußgeldsanktion von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4 AI Act).

Welche Inhalte fallen unter die Kennzeichnungspflichten nach Art. 50 AI Act?

Art. 50 Abs. 4 AI Act unterscheidet zwei eigenständige Tatbestände, die der Leitlinienentwurf jeweils präzisiert: Deepfakes (UA 1) und Texte im öffentlichen Interesse (UA 2).

Wann liegt ein Deepfake im Sinne des AI Act vor?

Ein Deepfake liegt nach dem Entwurf vor, wenn

• der Bild, Audio oder Videoinhalt KI-generiert oder -manipuliert ist;
• er realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt – auch fiktive, aber realistisch wirkende Motive sind erfasst;
• er für eine Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen könnte; und
• die Wirkung beim Publikum objektiv beurteilt wird – Täuschungsabsicht ist keine Voraussetzung.

Damit ist die Definition deutlich weiter als der allgemeine Sprachgebrauch. Erfasst sind nicht nur Politiker-Fakes oder geklonte Stimmen, sondern auch realistisch wirkende KI-Produktabbildungen, fingierte Pressefotos oder synthetische Stock-Bilder mit Authentizitätsanmutung. Nicht erfasst sind dagegen offensichtlich stilisierte Inhalte (Cartoon-Versionen historischer Ereignisse) oder rein technische Audio-Bearbeitungen wie Normalisierung oder Rauschunterdrückung.

Welche Texte gelten als „im öffentlichen Interesse“?

Texte unterliegen der Kennzeichnungspflicht nur dann, wenn sie kumulativ

• veröffentlicht werden (Verbreitung an eine unbestimmte größere Personenzahl – Artikel, Push, Ticker, öffentliche Posts);
• die Öffentlichkeit informieren sollen (Wissens-, Meinungs- oder Faktenvermittlung – keine reine Unterhaltung); und
• Angelegenheiten von öffentlichem Interesse betreffen (Politik, Verwaltung, Gesundheit, Umwelt, Wirtschaft, Wissenschaft, Bildung, Sicherheit, Kultur mit Allgemeinrelevanz).

Erfasst sind klassische redaktionelle Inhalte: Wahlberichterstattung, Gesetzesanalysen, Wirtschafts- und Gesundheitsmeldungen, behördliche Warnungen. Marketingtexte, interne Memos und reine Unterhaltungsformate fallen grundsätzlich nicht darunter – können aber im Einzelfall in den Anwendungsbereich rücken, wenn sie Themen mit Allgemeinrelevanz aufgreifen.

Welche Ausnahme von der Kennzeichnungspflicht gibt es für Texte?

Für Texte (Achtung: nicht für Deepfakes) entfällt die Kennzeichnungspflicht nach Art. 50 Abs. 4 UA 2 S. 2 AI Act, wenn kumulativ

• eine menschliche Überprüfung oder redaktionelle Kontrolle vor Veröffentlichung stattfindet (bewusste inhaltliche Prüfung auf Richtigkeit, Plausibilität und Quellen, mit echter Möglichkeit, den Text zu ändern oder abzulehnen) und
• die redaktionelle Verantwortung von einer klar identifizierbaren natürlichen oder juristischen Person übernommen wird.

Der Leitlinienentwurf stellt klar: Reine Rechtschreib- oder Formalprüfung genügt nicht.

Wie unterscheidet sich Artikel 50 Abs. 4 von Abs. 2?

Artikel 50 Abs. 2 betrifft Anbieter von KI-Systemen. Anbieter generativer KI-Systeme müssen alle synthetischen Outputs technisch (etwa durch Wasserzeichen, Metadaten) so markieren, dass sie als KI-generiert maschinell erkennbar sind. ACHTUNG: Nach dem Digitalen-Omnibus-Entwurf verschiebt sich die Frist hier voraussichtlich auf 2. Dezember 2026.

Abs. 2 betrifft somit Anbieter (also v.a. Entwickler von KI-Systemen), Abs. 4 Betreiber von KI-Systemen (sprich natürliche Personen oder Unternehmen, die KI-Systeme in eigener Verantwortung im Rahmen der beruflichen Tätigkeit verwenden). Abs. 2 erfasst alle synthetischen Inhalte, Abs. 4 nur „Deepfakes“ und „Texte im öffentlichen Interesse“.

Der entscheidende Unterschied zu Abs. 2: Während die maschinenlesbare Anbieter-Markierung im Hintergrund läuft, muss die Betreiber-Kennzeichnung nach Abs. 4 für Menschen sichtbar und erkennbar sein. Versteckte HTML-Tags oder Metadaten genügen nicht.

Wie ist konkret zu kennzeichnen?

Der Leitlinienentwurf konkretisiert die Grundprinzipien des Art. 50 Abs. 4 AI Act erheblich. Maßgeblich sind: klare und unterscheidbare Kennzeichnung; spätestens bei erster Konfrontation mit dem Inhalt; verständlich auch für Laien und vulnerable Gruppen; barrierefrei; nicht in AGB oder Untermenüs versteckt.

Der Entwurf zum Verhaltenskodex sieht ein einheitliches kontrastreiches „AI“-Icon vor, ggf. ergänzt mit Kurztext („Generiert mit KI“). Da das Icon noch nicht final ist, empfiehlt sich bis zur Verabschiedung weiterhin das Klartext-Label „KI-generiert“.

Platzierung nach Modalität:

• Bild: Bildunterschrift („KI-generiert“) oder Label/Icon direkt am Bild. Bei Social-Media-Thumbnails: Overlay im Bild, damit die Kennzeichnung beim Teilen erhalten bleibt.
• Audio: Gesprochener Hinweis zu Beginn („Dieses Audio enthält KI-generierte Inhalte“). Bei eingebetteten Playern zusätzlich visuelles Label.
• Video: Bei Live-Übertragungen durchgehend oder am Anfang plus regelmäßige Hinweise. Bei Kurzvideos Label durchgehend ab Anfang; bei längeren Videos Anfang, Intervalle und ggf. Abspann.
• Text: An einheitlich gewählter, klar erkennbarer Position – oberhalb des Texts, an der Headline oder im Impressumsblock am Beitragsanfang. Bei nur teilweise KI-generierten Texten genügt die Kennzeichnung des betreffenden Teils.

Sonderfall künstlerische, kreative und satirische Deepfakes:

Art. 50 Abs. 4 UA 1 S. 3 AI Act erlaubt eine erleichterte Offenlegung, die den Werkgenuss nicht beeinträchtigt. Ein Hinweis im Vor- und Abspann eines Spielfilms genügt typischerweise; permanente Einblendungen sind nicht erforderlich. Wichtig: Die Kennzeichnungserleichterung „heilt“ keine Rechtsverletzung – Persönlichkeitsrecht, Urheber– und Markenrechte sowie DSGVO bleiben uneingeschränkt zu wahren.

Welche Fragen lässt der Entwurf offen?

Abgrenzung „wesentliche Manipulation“: Ab welcher Bearbeitungsintensität wird aus einem KI-unterstützten Bild ein „manipulierter“ Inhalt im Sinne des Deepfake-Tatbestands? Der Entwurf nennt technische Audio-Bearbeitungen als Negativbeispiel, lässt aber Graubereiche, wie etwa KI-Retusche bei Stockfotos, Hintergrundersetzung, Gesichtsausschnitte, offen. Hier wird die Aufsichtspraxis ab August 2026 die Schwelle erst weiter ausdifferenzieren.

Reichweite der redaktionellen Ausnahme bei UGC und Agenturmaterial: Wer trägt die redaktionelle Verantwortung, wenn Inhalte von Freelancern, Agenturen oder Nutzern (UGC) eingespeist werden? Der Entwurf verlangt eine „klar identifizierbare“ Person – die vertragliche Pflichtenkaskade zwischen Medienhaus, Agentur und Freelancer bleibt offen und gilt es daher vertraglich zu regeln.

Zusammenspiel mit DSGVO, Persönlichkeitsrecht und Urheberrecht: Die Kennzeichnungspflicht steht eigenständig neben anderen Regelwerken. Ein gekennzeichneter Deepfake kann gleichzeitig eine Persönlichkeitsrechtsverletzung, ein Urheberrechtsverstoß oder eine unzulässige Datenverarbeitung sein. Das praktische Verhältnis – insbesondere zu §§ 22, 23 KUG und Art. 6 DSGVO – muss in jedem Einzelfall geprüft werden.

Plattformverantwortung: Die Leitlinien ermutigen Plattformen, vorhandene Kennzeichnungen beim Teilen zu erhalten, statuieren aber keine eigenständige Plattformpflicht. Das Zusammenspiel mit DSA-Pflichten bleibt offen.

Was bedeutet das konkret für Medien, Unternehmen und Behörden?

Die Kennzeichnungspflicht nach Art. 50 AI Act betrifft nicht nur klassische Medienhäuser. Immer dann, wenn KI-generierte oder -manipulierte Inhalte , ob Bild, Video, Audio oder Text, an eine unbestimmte Personenzahl gelangen, stellt sich die Frage nach Art. 50 Abs. 4 AI Act. Der Leitlinienentwurf gibt dafür erstmals einen klaren Prüfrahmen vor.

Für Medienhäuser, Verlage und Redaktionen:

Die redaktionelle Ausnahme ist der entscheidende Hebel. Sie greift aber nur bei echter inhaltlicher Prüfung mit dokumentierter Verantwortungszuweisung. Wer KI-Workflows einsetzt, sollte jetzt prüfen: Welche Inhalte werden KI-unterstützt erstellt? Welche durchlaufen echte redaktionelle Kontrolle? Wo ist die Verantwortungskette dokumentiert? Eine Aktualisierung interner Redaktionsrichtlinien und Freelancer-Verträge wird in den meisten Häusern erforderlich sein.

Für Unternehmen mit KI-gestütztem Marketing, Kommunikation und Customer Service:

Auch außerhalb klassischer Redaktionen kann die Kennzeichnungspflicht greifen, insbesondere bei KI-generierten Produktbildern mit Authentizitätswirkung und bei externen Kommunikationsformaten mit informierender Funktion. Ein KI-Inventar sowie klare Workflows für Kennzeichnung und Dokumentation sind unverzichtbar.

Für Behörden und öffentliche Stellen:

Diese fallen als Betreiber unter Art. 50 Abs. 4 AI Act. Behördliche Warnmeldungen, Pressearbeit und Informationsangebote sind besonders sorgfältig zu prüfen, weil sie regelmäßig den Tatbestand „im öffentlichen Interesse“ erfüllen.

Für KI-Anbieter:

Auch wenn die Hauptpflicht des Abs. 4 die Betreiber trifft – Anbieter müssen über Abs. 1 (Interaktionshinweis) und Abs. 2 (maschinenlesbare Markierung) eigene Pflichten erfüllen. Konformität mit dem Verhaltenskodex ist hier der zentrale Compliance-Indikator.

Empfohlene Maßnahmen bis 2. August 2026:

Um die Kennzeichnungspflicht nach Art. 50 AI Act bis zum Stichtag umzusetzen, empfehlen wir die folgenden Punkte durchzugehen:

• KI-Inventar: Welche Systeme generieren oder manipulieren welche Inhalte?
• Workflow-Anpassung: Welche Inhalte werden gekennzeichnet, welche fallen unter die Ausnahme?
• Dokumentation: Tool, Version, prüfende Person, Datum – nachvollziehbar im CMS.
• Vertragsklauseln: Freelancer- und Agenturverträge auf KI-Klauseln und Verantwortungsverteilung prüfen.
• Schulung: Redaktionen, Marketing- und Kommunikationsteams auf die neuen Pflichten vorbereiten.

Häufige Fragen (FAQ)

Gilt die Kennzeichnungspflicht rückwirkend für Archiv-Inhalte?

Nein. Art. 50 Abs. 4 AI Act greift ab dem 2. August 2026 für ab diesem Datum veröffentlichte oder veränderte Inhalte. Eine nachträgliche Kennzeichnungspflicht für Archive sieht weder die Verordnung noch der Leitlinienentwurf vor. Wer Archiv-Inhalte ab August 2026 erneut veröffentlicht oder substantiell ändert, löst die Pflicht allerdings aus.

Wann ist die redaktionelle Ausnahme wirklich erfüllt?

Nur, wenn ein Mensch inhaltlich prüft – Richtigkeit, Plausibilität, Quellen – und die Redaktion die Verantwortung klar trägt. KI-unterstützte Artikelentwürfe mit echter redaktioneller Überarbeitung sind erfasst, ebenso KI-Routineberichte (Wetter, Bilanzkurzmeldungen, Sport) mit Plausibilitätsprüfung. Nicht erfasst: fast vollständig KI-geschriebene Kommentare mit nur sprachlichem Polieren, automatisierte Übersetzungen ohne Substanzprüfung und Aggregations-Ticker ohne Vorabprüfung.

Was gilt für Marketing-Content und Social-Media-Posts?

Reine Produktbewerbung und unternehmenseigene Kommunikation fallen grundsätzlich nicht unter den Tatbestand „im öffentlichen Interesse“. Wer Marketing-Inhalte mit redaktioneller Anmutung erstellt, beispielsweise Native Advertising zu Gesundheits- oder Finanzthemen, kann allerdings in den Anwendungsbereich rücken. Bei KI-generierten Produktbildern mit Authentizitätsanmutung greift zudem der Deepfake-Tatbestand unabhängig vom Marketingkontext.

Welches Bußgeldrisiko besteht konkret?

Bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4 AI Act) – je nachdem, welcher Betrag höher ist. Eine Verwarnungspraxis vor Bußgeldfestsetzung ist nicht vorgesehen. KMU und Startups erhalten nach dem Digital-Omnibus-Entwurf voraussichtlich eine automatische Bußgeldreduktion (50 % für KMU, 75 % für Kleinstunternehmen).

Gelten die Pflichten auch für Anbieter außerhalb der EU?

Ja. Der AI Act folgt dem Marktortprinzip. Wer KI-generierte Inhalte in der EU veröffentlicht oder sie hier zugänglich macht, fällt unter Art. 50 – unabhängig vom Sitz des Betreibers.

Beratungsangebot

Wir beraten Medienhäuser, Verlage, öffentliche Stellen, Bildungsunternehmen und KI-Anbieter zu allen Fragen der AI-Act-Compliance – von der Bestandsaufnahme über die Workflow- und Vertragsgestaltung bis zur Durchsetzung gegenüber Aufsichtsbehörden.

Für die Standortbestimmung bieten wir strukturierte Erstanalysen an, für die Implementierung übernehmen wir die Anpassung von Redaktionsrichtlinien, Verträgen und Dokumentation. Für interne Teams führen wir Workshops und Schulungen durch – auf Wunsch branchenspezifisch.

Termin oder unverbindliches Vorgespräch: Mail an Dr. Kerstin Bäcker