Art. 50 Abs. 4 AI Act: Die finalen Leitlinien zu den Kennzeichnungspflichten liegen vor – Was sich für die Kennzeichnung von KI-Inhalten ändert

Für Eilige

Am 20. Juli 2026 hat die EU-Kommission die finalen Leitlinien zu den Transparenzpflichten nach Art. 50 AI Act veröffentlicht, abrufbar unter https://ec.europa.eu/commission/presscorner/detail/en/ip_26_1653. Sie lösen den Entwurf vom 8. Mai 2026 ab und sollen vor allem Orientierungshilfe zu den Definitionen des Artikel 50 AI Act geben (wir berichteten hier). Die AI Act Kennzeichnungspflichten für Betreiber von KI-Systemen werden bereits ab dem 2. August 2026 verbindlich.

Das Wichtigste in Kürze: Der Deepfake-Begriff ist grundsätzlich unverändert weit auszulegen, da er nicht nur reell existierende Personen, Orte, Gegenstände etc. erfasst, sondern auch solche, die diesen Elementen ähneln oder plausiblerweise existieren könnten. Die Kommission macht die Deepfake-Bewertung aber nunmehr ausdrücklich kontextabhängig, weshalb bei fiktionalen Produktionen oder im Werbekontext mangels Täuschungspotential KI-generierte/-bearbeitete Inhalte ggf. nicht unter den Deepfake-Begriff fallen. Im Textbereich werden die Anforderungen an die redaktionelle Ausnahme von der Kennzeichnungspflicht verschärft.

Die fünf wichtigsten praxisrelevanten Neuerungen auf einen Blick

• Die Einordnung als Deepfake steht im Kontext einer Gesamtbetrachtung – Einsatzkontext und Publikumserwartung sind relevante Faktoren (Rn. 114).
• Bei KI-Bearbeitungen kann daher ein anderer Maßstab für fiktionale Produktionen, Werbung und für journalistische Inhalte gelten (Rn. 116).
• Maßgeblich für die Bewertung des Täuschungspotentials ist die vernünftigerweise vorhersehbare Zielgruppe (Rn. 115).
• Bei Texten sind finanzielle Entwicklungen nun ausdrücklich auch als Thema von öffentlichem Interesse benannt.
• Die redaktionelle Ausnahme verlangt als Minimum einen Faktencheck (Rn. 134) – und entfällt bei inhaltlicher KI-Nachbearbeitung nach der bereits erfolgten Freigabe (Rn. 136, neu).

Für weitere Einzelheiten

Der Entwurf der Leitlinien vom 8. Mai 2026 hatte eine erste Orientierungshilfe zur Auslegung von Art. 50 AI Act geschaffen. Nach der Konsultation liegt seit dem 20. Juli 2026 die finale Fassung vor. Sie behält den Aufbau bei, präzisiert aber an einigen Stellen. Für Verlage, Medienhäuser und werbetreibende Unternehmen sind vor allem die Änderungen beim Deepfake-Begriff und bei der redaktionellen Ausnahme relevant.

Der begleitende Code of Practice on Transparency of AI-Generated Content (veröffentlicht am 10. Juni 2026) tritt neben die Leitlinien. Beide sind rechtlich unverbindlich, dienen aber als anerkannter Compliance-Maßstab. Die finalen Leitlinien werten den Kodex ausdrücklich zum derzeit einzigen unionsweit anerkannten praktischen Nachweisrahmen auf (Rn. 146). Wer ihm beitritt, wählt den rechtssicheren Weg; wer es nicht tut, muss über eine „Gap-Analyse“ belegen, dass seine Maßnahmen gleichwertig sind und mit häufigeren Auskunfts- und Zugangsersuchen der Behörden rechnen.

Deepfake: Vom Einzelmerkmal zur Gesamtbetrachtung (Rn. 114)

Die wichtigste Nachjustierung betrifft das vierte Tatbestandsmerkmal des Deepfakes: die Frage, ob ein Inhalt „fälschlicherweise als echt oder wahrheitsgemäß erscheinen“ würde. Die Finalfassung stellt nunmehr klar: Die Beurteilung erfolgt als Gesamtbetrachtung. Einzubeziehen sind der Grad der Ähnlichkeit, die inhaltliche Aussage, der intendierte und vorhersehbare Einsatzkontext, das Umfeld der Präsentation sowie die Erwartungshaltung des Publikums.

Die praktische Konsequenz ist wichtig: Ein objektiv nicht authentischer Inhalt kann trotzdem kein Deepfake sein, wenn er in einem Kontext eingesetzt wird, in dem das vorhersehbare Publikum ohnehin keine Authentizität erwartet. Die Kommission nennt als Beispiel die KI-Generierung von Hintergründen, Spezialeffekten oder die technische Vor- und Nachbearbeitung im Rahmen üblicher Filmproduktion; hier entsteht keine Fehlvorstellung über die Echtheit. Umgekehrt bleibt es ein Deepfake, wenn KI wahrnehmungsrelevante Kernelemente erzeugt oder verändert: vollständig KI-generierte Darsteller, digitale Repliken realer oder verstorbener Personen, De-Aging oder die unwahre Darstellung von Personen, Orten oder Ereignissen in Dokumentationen.

Für die Praxis heißt das: Fotorealismus ist zwar ein wichtiger Anhaltspunkt, aber nicht das Maß aller Dinge. Er macht einen Deepfake zwar wahrscheinlicher, ist aber nicht zwingend ausschlaggebend. Maßgeblich ist, ob der Inhalt im konkreten Kontext geeignet ist, über Echtheit oder Wahrheitsgehalt zu täuschen.

KI-Bearbeitung: Werbung kann anders beurteilt werden als journalistische Inhalte (Rn. 116)

Aus derselben kontextbezogenen Logik folgt eine Unterscheidung, die für werbetreibende Unternehmen und Redaktionen gleichermaßen wichtig ist. Unbedeutende inhaltliche oder technische KI-Bearbeitungen bereits bestehender Inhalte machen diese nicht automatisch zum Deepfake. Ob eine Bearbeitung noch unbedeutend inhaltlich ist, beurteilt die Kommission nun aber ausdrücklich kontextabhängig – und differenziert dabei ausdrücklich zwischen Werbung und journalistischen Inhalten.

Konkret gegenübergestellt werden (Rn. 116)

• Werbung / Verpackung: KI-gestützte Farbkorrektur, Hintergrunderweiterungen oder -austausch zu ästhetischen Zwecken, Anordnung bestehender Produkte oder die Reskalierung von Bildern wirken sich regelmäßig nur geringfügig auf die Wahrnehmung von Echtheit und Wahrheitsgehalt aus und kann daher kein Deepfake sein.
• Journalismus: Eine inhaltliche KI-Bearbeitung von Hintergrunddetails journalistischer Bilder über die üblichen technischen und redaktionellen Standards hinaus kann die Wahrnehmung von Echtheit und Wahrheitsgehalt hingegen negativ beeinflussen und damit die AI Act Kennzeichnungspflicht als Deepfake auslösen.

Wichtig ist zugleich die Grenze im Werbebereich: Sobald eine KI-Produktdarstellung geeignet ist, über das tatsächliche Aussehen, die Eigenschaften oder die Verwendung des Produkts zu täuschen, etwa weil das Produkt schöner oder anders erscheint als in der Realität, liegt nach den Leitlinien sehr wohl ein Deepfake vor. Die neue kontextbezogene Bewertung entlastet die Werbung also bei rein ästhetischen Eingriffen, verpflichtet sie aber klar bei irreführenden Produktabbildungen.

WICHTIG: Die Einordnung als Deepfake bleibt somit eine Einzelfallbetrachtung!

Maßstab ist die vorhersehbare Zielgruppe (Rn. 115)

Anders als bei der Interaktionstransparenz nach Art. 50 Abs. 1 AI Act, wo auf einen hypothetischen Durchschnittsnutzer abgestellt wird, kommt es beim Deepfake nicht auf einen Durchschnittsbetrachter an. Maßgeblich ist die tatsächliche, vernünftigerweise vorhersehbare Zusammensetzung des Publikums, das dem Inhalt ausgesetzt sein kann.

Texte im öffentlichen Interesse: finanzielle Entwicklungen ausdrücklich erfasst

Bei den kennzeichnungspflichtigen Texten hat die Kommission den Themenkatalog des öffentlichen Interesses minimal erweitert. Neben den bereits im Entwurf genannten Bereichen Verwaltung, Justiz und Strafverfolgung, Grundrechte, öffentliche Gesundheit, Umweltschutz, Verbrauchersicherheit sind neben Politik und demokratischen Prozessen, öffentlicher Sicherheit nun auch finanzielle Entwicklungen benannt.

Gerade die ausdrückliche Nennung finanzieller Entwicklungen hat Gewicht. Sie erfasst typische Formate wie KI-gestützt erstellte oder bearbeitete Investorenmitteilungen, Geschäfts- und Nachhaltigkeitsberichte oder Kapitalmarktinformationen, soweit sie veröffentlicht werden und Allgemeinrelevanz besitzen.

Redaktionelle Ausnahme: Faktencheck als Minimum (Rn. 134)

Für Texte entfällt die Kennzeichnungspflicht, wenn kumulativ eine menschliche Überprüfung oder redaktionelle Kontrolle stattfindet und eine identifizierbare Person/Unternehmen die redaktionelle Verantwortung trägt. Die Finalfassung der Leitlinien verschärft die inhaltlichen Anforderungen an diese Prüfung nunmehr deutlich.

Menschliche Überprüfung ist nach Rn. 134 die gezielte Prüfung des Inhalts durch eine oder mehrere natürliche Personen, die über einschlägiges Wissen und fachliches Urteilsvermögen in Bezug auf den zu prüfenden Sachverhalt verfügen (z. B. akademische Begutachtung durch Fachkollegen oder professionelle Validierungsketten). Entscheidend ist der neue klarstellende Zusatz: Die Prüfung der Richtigkeit des Inhalts (Fact-Checking) ist Mindestbestandteil dieser Überprüfung.

Eine rein formale oder sprachliche Kontrolle, wie Rechtschreibung, Grammatik, genügt nach wie vor nicht. Ebenso wenig reichen das bloße Vorhandensein einer Redaktionsrichtlinie, automatisierte Prüfprozesse oder eine oberflächliche Freigabe ohne substanzielle Befassung.

Neu und in der Praxis wichtig: KI-Eingriffe nach der Freigabe (Rn. 136)

Die wichtigste Neuerung bei der redaktionellen Ausnahme hat im Entwurf noch gefehlt. Nach Rn. 136 der Finalfassung gilt: Werden KI-Systeme eingesetzt, um Inhalte nach der redaktionellen Freigabe zu verändern, zu ergänzen oder umzuformulieren, ist der resultierende erneut kennzeichnungspflichtig. Jeder inhaltliche KI-Eingriff nach der menschlichen Überprüfung oder redaktionellen Kontrolle lässt damit die Ausnahme entfallen.

Das trifft einen in der Praxis häufigen Workflow: Redaktion gibt frei, danach optimiert ein KI-Tool automatisiert Überschriften, kürzt für Social Media oder formuliert Teaser um. Genau dieser nachgelagerte Schritt kann die mühsam gesicherte Ausnahme wieder zerstören. Wer sich auf die redaktionelle Ausnahme stützt, sollte daher eine „Freigabe-Sperre“ etablieren: Nach der inhaltlichen Freigabe darf kein substanzieller KI-Eingriff mehr erfolgen, oder der Inhalt ist zu kennzeichnen. Rein technische oder kosmetische Anpassungen bleiben zulässig; entscheidend ist eine inhaltliche Bearbeitung.

Was unverändert bleibt

Der generelle Ansatz des Entwurfs, vor allem bezüglich einer weiten Auslegung Deepfakes und der „Texte im öffentlichen Interesse“ gilt unverändert. Insbesondere müssen die abgebildeten Personen, Orte, Gegenstände nicht reell existieren.

Die Betreiber-Kennzeichnung nach Abs. 4 muss für Menschen sichtbar und erkennbar sein, die maschinenlesbare Anbieter-Markierung nach Abs. 2 genügt dafür ausdrücklich nicht.

Zu kennzeichnen ist klar und unterscheidbar, spätestens bei erster Konfrontation, verständlich auch für Laien und vulnerable Gruppen, barrierefrei und nicht in AGB oder Untermenüs versteckt. Für künstlerische, kreative, satirische oder fiktionale Deepfakes bleibt es bei der abgeschwächten Offenlegung, wobei die Finalfassung betont, dass diese Kategorien eng auszulegen sind und bei Mischformen der informative oder kommerzielle Charakter überwiegt.

Empfohlene Maßnahmen bis zum 2. August 2026

• KI-Inventar: Welche Systeme generieren oder manipulieren welche Inhalte und in welchem Verbreitungskontext?
• Deepfake-Screening erweitern: Kontext- und Publikumsbewertung integrieren; KI-Produktdarstellungen gesondert auf Irreführungspotenzial prüfen.
• „Freigabe-Sperre“ verankern: Nach redaktioneller Freigabe kein substanzieller KI-Eingriff mehr. Workflow und CMS entsprechend absichern.
• Faktencheck dokumentieren: Inhaltliche Kontrolle nachvollziehbar machen; Verantwortung im Impressum ausweisen.
• Verträge und Schulung: Freelancer- und Agenturklauseln sowie Redaktions- und Marketing-Teams auf die neuen Pflichten einstellen.
• Code of Practice: Prozesse nah daran orientieren; ggf. Gap-Analyse durchführen.

Häufige Fragen (FAQ)

Ändert sich am Stichtag oder am Bußgeldrisiko etwas?

Nein. Art. 50 AI Act gilt ab dem 2. August 2026, das Bußgeldrisiko liegt unverändert bei bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4 AI Act). Für die maschinenlesbare Markierung bestehender generativer Systeme nach Abs. 2 sieht der Digital-Omnibus on AI  eine Übergangsfrist bis zum 2. Dezember 2026 vor; die sichtbare Betreiber-Kennzeichnung nach Abs. 4 gilt jedoch ohne Aufschub ab dem 2. August 2026.

Zudem kann ein Verstoß gegen die AI Act Kennzeichnungspflichten auch als Wettbewerbsverstoß geahndet werden.

Wann ist die redaktionelle Ausnahme bei Texten jetzt wirklich erfüllt?

Nur, wenn ein fachlich kompetenter Mensch den Inhalt prüft, einschließlich soweit relevant Faktencheck als Minimum, und die Redaktion die Verantwortung klar trägt. Neu und entscheidend: Findet nach der Freigabe noch ein KI-Eingriff in den Inhalt statt (etwa automatisierte Umformulierung oder Kürzung), entfällt die Ausnahme, und der Inhalt ist zu kennzeichnen.

Wie wirkt sich die AI Act Kennzeichnungspflicht auf Werbebilder aus?

Rein ästhetische Eingriffe, Farbkorrektur, Hintergrundaustausch, Reskalierung lösen in der Regel keine Deepfake-Kennzeichnung aus. Sobald die Darstellung aber über Aussehen, Eigenschaften oder Verwendung des Produkts täuschen kann, greift der Deepfake-Tatbestand unabhängig vom Marketingkontext.

Müssen Archiv-Inhalte nachträglich gekennzeichnet werden?

Nein. Vor dem 2. August 2026 generierte und veröffentlichte Inhalte müssen nicht rückwirkend gekennzeichnet werden. Wer sie ab dem Stichtag erneut veröffentlicht oder substanziell verändert, löst die Pflicht allerdings aus. Vor dem Stichtag erzeugte, aber erst danach veröffentlichte Texte sind zu kennzeichnen.