Diskurs

Ab dem 2. August 2026 gilt in der gesamten Europäischen Union: Wer beruflich Deepfakes veröffentlicht, muss offenlegen, dass die Inhalte künstlich erzeugt oder verändert wurden.

Wer ein generatives KI-System anbietet, muss den Output maschinenlesbar kennzeichnen. Was auf den ersten Blick nach Compliance-Bürokratie klingt, ist in Wahrheit eine der weitreichendsten Änderungen der letzten Jahre und für Urheber:innen und ausübende Künstler:innen der erste Rechtsakt, der die Unterscheidbarkeit menschlicher und maschineller Schöpfung zum Gegenstand einer durchsetzbaren Pflicht macht.

Die Kennzeichnungspflicht ist keine bloße Formalie

Die öffentliche Debatte über Art. 50 KI-VO dreht sich fast ausschließlich um den Aufwand, der nun bei Unternehmen entsteht, die KI in Medien und Werbung einsetzen.

Das eigentlich Neue ist aber die Beweislast des Authentischen. Solange synthetische Bilder, Stimmen und Videos nicht mehr unterscheidbar neben Originalen stehen, kehrt sich die Vermutung um: Nicht mehr die Fälschung muss sich rechtfertigen, sondern das Echte.

Die Entwertung der Originale, die sich faktisch spätestens im letzten Jahr in der Werbung, in Zeitschriften, in Plakaten, Videos und Podcasts eingeschlichen hat, trifft Journalismus, Justiz, politische Öffentlichkeit und Persönlichkeitsschutz gleichermaßen, und sie trifft zuerst diejenigen, deren Bilder, Gesichter und Stimmen öffentlich verfügbar sind.

Für Kreative kommt eine zweite Dimension hinzu. Die Zuschreibbarkeit einer geistigen Leistung ist die ökonomische und ideelle Grundlage des gesamten Urheberrechts. Ein Markt, in dem niemand mehr erkennen kann, ob eine Illustration gezeichnet, eine Stimme gesprochen, eine Komposition erdacht wurde, ist kein Markt für schöpferische Arbeit mehr, sondern ein Markt für austauschbare Oberflächen. Sichtbarkeit maschineller Herkunft ist deshalb die Voraussetzung dafür, dass menschliche Urheberschaft überhaupt noch als Qualitätsmerkmal, als Auswahlkriterium und als Verhandlungsposition wirken kann.

Insofern ist Art. 50 der KI-VO ausdrücklich zu begrüßen. Er löst nicht die Vergütungsfrage, er ersetzt keine Rechteklärung beim Training – aber er schafft die Wahrnehmbarkeit, ohne die alle anderen Fragen gar nicht erst gestellt werden können.

Die Systematik

Die Verordnung unterscheidet konsequent zwischen Anbietern („provider“) und Betreibern („deployer“). Anbieter entwickeln KI-Systeme und bringen sie unter eigenem Namen auf den Markt. Betreiber setzen solche Systeme in eigener Verantwortung beruflich ein. Wer ein fremdes Werkzeug nutzt, ist Betreiber – wer ein eigenes System unter eigener Marke anbietet, ist Anbieter. Beide Rollen können zusammenfallen.

Art. 50 Abs. 1 KI-VO – Die Interaktion mit einem Anbieter

KI-Systeme, die unmittelbar mit Menschen interagieren, müssen so gestaltet sein, dass die betroffene Person erkennt, dass sie mit einer Maschine spricht – es sei denn, das ist aus den Umständen offensichtlich. Die finalen Leitlinien der Kommission sehen diese Pflicht auch für KI-Agenten vor: Agenten müssen so ausgelegt sein, dass sie ihre maschinelle Natur und die Identität derjenigen Person offenlegen, in deren Auftrag sie handeln. Ob Sie nun einen Agenten programmieren, der für Sie Kleinanzeigen verwaltet oder E-Mails beantwortet: Ihr Gegenüber muss wissen, dass es sich um einen KI-Helfer handelt.

Art. 50 Abs. 2 KI-VO – Maschinenlesbare Kennzeichnung durch den Anbieter

Anbieter generativer Systeme müssen synthetische Audio-, Bild-, Video- und Textausgaben in einem maschinenlesbaren Format markieren und als künstlich erzeugt erkennbar machen, mit Wasserzeichen, Metadaten, Provenienzdaten. Die Kennzeichnungen müssen haltbar, und zuverlässig sein, soweit technisch machbar. Maschinenlesbar bedeutet, dass diese Art der Kennzeichnung für den Menschen nicht ohne Software erkennbar ist, beim Nachweis über die Originalität von Inhalten, etwa bei journalistischen Bildern, hat diese Kennzeichnung eine überragend wichtige Rolle.

Art. 50 Abs. 3 KI-VO – Emotionserkennung und biometrische Kategorisierung (Betreiber)

Auch, wenn KI-Systeme zur Emotionserkennung oder zur biometrischen Kategorisierung eingesetzt werden, müssen die Betroffenen über den Einsatz zu informiert werden, zum Beispiel vor den Gates zur automatischen Passkontrolle am Flughafen.

Art. 50 Abs. 4 KI-VO – Kennzeichnung durch Betreiber

Deepfakes in Bild, Ton und Video müssen offengelegt werden. Der Deepfake-Begriff ist viel weiter, als die meisten annehmen. Art. 3 Nr. 60 KI-VO definiert Deepfakes als KI-erzeugte oder -manipulierte Bild-, Ton- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt erscheinen würden. Sobald also ein KI-Erzeugnis (Bild, Ton oder Video) als theoretisch real erscheinen könnte, eine Stadt, ein Bild von einem Baum, einer Pizza oder einer Person, greift die Kennzeichnungspflicht. Erfasst ist auch, was plausibel existieren könnte. Das photorealistische Porträt einer vollständig erfundenen Person fällt damit unter den Begriff. Auch in der Werbung gilt: Ein Produkt vor KI-generiertem Hintergrund ist unproblematisch. Ein KI-Bild, das das Produkt besser aussehen lässt, als es ist, ist ein Deepfake.

Was ist dann kein Deepfake? KI-Bilder, die ganz klar unrealistische Szenen zeigen, wie beispielsweise eine fliegende Schildkröte. Kleine Retuschen, wie Helligkeitsänderungen oder ein unscharfer Hintergrund, der mit KI erzeugt wird, muss nicht gekennzeichnet werden.

Auch für Kunst gibt es eine Ausnahme. Die Kunstausnahme ist aber kein Freibrief. Bildet der Deepfake ein offensichtlich künstlerisches, kreatives, satirisches oder fiktionales Werk oder ein Teil davon ab, darf die Kennzeichnung im Kontext erfolgen und muss nicht im Werk selbst sichtbar sein – das geht etwa im Abspann oder als Info-Zeile unter einem Bild. Rein informative oder kommerzielle Inhalte können sich auf die Ausnahme aber nicht berufen, und wo sich informative und kreative Elemente mischen, setzt sich der informative Charakter durch. Für Werbung wird die Ausnahme nur in eng umgrenzten Sonderfällen anerkannt. Sämtliche Werbebeispiele des Code of Practice (Leitlinien) verlangen die reguläre Kennzeichnung.

KI-generierte oder -veränderte Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, müssen ebenfalls gekennzeichnet werden – es sei denn, sie haben eine menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen und eine identifizierbare natürliche oder juristische Person trägt die redaktionelle Verantwortung. Wichtig: Diese Ausnahme gilt nur für Text. Für Deepfakes in Bild, Audio und Video gibt es sie nicht. Eine bloße Rechtschreib- oder Formalprüfung genügt nicht, ein Mensch muss den Text inhaltlich verantworten. Textkennzeichnung betrifft vor allem den journalistischen Bereich und sorgt dafür, dass die Online-Nachrichtenwelt nicht ohne Verantwortlichen mit (noch mehr) zweifelhaften, massenhaft maschinengenerierten Inhalten überschwemmt wird.

Art. 50 Abs. 5 KI-VO – Generelle Anforderungen

KI Kennzeichnung muss klar, unterscheidbar und spätestens zum Zeitpunkt der ersten Interaktion oder Exposition erfolgen und sie muss den geltenden Barrierefreiheitsanforderungen entsprechen.

Die Fristen

Der 2. August 2026 gilt für die Abs. 1, 3, 4 und 5 unverändert. Der „Digital Omnibus“ (Europäisches Gesetzgebungspaket das einige Pflichten hinausschieben wird) hat hier – anders als bei den Hochrisiko-Pflichten – nichts verändert.

Für die technische Markierung nach Abs. 2 sieht der „Omnibus“ für Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, einen Übergangszeitraum bis zum 2. Dezember 2026 vor.

Ein dritter, in der Diskussion fast durchweg übersehener Stichtag ist der 2. Februar 2027: Bis dahin müssen Anbieter eine Interoperabilitätslösung für die Erkennung von Wasserzeichen bereitstellen. Erst dieser Termin entscheidet darüber, ob Markierungen systemübergreifend auslesbar sind oder ob jeder Anbieter in seinem eigenen Format markiert und die Kennzeichnung praktisch wertlos bleibt.

In Deutschland sind die Umsetzungsgesetze seit dem 29. Juli 2026 in Kraft: Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) macht die Bundesnetzagentur zur zentralen Marktüberwachungs-, Anlauf- und Beschwerdestelle. Für Presse und Rundfunk soll es, aus Gründen der Staatsferne, bei der Zuständigkeit der Landesmedienanstalten bleiben. Für redaktionelle Deepfake- und Textkennzeichnung gibt es also eine bewusst getrennte Aufsicht.

Der Code of Practice – die praktischen Leitlinien

Am 10. Juni 2026 hat die Kommission den Code of Practice on Transparency of AI-Generated Content veröffentlicht, erarbeitet in einem Multi-Stakeholder-Verfahren unter Beteiligung von Industrie, Wissenschaft, Zivilgesellschaft und Rechteinhabern, auch unter Beteiligung der Initiative Urheberrecht. Er hat zwei Abschnitte: Abschnitt 1 zur Markierung und Erkennung durch Anbieter, Abschnitt 2 zur Kennzeichnung von Deepfakes und Texten durch Betreiber. Beide Abschnitte können getrennt gezeichnet werden.

Am 8. und 9. Juli 2026 haben Kommission und KI-Ausschuss den Kodex förmlich als angemessen bewertet. Damit ist er derzeit das einzige EU-weit anerkannte Instrument, mit dem sich die Einhaltung der Art. 50 Abs. 2, 4 und 5 praktisch nachweisen lässt – unabhängig vom Sitz und von der zuständigen Marktüberwachungsbehörde. Die Aufsicht wird sich bei Unterzeichnern auf die Überwachung der Kodex-Einhaltung konzentrieren. Zeichnet jemand den Code of Practice, kann das auch als mildernder Umstand bei der Bußgeldbemessung berücksichtigt werden, wenn trotzdem etwas schiefgeht. Wer eigene Wege geht, trägt die Darlegungslast selbst. Ein konkludenter Freibrief ist der Kodex nicht: Die Einhaltung begründet keinen abschließenden Nachweis der Rechtskonformität.

Für Verbände der Urheber:innenund Künstler:innen ist die zweite Funktion des Kodex mindestens ebenso wichtig: Die Kommission organisiert Signatory Taskforces, in denen Praxiserfahrung geteilt und die Umsetzung fortentwickelt wird. Wer dort nicht vertreten ist, überlässt die Ausgestaltung der Kennzeichnungspraxis vollständig den Anbietern.

Die Labels

Die Kommission hat einen offiziellen EU-Icon-Satz entwickelt – drei Symbole: ein Grundzeichen, eines für vollständig KI-generierte und eines für teilweise KI-veränderte Inhalte. Frei nutzbar, ohne Attributionspflicht, in SVG und PNG, in schwarz, weiß und je 50 % transparent. Die Icons sind nicht verpflichtend, aber die Nutzung dieser Kennzeichnungsoptik wird geraten.

Noch zwei weitere wichtige Aspekte:

Die Kennzeichnung muss das Teilen und Herunterladen überleben. Sie ist grundsätzlich direkt in den Inhalt einzubetten (außer bei Kunstwerken). Eine bloße Plattform- Lösung (als loses Overlay) genügt nur, wenn sie gleichwertig ist. Ein Label, das beim Repost verschwindet, erfüllt die Pflicht nicht.

Barrierefreiheit bleibt auch Pflicht. Das Icon soll über Alt-Text oder ARIA-Label für assistive Technologien lesbar sein. Begleittext soll in einfacher Sprache gehalten sein. Zeitlich begrenzte Einblendungen müssen lange genug stehenbleiben, um auch von Menschen mit kognitiven Einschränkungen erfasst zu werden. Eine simple Wasserzeichen-Grafik in der Bildecke ist für blinde Nutzer:innen eben nicht wahrnehmbar.

Was das für Urheber:innen und ausübende Künstler:innen bedeutet

Art. 50 KI-VO regelt Wahrnehmbarkeit, nicht Zulässigkeit. Ein ordnungsgemäß gekennzeichneter Deepfake bleibt ein Eingriff in Persönlichkeits-, Leistungsschutz- und gegebenenfalls Urheberrechte. Die Offenlegung heilt nichts, sie macht den Eingriff nur sichtbar und nachweisbar.

Der eigentliche Gewinn ist die Sichtbarkeit. Was ab dem 2. August und dann verschärft ab Dezember 2026 und Februar 2027 aufgebaut wird, ist ein europaweites System maschinenlesbarer Herkunftsdaten. Dieselbe Infrastruktur, die „von KI erzeugt" transportiert, kann Rechteinformationen, Urhebernennungen und Nutzungsvorbehalte transportieren. Wer heute die Standardisierung mitgestaltet, entscheidet mit darüber, ob in den Metadaten später auch Urheberdaten stehen.

Leider gibt es auch Lücken

Einmal wieder die gut durch Lobbyisten gehüteten Privilegien der Plattformen: Hosting-Dienste, Online-Plattformen und Rundfunkveranstalter sind nach den finalen Leitlinien überraschenderweise keine Betreiber, wenn sie sich auf die Verbreitung fremder Inhalte beschränken und keine Verfügungsgewalt über das KI-System haben. Das Anbringen eines Labels macht einen Verbreiter noch nicht zum Betreiber. Die Verantwortung bleibt damit bei dem oft schwer greifbaren Ersteller.

Auch die private, nicht-berufliche Nutzung fällt nicht unter den Betreiberbegriff – ein erheblicher Teil der real zirkulierenden Deepfakes bleibt also außen vor und damit ein riesiger Teil der unter dem Label „privat“ laufenden Fake-Information über Social Media, der auch politisch eine immer größere und bedrohlichere Rolle spielt.

Immerhin: Der Digital Omnibus hat Art. 5 KI-VO um ein Verbot von KI-Systemen ergänzt, die Darstellungen sexuellen Kindesmissbrauchs oder nicht-einvernehmliche intime Darstellungen identifizierbarer Personen erzeugen. Auch das wird wirksam ab dem 2. Dezember 2026. Das ist kein Transparenz-, sondern ein Verbotstatbestand, und er adressiert die Missbrauchsform, unter der Betroffene am unmittelbarsten leiden.

 

Mein Fazit

Art. 50 KI-VO ist keine perfekte Norm. Die Plattformlücke ist nicht zu verstehen und hat dramatische Folgen, auch die im demokratischen Leben immer wichtigere private Nutzung, gerade in Social Media, bleibt außen vor. Zudem steht und fällt die Wirksamkeit mit einer Interoperabilität, die erst 2027 kommt.

Dennoch leistet die Regelung Wichtiges und Großes. Zum ersten Mal wird die maschinelle Herkunft von Bildern, Stimmen und Videos zu einer rechtlich geschuldeten, technisch verankerten und behördlich überwachten Eigenschaft des Inhalts selbst.

Für Urheber:innen und ausübende Künstler:innen ist das mehr als ein Verbraucherschutzinstrument. Es ist der Anfang einer Infrastruktur, in der Herkunft überhaupt wieder feststellbar wird.

Und ohne Feststellbarkeit gibt es weder Zuschreibung, noch Vergütung noch Schutz. Die Initiative Urheberrecht wird die weitere Ausgestaltung, insbesondere die Standardisierung der Provenienzdaten und die Praxis der Kunstausnahme sehr aufmerksam begleiten.

 

Stand: 30. Juli 2026. Dieser Beitrag gibt eine erste Einordnung und schafft Überblick. Er ersetzt keine Rechtsberatung im Einzelfall.

 

Sabine Richly, MBA, LL.M., Rechtsanwältin