KI-Inhalte kennzeichnen: Was Nutzer (= Betreiber) von KI-Systemen ab 2. August 2026 beachten müssen

Generative KI ist in Marketing, Unternehmenskommunikation und Social Media längst angekommen. Texte werden durch Sprachmodelle formuliert, Bilder und Videos künstlich erzeugt, Wohnungen virtuell eingerichtet und Stimmen synthetisiert.

Spätestens ab dem 2. August 2026 stellt sich deshalb für viele Nutzer von KI eine neue Frage:

Muss jeder Inhalt erkennbar gemacht werden, der mit künstlicher Intelligenz erstellt oder verändert wurde?

NEIN, entgegen zahlreicher irreführender Linkedin Posts und weit einem weiter verbreitetem Irrglauben, führt nicht jeder KI-Einsatz  zu einer Kennzeichnungspflicht. Tatsächlich fordert die KI-Verordnung eine Kennzeichnung nur in ganz bestimmten in Art. 50 KI-VO recht  eindeutig definierten Fällen zu einer gesetzlichen Pflicht, diesen zu kennzeichnen.

Art. 50 KI-VO unterscheidet zudem zwischen den Pflichten an die Anbieter von KI-Systemen (wie OpenAI, Microsoft usw.) und die Nutzer von KI-Systemen, die in der KI-Verordnung Betreiber genannt werden.

Aufgrund der erheblichen Relevanz beschränke ich mich in dem nachfolgenden Beitrag zunächst auf die Kennzeichnungspflichten der Betreiber (= Nutzer) von KI-Systemen.

1. Wer ist überhaupt „Betreiber“ eines KI-Systems?

Die deutsche Fassung der KI-Verordnung bezeichnet den „Deployer“ als Betreiber. Betreiber ist grundsätzlich jeder, der ein KI-System in eigener Verantwortung verwendet. Ausgenommen ist lediglich eine Nutzung im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit.

Ein Unternehmen, das mit einem externen Bildgenerator Werbemotive erstellt, ist daher regelmäßig Betreiber. Gleiches gilt für eine Agentur, die mit einem Sprachmodell Pressemitteilungen entwirft oder für eine Organisation, die KI-generierte Videos über ihre Social-Media-Kanäle verbreitet.

2. Welche Transparenzpflichten treffen Betreiber?

Neben der in der Beratungspraxis derzeit eher nicht so relevanten Kennzeichnung bei KI-basierter Emotionserkennung oder biometrischer Kategorisierung sieht Art. 50 Abs. 4 KI-VO für Betreiber Kennzeichnungspflichten für Deepfakes und bestimmten KI-Texte vor.

Danach müssen Betreiber offenlegen, wenn sie

• einen Deepfake erzeugen oder manipulieren und einsetzen oder
• einen KI-generierten beziehungsweise KI-manipulierten Text veröffentlichen, der die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informieren soll.

Die Offenlegung muss nach Art. 50 Abs. 5 KI-VO klar, unterscheidbar und spätestens bei der ersten Wahrnehmung erfolgen.

3. Was ist ein kennzeichnungspflichtiger Deepfake?

Der Begriff „Deepfake“ wird häufig mit gefälschten Politiker-Videos oder einem Face-Swap gleichgesetzt. Die Definition der KI-Verordnung ist allerdings etwas weiter.

Ein Deepfake ist gemäß Art. 4 Nr. 60 KI-VO ein durch KI erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einem Menschen fälschlich als authentisch oder wahrheitsgemäß erscheinen würde.

Damit können insbesondere folgende Inhalte erfasst sein:

• eine synthetisch nachgebildete Stimme
• ein KI-generiertes Foto eines vermeintlich realen Produkts
• eine künstlich erzeugte Aufnahme eines nicht stattgefundenen Ereignisses
• ein Face-Swap in einem authentischen Foto
• eine reale Wohnung, die mithilfe von KI virtuell möbliert wird
• ein Video, in dem Mimik, Stimme oder Äußerungen einer Person verändert werden

Deepfakes betreffen also nicht nur Menschen. Auch Gegenstände, Räume, Orte, Organisationen und Ereignisse können Gegenstand einer täuschend echt wirkenden KI-Darstellung sein. Die EU-Kommission nennt die virtuelle Einrichtung einer authentisch fotografierten Wohnung ausdrücklich als Beispiel für einen teilweise durch KI veränderten Inhalt.

Neben der KI-basierten Bearbeitung oder Erstellung kommt es für die Einordnung als Deepfake also darauf an, ob das Bild bzw. der Audio- oder Videoinhalt geeignet ist, bei dem Rezipienten eine falsche Vorstellung hervorzurufen.

In meinen Vorträgen bezeichne ich diese Kriterium gerne als „Täuschungseignung“. Nur wenn der KI-Inhalt dazu gedacht oder zumindest geeignet ist, eine Täuschung hervorzurufen, kann ein Deepfake angenommen werden, der dann zu kennzeichnen wäre.

4. Wird jede KI-Bild oder Videobearbeitung zum Deepfake?

Nein. Dass ein KI-Werkzeug an einem Bild oder Video beteiligt war, führt nicht automatisch zur Offenlegungspflicht.

Der bislang veröffentlichte Entwurf der Kommissionsleitlinien, die wohl als wesentliche Auslegungshilfe herangezogen werden können, unterscheidet insbesondere zwischen bloßer technischer Nachbearbeitung und einer inhaltlichen  Veränderung.

Bloße unwesentliche Veränderungen von Bildern, Audio- und Videoinhalten wie

• geringfügiger Zuschnitt
• übliche Helligkeits- oder Farbkorrekturen
• Rauschunterdrückung
• Komprimierung
• bloße Formatumwandlungen

dürften damit wohl keinen Deepfake darstellen, mithin nicht kennzeichnungspflichtig sein.

Deutlich eher für einen kennzeichnungspflichtigen Deepfake sprechen:

• Hinzufügen oder Entfernen von Personen oder Gegenständen
• Austausch von Gesichtern
• Veränderung der Körperform, Stimme oder Mimik
• Kombination mehrerer Aufnahmen zu einem scheinbar authentischen Gesamtbild
• erhebliche Veränderung von Aussage, Stil oder Intention
• Darstellung eines Ereignisses, das so nicht stattgefunden hat

Vereinfacht gesagt:

Wenn nur optimiert wird, muss nicht automatisch gekennzeichnet werden. Wenn die Bedeutung oder Realitätswirkung verändert wird, sollte eher gekennzeichnet werden.

Grenzfälle bleiben dabei natürlich einzelfallabhängig. Wer unsicher ist, kennzeichnet dann eben lieber einmal zu viel, als einmal zu wenig.

5. Welche KI-generierten Texte müssen gekennzeichnet werden?

Art. 50 Abs. 4 KI-VO erfasst nicht jeden Text, den ein Betreiber mit ChatGPT oder einem anderen Sprachmodell erstellt.

Die Pflicht betrifft Texte, die

1. durch ein KI-System erzeugt oder manipuliert wurden,
2. veröffentlicht werden und
3. dazu dienen, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Typische Berührungspunkte können sich etwa bei politischen, gesellschaftlichen, gesundheitsbezogenen, wirtschaftlichen oder sicherheitsrelevanten Veröffentlichungen ergeben. Ob eine konkrete Unternehmensmeldung eine Angelegenheit von öffentlichem Interesse betrifft, muss anhand von Thema, Zielgruppe, Reichweite und Kommunikationszweck beurteilt werden.

Eine gewöhnliche interne E-Mail oder eine rein verkaufsbezogene Produktbeschreibung wird deshalb nicht allein durch den Einsatz eines Sprachmodells kennzeichnungspflichtig.

Ausnahme bei menschlicher Prüfung und redaktioneller Verantwortung

Die Offenlegungspflicht für Texte entfällt, wenn zwei Voraussetzungen gemeinsam erfüllt sind:

• Der Inhalt wurde einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen.
• Eine natürliche oder juristische Person übernimmt die redaktionelle Verantwortung für die Veröffentlichung.

Ein kurzer Blick auf den Text oder das bloße Anklicken eines Freigabefeldes dürfte dafür nicht in jedem Fall genügen. Die Prüfung sollte inhaltlich geeignet sein, Fehler, irreführende Aussagen, fehlenden Kontext und problematische Quellen zu erkennen. Außerdem muss klar sein, wer die Veröffentlichung verantwortet.

Wenn ein Text also noch einmal ernsthaft von einem Menschen gegengeprüft wird, was im Hinblick auf mögliche Halluzinationen generell zu empfehlen ist,  wird dieser nach Art. 50 KI-VO wohl nicht zu kennzeichnen sein.

6. Wie muss die Kennzeichnung aussehen?

Der Gesetzestext verlangt eine Offenlegung, die klar und unterscheidbar ist und spätestens bei der ersten Interaktion oder Wahrnehmung erfolgt.

Daraus folgt: Ein allgemeiner Hinweis im Impressum, in den AGB, in einer Profilbeschreibung oder auf einer nachgeordneten Informationsseite reicht regelmäßig nicht aus. Das Publikum muss den KI-Hinweis wahrnehmen können, wenn es erstmals mit dem konkreten Inhalt konfrontiert wird.

a) Bilder

Bei Bildern sollte der Hinweis unmittelbar auf dem Bild oder als gleichwertiges, deutlich sichtbares Overlay erscheinen. Er darf nicht durch andere Schaltflächen, Untertitel oder Plattformelemente verdeckt werden.

b) Videos

Bei Videos soll der Hinweis jedenfalls zu Beginn erscheinen. Bei längeren oder live übertragenen Inhalten sind zusätzliche Einblendungen in angemessenen Abständen und zumindest nach Unterbrechungen, etwa nach Werbepausen zu empfehlen. Dies ist besonders relevant, weil Nutzer nur Ausschnitte sehen oder einzelne Videofragmente weiterverbreiten können.

c) Audioinhalte

Ist keine visuelle Kennzeichnung möglich, muss ein verständlicher hörbarer Hinweis erfolgen. Bei längeren Audioinhalten können wiederholte Hinweise oder eindeutige akustische Signale erforderlich sein.

d) Texte

Bei veröffentlichten Texten sollte das Label am Anfang, oberhalb des Textes, in der Nähe der Überschrift oder an einer vergleichbar gut wahrnehmbaren Stelle stehen. Ein Hinweis erst am Ende eines langen Artikels dürfte die Anforderung der ersten Wahrnehmung regelmäßig nicht erfüllen.

7. Welche Bedeutung haben die neuen EU-Icons?

Die EU-Kommission stellt drei Arten von Icons bereit:

Dieses Label ist für Inhalte vorgesehen, die vollständig durch KI erzeugt wurden. Ein menschlicher Prompt gilt dabei noch nicht als menschlich erstellter Bestandteil des Inhalts.

„AI MODIFIED“

Dieses Label passt, wenn ein vorhandener menschlich erstellter Inhalt durch KI so verändert wurde, dass daraus ein Deepfake oder ein erfasster manipulierter Text wird.

Allgemeines „AI“-Icon

Die Verwendung der EU-Icons ist freiwillig. Die Transparenzpflicht selbst ist es nicht. Ein Unternehmen darf daher ein eigenes Label verwenden,   sofern dieses ebenso klar, verständlich, unterscheidbar und barrierefrei ist.

Für Inhalte, die sich an ein deutschsprachiges Publikum richten, bietet sich eine Kombination an:

AI MODIFIED – Dieses Bild wurde mithilfe künstlicher Intelligenz verändert.

So wird das einheitliche Symbol genutzt, ohne vorauszusetzen, dass alle Betrachter die englische Beschriftung sicher verstehen.

8. Kunst und Satire sind nicht vollständig ausgenommen

Für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke gilt eine Erleichterung. Die Offenlegung darf so gestaltet werden, dass Darstellung und Genuss des Werks nicht beeinträchtigt werden.

9. Fazit

Art. 50 KI-VO führt nicht zu einer pauschalen Pflicht, jede Verwendung künstlicher Intelligenz offenzulegen.

Betreiber, also Nutzer von KI-Systemen müssen vielmehr differenzieren:

Ein geringfügig optimiertes Foto ist nicht automatisch ein Deepfake. Ein rein interner KI-Text ist nicht automatisch eine Veröffentlichung über eine Angelegenheit von öffentlichem Interesse. Und ein menschlich geprüfter Text mit klarer redaktioneller Verantwortung kann von der Offenlegungspflicht ausgenommen sein.

Greift die Pflicht jedoch, muss die Kennzeichnung früh, deutlich, verständlich, barrierefrei und möglichst dauerhaft mit dem Inhalt verbunden sein. Ein versteckter Disclaimer oder ein allgemeiner Hinweis in der Social-Media-Biografie genügt nicht.

Für die Praxis empfiehlt sich deshalb keine undifferenzierte Regel „Alles mit KI kennzeichnen“, sondern ein nachvollziehbarer Prozess.

Unternehmen und andere Organisationen, die die Einhaltung der Kennzeichnungspflichten bzw. anderer (teils deutlich wichtigerer) rechtlicher Vorgaben sicherstellen wollen, sollten verständliche KI-Richtlinien einführen und/oder die Mitarbeitenden anderweitig (z.B. mit Schulungen) sensibilisieren.