KI-Kennzeichnungspflicht: Das gilt nach dem EU AI Act

Fakten zuerst: Ab dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Acts. Sie betreffen Unternehmen, Selbstständige und Behörden, die bestimmte KI-Systeme einsetzen oder KI-generierte Inhalte veröffentlichen. Entgegen vieler Schlagzeilen bedeutet das jedoch nicht, dass künftig jeder mit KI-geschriebene Text oder jedes KI-Bild automatisch gekennzeichnet werden muss. Entscheidend ist, welche Inhalte veröffentlicht werden und in welchem Zusammenhang sie entstehen. Eine Ausnahme bildet die maschinenlesbare Kennzeichnung KI-generierter Inhalte: Für KI-Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden, greift diese Verpflichtung erst ab dem 2. Dezember 2026.

Warum gerade jetzt so viel über die KI-Kennzeichnungspflicht gesprochen wird

Künstliche Intelligenz hat sich in den vergangenen Jahren vom Experiment zum Arbeitswerkzeug entwickelt.

Unternehmen schreiben Blogartikel mit Large Language Models (LLM) wie ChatGPT, erstellen Bilder mit KI oder integrieren intelligente Chatbots auf ihrer Website. Gleichzeitig wächst der Wunsch nach klaren Regeln. Schließlich sollen Nutzer erkennen können, wann sie mit einer KI interagieren oder KI-generierte Inhalte sehen.

Genau an diesem Punkt setzt der EU AI Act an.

Mit dem Gesetz schafft die Europäische Union erstmals einen einheitlichen Rechtsrahmen für den Einsatz künstlicher Intelligenz. Ein Teil davon sind die Transparenzpflichten nach Artikel 50, die ab dem 2. August 2026 gelten. Ihr Ziel ist es, Transparenz zu schaffen und Täuschungen zu vermeiden – nicht den Einsatz von KI zu verhindern. 

Was bedeutet die KI-Kennzeichnungspflicht eigentlich?

Der Begriff „KI-Kennzeichnungspflicht“ wird derzeit häufig verwendet. Juristisch ist er allerdings etwas verkürzt.

Tatsächlich enthält Artikel 50 des EU AI Acts mehrere Transparenzpflichten. Je nach Anwendungsfall gelten unterschiedliche Anforderungen. Nicht jedes Unternehmen wird mit allen Regelungen gleichermaßen in Berührung kommen.

Zur Orientierung lassen sich die Transparenzpflichten in fünf Bereiche einteilen:

Die fünf Transparenzpflichten des EU AI Acts

1. Transparenz bei der Interaktion mit KI

Wer Nutzer mit einem KI-System interagieren lässt – beispielsweise über einen KI-Chatbot auf der Unternehmenswebsite oder eine KI-gestützte Hotline – muss klar darauf hinweisen, dass die Kommunikation mit einer künstlichen Intelligenz erfolgt. Ein Hinweis könnte beispielsweise lauten:

"Sie kommunizieren mit unserem KI-Assistenten."

2. Maschinenlesbare Kennzeichnung KI-generierter Inhalte

Anbieter von KI-Systemen, die Texte, Bilder, Audio oder Videos erzeugen, müssen diese Inhalte künftig technisch so kennzeichnen, dass andere Systeme sie automatisiert als KI-generiert erkennen können. Diese Pflicht richtet sich in erster Linie an Entwickler eigener KI-Lösungen und weniger an Unternehmen, die bestehende KI-Tools lediglich nutzen.

Wichtig: Die Transparenzpflichten gelten grundsätzlich ab dem 2. August 2026. Für KI-Systeme, die bereits vor diesem Datum auf den Markt gebracht wurden, gilt bei der maschinenlesbaren Kennzeichnung jedoch eine Übergangsfrist bis zum 2. Dezember 2026.

3. Transparenz bei Emotionserkennung und biometrischer Kategorisierung

Unternehmen, die KI einsetzen, um Emotionen zu erkennen oder Personen biometrisch zu kategorisieren, müssen die betroffenen Personen darüber informieren. Diese Regelung betrifft vor allem spezielle Anwendungsfälle und spielt für die meisten Unternehmen im Marketingalltag eine untergeordnete Rolle.

4. Kennzeichnung von Deepfakes

Deutlich relevanter für Marketing und Social Media ist die Regelung zu sogenannten Deepfakes.

Der Begriff wird häufig ausschließlich mit manipulierten Videos prominenter Persönlichkeiten verbunden. Die gesetzliche Definition ist jedoch deutlich weiter.

Ein Deepfake ist ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt, der echten Personen, Gegenständen, Orten oder Ereignissen ähnelt und dadurch als authentisch wahrgenommen werden könnte. 

Das kann beispielsweise betreffen:

• fotorealistische KI-Bilder echter Produkte,
• manipulierte Unternehmensfotos,
• KI-generierte Videos realer Personen,
• veränderte Audiodateien.

Nicht jede kleine Bildbearbeitung fällt automatisch darunter. Klassische Anpassungen wie Helligkeit oder Kontrast lösen regelmäßig keine Transparenzpflicht aus.

Wer jedoch reale Inhalte mit KI wesentlich verändert oder vollständig neu erzeugt, sollte sorgfältig prüfen, ob eine Kennzeichnung erforderlich ist.

Die Kennzeichnung muss klar wahrnehmbar sein und direkt beim Inhalt erfolgen. Für Kunst oder Satire gelten teilweise Erleichterungen, die Transparenzpflicht entfällt jedoch nicht vollständig.

5. Kennzeichnung bestimmter KI-generierter Texte

Der EU AI Act sieht keine allgemeine Kennzeichnungspflicht für alle KI-generierten Texte vor.

Relevant wird die Regelung nur dann, wenn mehrere Voraussetzungen gleichzeitig erfüllt sind.

Der Text muss:

• mit KI erzeugt oder manipuliert worden sein,
• veröffentlicht werden,
• eine Angelegenheit von öffentlichem Interesse betreffen,
• und darf nicht von einem Menschen redaktionell geprüft worden sein beziehungsweise unter dessen Verantwortung veröffentlicht werden. 

Wer einen KI-Entwurf sorgfältig prüft, freigibt und die Verantwortung für den veröffentlichten Inhalt übernimmt, fällt häufig nicht unter diese Transparenzpflicht.

Betrifft der EU AI Act auch kleine Unternehmen?

Ja.

Die Transparenzpflichten unterscheiden grundsätzlich nicht zwischen einem internationalen Konzern, einer Marketingagentur oder einem Einzelunternehmer. Entscheidend ist nicht die Unternehmensgröße, sondern ob künstliche Intelligenz im beruflichen Kontext eingesetzt wird.

Betroffen sein können unter anderem:

• Einzelunternehmer und Freiberufler
• Kleine und mittlere Unternehmen
• Agenturen
• Mittelständische Unternehmen
• Konzerne
• Behörden und öffentliche Einrichtungen

Privatpersonen, die KI ausschließlich für private Zwecke nutzen, fallen dagegen grundsätzlich nicht unter diese Transparenzpflichten. 

Anbieter oder Betreiber – warum diese Unterscheidung wichtig ist

Der EU AI Act unterscheidet zwischen zwei Rollen.

Anbieter entwickeln KI-Systeme oder lassen sie entwickeln und bringen diese unter ihrem eigenen Namen auf den Markt oder nehmen sie selbst in Betrieb. Dazu gehören beispielsweise Unternehmen, die eigene KI-Produkte oder GPT-basierte Anwendungen entwickeln.

Betreiber nutzen ein bestehendes KI-System in eigener Verantwortung, ohne es selbst entwickelt zu haben. Dazu zählen beispielsweise Unternehmen, die ChatGPT, Claude oder andere KI-Werkzeuge im Arbeitsalltag einsetzen oder einen KI-Chatbot auf ihrer Website integrieren.

Diese Unterscheidung ist wichtig, weil sich daraus unterschiedliche Transparenzpflichten ergeben.

Müssen KI-Texte jetzt gekennzeichnet werden?

Diese Frage sorgt derzeit für die meisten Missverständnisse. Die kurze Antwort lautet:

Nein – nicht automatisch.

Für Texte sieht der EU AI Act keine allgemeine Kennzeichnungspflicht vor.

Relevant wird die Regelung erst dann, wenn ein KI-generierter oder KI-manipulierter Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dazu zählen beispielsweise bestimmte politische, gesellschaftliche oder wirtschaftliche Inhalte.

Selbst dann gibt es eine wichtige Ausnahme: Wurde der Text vor der Veröffentlichung von einem Menschen redaktionell geprüft und übernimmt eine natürliche oder juristische Person die Verantwortung für den Inhalt, entfällt die Kennzeichnungspflicht. 

Für viele Unternehmen ist das eine entscheidende Information. Ein klassischer Marketingtext, eine Produktbeschreibung oder ein Social-Media-Beitrag ist nicht allein deshalb kennzeichnungspflichtig, weil eine KI beim Schreiben unterstützt hat.

KI-Chatbots müssen sich zu erkennen geben

Wer einen KI-Chatbot auf seiner Website einsetzt, sollte ebenfalls einen Blick in Artikel 50 werfen.

Nutzer müssen spätestens zu Beginn der Interaktion klar erkennen können, dass sie mit einem KI-System kommunizieren. Der Gesetzgeber schreibt dafür keinen festen Wortlaut vor. Wichtig ist, dass der Hinweis verständlich, eindeutig und gut wahrnehmbar ist.

Ist für eine durchschnittliche Person ohnehin offensichtlich, dass sie mit einer KI spricht, kann diese Informationspflicht entfallen. 

Was Unternehmen jetzt konkret tun sollten

Auch wenn sich viele Unternehmen aktuell noch mit den neuen Vorgaben beschäftigen, lassen sich bereits heute sinnvolle Vorbereitungen treffen.

Eine kurze Checkliste:

• Prüfe, an welchen Stellen im Unternehmen KI eingesetzt wird.
• Dokumentiere interne Prozesse für die Nutzung von KI.
• Lege fest, wer Inhalte vor der Veröffentlichung prüft und freigibt.
• Überprüfe den Einsatz von KI-generierten Bildern und Videos besonders sorgfältig.
• Stelle sicher, dass eingesetzte KI-Chatbots ihre Nutzer transparent informieren.

Mit diesen Maßnahmen lassen sich viele Anforderungen bereits strukturiert vorbereiten.

Welche Sanktionen drohen bei Verstößen?

Die Einhaltung der Transparenzpflichten wird in Deutschland künftig von den zuständigen Behörden überwacht.

Der EU AI Act sieht hierfür erhebliche Bußgelder vor. Je nach Verstoß können diese bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes betragen. Welche Sanktion im Einzelfall verhängt wird, hängt jedoch von verschiedenen Faktoren ab. 

Darüber hinaus können, abhängig vom konkreten Sachverhalt, weitere Risiken entstehen, etwa wettbewerbsrechtliche Auseinandersetzungen oder Probleme mit Plattformrichtlinien.

Wie kennzeichne ich meine Inhalte nach dem EU AI Act?

Der EU AI Act schreibt keinen einheitlichen Kennzeichnungstext vor. Entscheidend ist, dass der Hinweis klar, verständlich und gut wahrnehmbar ist. Wie die Kennzeichnung erfolgt, hängt vom jeweiligen Inhalt und der Transparenzpflicht ab.

Einige Beispiele aus der Praxis:

• KI-Chatbots: Ein kurzer Hinweis zu Beginn der Unterhaltung, beispielsweise „Sie kommunizieren mit einem KI-Assistenten.“
• Deepfakes (Bild, Video oder Audio): Die Kennzeichnung sollte direkt am Inhalt erfolgen, etwa durch einen sichtbaren Hinweis oder ein entsprechendes Label. Bei künstlerischen oder satirischen Inhalten kann der Hinweis auch dezenter platziert werden, beispielsweise in der Videobeschreibung oder im Abspann.
• KI-generierte Texte: Ist eine Kennzeichnung erforderlich, sollte sie gut sichtbar vor dem eigentlichen Inhalt stehen, beispielsweise als kurzer Hinweis oberhalb der Überschrift.
• Maschinenlesbare Kennzeichnung: Diese erfolgt nicht sichtbar für den Nutzer, sondern technisch – etwa über Metadaten oder digitale Wasserzeichen.

Wichtig ist außerdem: Vor dem 2. August 2026 veröffentlichte Inhalte müssen grundsätzlich nicht nachträglich gekennzeichnet werden. Werden sie jedoch nach diesem Stichtag erneut veröffentlicht oder als neuer Beitrag veröffentlicht, können die Transparenzpflichten greifen.

Fazit

Der Begriff „KI-Kennzeichnungspflicht“ klingt zunächst eindeutig. Tatsächlich sind die Regelungen des EU AI Acts deutlich differenzierter.

Nicht jeder KI-generierte Text muss gekennzeichnet werden. Nicht jedes Bild fällt automatisch unter die Transparenzpflichten. Entscheidend ist immer der konkrete Anwendungsfall.

Für Unternehmen lohnt es sich deshalb, die eigenen Prozesse jetzt zu überprüfen. Wer nachvollziehbar dokumentiert, wie Inhalte entstehen, menschliche Kontrolle sicherstellt und KI verantwortungsvoll einsetzt, schafft nicht nur eine gute Grundlage für die neuen Vorgaben, sondern stärkt auch das Vertrauen von Kunden, Partnern und Mitarbeitenden.

KI nutzen – Verantwortung behalten

Genau diesen Ansatz verfolgen wir auch bei KNOWYOURCHAT.

Unsere AI Crew unterstützt Unternehmen dabei, Social Media effizienter zu planen, Inhalte zu entwickeln und Arbeitsabläufe zu vereinfachen. Die künstliche Intelligenz liefert Ideen, erstellt Entwürfe, analysiert Daten und übernimmt wiederkehrende Aufgaben.

Die Entscheidung über die Veröffentlichung trifft jedoch immer der Mensch.

Jeder Beitrag kann vor der Veröffentlichung geprüft, angepasst und freigegeben werden. Unternehmen behalten jederzeit die Kontrolle über Inhalte, Tonalität und Aussagen. Die AI Crew arbeitet als Unterstützung im Hintergrund, nicht als Ersatz für redaktionelle Verantwortung.

Möchtest du erleben, wie KI und menschliche Kontrolle sinnvoll zusammenarbeiten? Dann registriere dich kostenlos bei KNOWYOURCHAT und lerne unsere AI Crew kennen.