Kennzeichnungspflichten nach Art. 50 KI-VO: Anforderungen, Ausnahmen und Umsetzung - Ein Überblick über die neuen Transparenzvorgaben für KI-Inhalte seit dem 02.08.2026
Kennzeichnungspflichten nach Art. 50 KI-VO: Anforderungen, Ausnahmen und Umsetzung - Ein Überblick über die neuen Transparenzvorgaben für KI-Inhalte seit dem 02.08.2026
von Rechtsanwalt Marcus Beckmann
Seit dem 2. August 2026 gelten die Transparenz- und Kennzeichnungspflichten des Art. 50 der Verordnung (EU) 2024/1689 (KI-Verordnung, KI-VO). Sie verpflichten Anbieter und Betreiber bestimmter KI-Systeme, KI-generierte oder KI-manipulierte Inhalte gegenüber den Empfängern kenntlich zu machen. Einen pauschalen Kennzeichnungszwang für alle KI-generierten Inhalte enthält die Verordnung nicht. Ob eine Pflicht besteht, richtet sich nach dem jeweiligen Tatbestand und hängt insbesondere vom Inhalt, dem Verwendungszweck und dem Grad menschlicher Kontrolle ab.
I. Normadressaten: Anbieter und Betreiber
Art. 50 KI-VO unterscheidet zwischen zwei Adressatengruppen. Anbieter sind Unternehmen oder natürliche Personen, die ein KI-System entwickeln oder entwickeln lassen und es in Verkehr bringen. Betreiber ist nach Art. 3 Nr. 4 KI-VO jede natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Welche Pflichten im Einzelfall treffen, hängt davon ab, welcher Gruppe man angehört.
Art. 50 Abs. 1 und Abs. 2 richten sich primär an Anbieter. Sie müssen die technischen Voraussetzungen dafür schaffen, dass Kennzeichnungen überhaupt möglich sind. Art. 50 Abs. 4 richtet sich an Betreiber. Sie treffen die eigentliche Kennzeichnungspflicht gegenüber dem Publikum. Ein Unternehmen, das ein generatives KI-System einsetzt, um Inhalte zu erstellen und zu veröffentlichen, ist Betreiber und muss kennzeichnen. Ob der Anbieter seinen eigenen Pflichten nachgekommen ist, spielt dabei keine Rolle.
Anbieter- und Betreibereigenschaft können zusammenfallen, etwa wenn ein Unternehmen ein eigenes KI-System entwickelt und selbst einsetzt. Wer hingegen ein fremdes System wie ChatGPT in eigener Verantwortung nutzt, ist ausschließlich Betreiber.
II. Die Pflichttatbestände
Art. 50 KI-VO enthält fünf Pflichttatbestände. Ob eine Pflicht besteht, ist für jeden Tatbestand gesondert zu prüfen.
1. Interaktion mit natürlichen Personen (Art. 50 Abs. 1 KI-VO)
Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen sicherstellen, dass die betreffende Person erkennt, mit einem KI-System zu interagieren. Das Wort „bestimmt" in Art. 50 Abs. 1 KI-VO knüpft an die Zweckbestimmung des Systems an. Erfasst sind Chatbots, Sprachassistenten und Voicebots, die für den unmittelbaren Dialog mit Menschen ausgelegt sind.
Der Hinweis muss klar und unterscheidbar erteilt werden (Art. 50 Abs. 5 KI-VO) und spätestens zu Beginn der Interaktion erfolgen. Die Pflicht entfällt, wenn die KI-Natur des Systems für einen aufmerksamen und verständigen Nutzer aus dem Kontext ohnehin erkennbar ist. Den Hinweis in allgemeinen Nutzungsbedingungen oder der Datenschutzerklärung zu vergraben reicht nicht.
Betreiber, die ein solches System einsetzen, unterliegen derselben Pflicht, soweit sie das System nicht vollständig nach den Vorgaben des Anbieters verwenden. Wer ein Standardprodukt unverändert einsetzt und der Anbieter bereits einen konformen Hinweis integriert hat, wird regelmäßig keiner eigenständigen Pflicht unterliegen. Wer das System in eine eigene Nutzeroberfläche einbettet und den Kontext dabei verändert, trägt die Verantwortung selbst.
2. Maschinenlesbare Kennzeichnung synthetischer Inhalte (Art. 50 Abs. 2 KI-VO)
Anbieter generativer KI-Systeme müssen sicherstellen, dass synthetische Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht betrifft die technische Ebene der Ausgaben, nicht die visuelle Kennzeichnung gegenüber Endnutzern.
Als Umsetzungsmethoden kommen Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise und digitale Fingerabdrücke in Betracht. Nach Art. 50 Abs. 2 S. 2 KI-VO müssen die Lösungen wirksam, interoperabel, belastbar und zuverlässig sein. Verbindliche technische Normen stehen noch aus; die Kommission hat in ihren Leitlinien erste Konkretisierungen vorgelegt.
Die Pflicht gilt nicht, soweit das KI-System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten nicht wesentlich verändert. Maßgeblich ist, ob das System den semantischen Gehalt oder die visuelle Substanz des Inhalts wesentlich beeinflusst. Formatkonvertierungen oder automatisierte Rechtschreibkorrekturen fallen damit heraus.
3. Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3 KI-VO)
Betreiber von KI-Systemen zur Erkennung von Emotionen oder zur biometrischen Kategorisierung natürlicher Personen müssen die betroffenen Personen über den Betrieb des Systems informieren. Der Tatbestand erfasst Systeme, die aus wahrnehmbaren Merkmalen einer Person – etwa Mimik, Stimme oder Körperhaltung – auf emotionale Zustände oder demografische Eigenschaften schließen, ebenso wie Systeme zur biometrischen Identifikation.
Die Informationspflicht besteht unabhängig davon, ob die Ergebnisse zu individuellen Entscheidungen genutzt werden. Der Hinweis muss erfolgen, bevor die betroffene Person dem System ausgesetzt wird, und er muss klar und unterscheidbar sein. Allgemeine Hinweise, die nicht spezifisch auf den KI-Betrieb hinweisen, genügen nicht.
Eine Ausnahme gilt für KI-Systeme im Bereich der Strafverfolgung, soweit die Unterrichtung die Ermittlungen gefährden würde. Die Ausnahme ist eng auszulegen.
4. Deepfakes (Art. 50 Abs. 4 S. 1 KI-VO)
Betreiber, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die vorhandenen Personen, Gegenständen, Orten oder Ereignissen ähneln und von einer Person fälschlicherweise für echt gehalten werden könnten, müssen kenntlich machen, dass es sich um künstlich erzeugte oder manipulierte Inhalte handelt.
Der Begriff des Deepfakes ist in Art. 50 Abs. 4 S. 1 KI-VO definiert. Erfasst sind Bild-, Audio- oder Videoinhalte, die vorhandenen Personen, Gegenständen, Orten oder Ereignissen ähneln und von einer Person fälschlicherweise für echt oder wahrheitsgemäß gehalten werden könnten. Maßgeblich ist die objektive Verwechslungsgefahr aus der Perspektive eines durchschnittlichen Betrachters. Täuschungsabsicht setzt der Tatbestand nicht voraus. Erfasst sind vollständig synthetisch erzeugte Inhalte ebenso wie solche, bei denen reales Material KI-gestützt so verändert wurde, dass es einen falschen Eindruck von der Wirklichkeit erzeugt. Nicht erfasst sind offensichtlich stilisierte oder animierte Inhalte ohne Realitätsanmutung sowie technische Bearbeitungen, die den Aussagegehalt des Inhalts nicht verändern. Die Kommission stellt in ihren Leitlinien klar, dass auch fiktive Darstellungen erfasst sein können, wenn sie realistisch genug wirken, um mit echten Personen, Orten oder Ereignissen verwechselt zu werden.
Das Gesetz schreibt keine bestimmte Kennzeichnungsform vor. Der Hinweis muss klar und unterscheidbar sein (Art. 50 Abs. 5 KI-VO). Zulässig sind textliche Hinweise, visuelle Labels oder die offiziellen EU-Icons, auch in Kombination. Der Hinweis muss für den Empfänger unmittelbar wahrnehmbar sein. Bei Videoinhalten empfiehlt sich eine durchgehend sichtbare oder zumindest zu Beginn und am Ende eingeblendete Kennzeichnung. Bei Audioinhalten ist ein gesprochener oder eingeblendeter Hinweis zu Beginn der Aufnahme sachgerecht. Bei Bildern sollte die Kennzeichnung im Bild selbst oder unmittelbar darunter angebracht sein. Eine Bildunterschrift, die beim Teilen verlorengeht, reicht nicht.
Eine Ausnahme gilt für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke, sofern die Kennzeichnung deren Charakter oder Genuss nicht unangemessen beeinträchtigt. Der satirische oder künstlerische Charakter muss ohne weiteres erkennbar sein. Im Zweifel ist zu kennzeichnen.
5. Texte im öffentlichen Interesse (Art. 50 Abs. 4 S. 2 KI-VO)
Betreiber, die KI-Systeme einsetzen, um Texte zu erzeugen oder zu manipulieren, die der öffentlichen Information dienen, müssen kenntlich machen, dass der Text KI-generiert oder KI-manipuliert ist. Der Tatbestand greift, wenn der Text einer unbestimmten größeren Personenzahl zugänglich gemacht wird und Angelegenheiten von öffentlichem Interesse betrifft – also etwa Politik, Verwaltung, Gesundheit, Umwelt, Wirtschaft oder Wissenschaft.
Ob ein Text unter den Tatbestand fällt, bestimmt sich danach, ob er den Zweck verfolgt, die Öffentlichkeit über Angelegenheiten von allgemeiner Bedeutung zu informieren. Reine Produktwerbung fällt nicht darunter, weil ihr dieser Informationszweck fehlt. Redaktionelle Fachbeiträge und Nachrichtentexte können hingegen erfasst sein.
Nicht jeder solche Text muss gekennzeichnet werden. Die Verordnung nimmt Texte aus, die vor der Veröffentlichung einer menschlichen redaktionellen Kontrolle unterzogen wurden und für die eine klar identifizierbare natürliche oder juristische Person die redaktionelle Verantwortung übernimmt (Art. 50 Abs. 4 UA 2 S. 2 KI-VO).
Was als ausreichende redaktionelle Kontrolle gilt, ist die entscheidende Frage. Eine reine Rechtschreib- oder Formatprüfung reicht nicht aus. Wer einen KI-generierten Text auf Tippfehler durchsieht und ihn anschließend unverändert veröffentlicht, kann sich auf die Ausnahme nicht berufen. Erforderlich ist eine inhaltliche Prüfung auf Richtigkeit, Vollständigkeit und Ausgewogenheit durch eine Person, die den Text eigenständig beurteilt und die Möglichkeit hat, ihn zu ändern oder die Veröffentlichung abzulehnen. Die Kommission stellt in ihren Leitlinien klar, dass es nicht auf den Umfang der tatsächlich vorgenommenen Änderungen ankommt, sondern auf die Ernsthaftigkeit der Prüfung. Ein Text kann also auch dann ohne Kennzeichnung erscheinen, wenn er nach der Prüfung unverändert bleibt, sofern die Kontrolle inhaltlich ernsthaft war und die Verantwortung klar übernommen wurde. Wer sich auf die Ausnahme berufen will, sollte den Prüfungsvorgang dokumentieren.
Für Deepfakes gilt die Ausnahme nicht. Bei Bild-, Audio- und Videoinhalten greift sie unabhängig vom Ausmaß menschlicher Nachbearbeitung nicht.
III. EU-Icons und Code of Practice
Die EU-Kommission hat am 10. Juni 2026 offizielle EU-Icons veröffentlicht, die zur Kennzeichnung KI-generierter oder KI-manipulierter Inhalte verwendet werden können. Der begleitende Verhaltenskodex ist freiwillig. Er gibt Anbietern und Betreibern praktische Orientierung bei der Umsetzung der Transparenzpflichten, ersetzt aber nicht die gesetzlichen Anforderungen der KI-VO. Icons und weitere Informationen stellt die Kommission unter digital-strategy.ec.europa.eu bereit.
Wer den Kodex unterzeichnet, kann von einer harmonisierten Aufsichtspraxis profitieren. Die Kommission hat angekündigt, sich bei Durchsetzungsmaßnahmen gegenüber Unterzeichnern vorrangig am Kodex zu orientieren.
IV. Marktüberwachung und Sanktionen
In Deutschland liegt die Marktüberwachung überwiegend bei der Bundesnetzagentur. Sektorspezifisch sind daneben BaFin, BSI und BfArM zuständig. Grundlage ist das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG).
Art. 50 KI-VO sieht Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. Diese Höchstgrenzen sind kein Maßstab für den Regelfall. Bei der Bemessung berücksichtigen die zuständigen Behörden Schwere und Dauer des Verstoßes, ob vorsätzlich oder fahrlässig gehandelt wurde, die wirtschaftliche Leistungsfähigkeit des Unternehmens sowie die Kooperation mit der Behörde. Daneben drohen wettbewerbsrechtliche Abmahnungen durch Mitbewerber und Abmahnvereine.
V. Handlungsbedarf
Unternehmen müssen zahlreiche Maßnahmen ergreifen, um die Transparenzvorgaben aus Art. 50 KI-VO rechtssicher umzusetzen.
1. Bestandsaufnahme und Verantwortlichkeiten
Voraussetzung für eine rechtssichere Umsetzung ist ein vollständiger Überblick über alle im Unternehmen eingesetzten KI-Anwendungen. Dies umfasst Sprachmodelle, Bildgeneratoren, Kundenservice-Bots sowie automatisierte Marketing-Tools. Zur Bestandsaufnahme gehört ebenso die Erfassung bereits in der Vergangenheit erstellter KI-Inhalte, die weiterhin online abrufbar sind oder auf Drittplattformen verbreitet wurden. Für jeden einzelnen Anwendungsfall ist zu prüfen, ob das Unternehmen lediglich als Betreiber einer fremden Software agiert oder durch Eigenentwicklungen, Whitelabeling oder tiefe Systemanpassungen rechtlich die Rolle des Anbieters einnimmt.
2. Technische Umsetzung und Abläufe
Bei interaktiven Systemen wie Chatbots oder Voicebots ist ein Hinweis einzurichten, der Nutzer gleich zu Beginn der Interaktion über den Einsatz künstlicher Intelligenz informiert. Für täuschend echte Bild-, Audio- oder Videoinhalte sind feste Workflows für sichtbare oder hörbare Auszeichnungen zu etablieren. Hierfür kommen dezent eingeblendete Hinweistexte oder die visuellen Vorlagen des EU AI Office in Betracht. Bei der Veröffentlichung KI-gestützter Texte zu Angelegenheiten von öffentlichem Interesse erfordert die Praxis eine Grundsatzentscheidung. Entweder werden entsprechende Texte konsequent gekennzeichnet oder es wird ein dokumentierter Prüfprozess eingerichtet, bei dem eine qualifizierte Person den Inhalt inhaltlich kontrolliert und die redaktionelle Verantwortung übernimmt.
3. Betriebsinterne Vorgaben und Vertragsgestaltung
Die gesetzlichen Pflichten erfordern die Anpassung interner Compliance-Richtlinien und KI-Guidelines. Dies stellt eine einheitliche Prüfung und Kennzeichnung im laufenden Betrieb sicher. Darüber hinaus sind Verträge mit Agenturen, freien Mitarbeitern und sonstigen Dienstleistern anzupassen. Vertragliche Regelungen müssen sicherstellen, dass Auftragnehmer die Kennzeichnungspflichten einhalten und bei der Inanspruchnahme von Ausnahmetatbeständen – wie der redaktionellen Kontrolle nach Art. 50 Abs. 4 UA 2 S. 2 KI-VO – die erforderliche Dokumentation erbringen.
VI. Verordnungstext
Art. 50 KI-VO – Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme (Auszug)
(1) Die Anbieter stellen sicher, dass KI‑Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI‑System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts offensichtlich.
(2) Anbieter von KI‑Systemen, einschließlich KI‑Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI‑Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Anbieter sorgen dafür, dass – soweit technisch möglich – ihre technischen Lösungen wirksam, interoperabel, belastbar und zuverlässig sind. Diese Pflicht gilt nicht, soweit die KI‑Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern.
(3) Betreiber eines KI‑Systems zur Emotionserkennung oder zur biometrischen Kategorisierung informieren die natürlichen Personen, die solchen Systemen ausgesetzt sind, über den Betrieb des KI‑Systems.
(4) Betreiber eines KI‑Systems, das Bild‑, Audio‑ oder Videoinhalte erzeugt oder manipuliert, die vorhandenen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und von einer Person fälschlicherweise für echt oder wahrheitsgemäß gehalten werden könnten (Deepfakes), machen kenntlich, dass es sich um künstlich erzeugte oder manipulierte Inhalte handelt.
Betreiber eines KI‑Systems, das Texte erzeugt oder manipuliert, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden, machen kenntlich, dass diese Texte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung einer menschlichen Überprüfung unterliegt und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte übernimmt.
Die Pflichten nach den Unterabsätzen 1 und 2 gelten nicht für KI‑Systeme, die für offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge Zwecke zugelassen oder in Verkehr gebracht wurden, sofern die Offenlegung die Darstellung oder den Genuss eines Werks nicht unangemessen beeinträchtigt.
(5) Die in den Absätzen 1 und 4 genannten Informationen und Angaben werden den natürlichen Personen so mitgeteilt, dass sie klar und unterscheidbar sind.
von Rechtsanwalt Marcus Beckmann
Seit dem 2. August 2026 gelten die Transparenz- und Kennzeichnungspflichten des Art. 50 der Verordnung (EU) 2024/1689 (KI-Verordnung, KI-VO). Sie verpflichten Anbieter und Betreiber bestimmter KI-Systeme, KI-generierte oder KI-manipulierte Inhalte gegenüber den Empfängern kenntlich zu machen. Einen pauschalen Kennzeichnungszwang für alle KI-generierten Inhalte enthält die Verordnung nicht. Ob eine Pflicht besteht, richtet sich nach dem jeweiligen Tatbestand und hängt insbesondere vom Inhalt, dem Verwendungszweck und dem Grad menschlicher Kontrolle ab.
I. Normadressaten: Anbieter und Betreiber
Art. 50 KI-VO unterscheidet zwischen zwei Adressatengruppen. Anbieter sind Unternehmen oder natürliche Personen, die ein KI-System entwickeln oder entwickeln lassen und es in Verkehr bringen. Betreiber ist nach Art. 3 Nr. 4 KI-VO jede natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Welche Pflichten im Einzelfall treffen, hängt davon ab, welcher Gruppe man angehört.
Art. 50 Abs. 1 und Abs. 2 richten sich primär an Anbieter. Sie müssen die technischen Voraussetzungen dafür schaffen, dass Kennzeichnungen überhaupt möglich sind. Art. 50 Abs. 4 richtet sich an Betreiber. Sie treffen die eigentliche Kennzeichnungspflicht gegenüber dem Publikum. Ein Unternehmen, das ein generatives KI-System einsetzt, um Inhalte zu erstellen und zu veröffentlichen, ist Betreiber und muss kennzeichnen. Ob der Anbieter seinen eigenen Pflichten nachgekommen ist, spielt dabei keine Rolle.
Anbieter- und Betreibereigenschaft können zusammenfallen, etwa wenn ein Unternehmen ein eigenes KI-System entwickelt und selbst einsetzt. Wer hingegen ein fremdes System wie ChatGPT in eigener Verantwortung nutzt, ist ausschließlich Betreiber.
II. Die Pflichttatbestände
Art. 50 KI-VO enthält fünf Pflichttatbestände. Ob eine Pflicht besteht, ist für jeden Tatbestand gesondert zu prüfen.
1. Interaktion mit natürlichen Personen (Art. 50 Abs. 1 KI-VO)
Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen sicherstellen, dass die betreffende Person erkennt, mit einem KI-System zu interagieren. Das Wort „bestimmt" in Art. 50 Abs. 1 KI-VO knüpft an die Zweckbestimmung des Systems an. Erfasst sind Chatbots, Sprachassistenten und Voicebots, die für den unmittelbaren Dialog mit Menschen ausgelegt sind.
Der Hinweis muss klar und unterscheidbar erteilt werden (Art. 50 Abs. 5 KI-VO) und spätestens zu Beginn der Interaktion erfolgen. Die Pflicht entfällt, wenn die KI-Natur des Systems für einen aufmerksamen und verständigen Nutzer aus dem Kontext ohnehin erkennbar ist. Den Hinweis in allgemeinen Nutzungsbedingungen oder der Datenschutzerklärung zu vergraben reicht nicht.
Betreiber, die ein solches System einsetzen, unterliegen derselben Pflicht, soweit sie das System nicht vollständig nach den Vorgaben des Anbieters verwenden. Wer ein Standardprodukt unverändert einsetzt und der Anbieter bereits einen konformen Hinweis integriert hat, wird regelmäßig keiner eigenständigen Pflicht unterliegen. Wer das System in eine eigene Nutzeroberfläche einbettet und den Kontext dabei verändert, trägt die Verantwortung selbst.
2. Maschinenlesbare Kennzeichnung synthetischer Inhalte (Art. 50 Abs. 2 KI-VO)
Anbieter generativer KI-Systeme müssen sicherstellen, dass synthetische Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht betrifft die technische Ebene der Ausgaben, nicht die visuelle Kennzeichnung gegenüber Endnutzern.
Als Umsetzungsmethoden kommen Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise und digitale Fingerabdrücke in Betracht. Nach Art. 50 Abs. 2 S. 2 KI-VO müssen die Lösungen wirksam, interoperabel, belastbar und zuverlässig sein. Verbindliche technische Normen stehen noch aus; die Kommission hat in ihren Leitlinien erste Konkretisierungen vorgelegt.
Die Pflicht gilt nicht, soweit das KI-System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten nicht wesentlich verändert. Maßgeblich ist, ob das System den semantischen Gehalt oder die visuelle Substanz des Inhalts wesentlich beeinflusst. Formatkonvertierungen oder automatisierte Rechtschreibkorrekturen fallen damit heraus.
3. Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3 KI-VO)
Betreiber von KI-Systemen zur Erkennung von Emotionen oder zur biometrischen Kategorisierung natürlicher Personen müssen die betroffenen Personen über den Betrieb des Systems informieren. Der Tatbestand erfasst Systeme, die aus wahrnehmbaren Merkmalen einer Person – etwa Mimik, Stimme oder Körperhaltung – auf emotionale Zustände oder demografische Eigenschaften schließen, ebenso wie Systeme zur biometrischen Identifikation.
Die Informationspflicht besteht unabhängig davon, ob die Ergebnisse zu individuellen Entscheidungen genutzt werden. Der Hinweis muss erfolgen, bevor die betroffene Person dem System ausgesetzt wird, und er muss klar und unterscheidbar sein. Allgemeine Hinweise, die nicht spezifisch auf den KI-Betrieb hinweisen, genügen nicht.
Eine Ausnahme gilt für KI-Systeme im Bereich der Strafverfolgung, soweit die Unterrichtung die Ermittlungen gefährden würde. Die Ausnahme ist eng auszulegen.
4. Deepfakes (Art. 50 Abs. 4 S. 1 KI-VO)
Betreiber, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die vorhandenen Personen, Gegenständen, Orten oder Ereignissen ähneln und von einer Person fälschlicherweise für echt gehalten werden könnten, müssen kenntlich machen, dass es sich um künstlich erzeugte oder manipulierte Inhalte handelt.
Der Begriff des Deepfakes ist in Art. 50 Abs. 4 S. 1 KI-VO definiert. Erfasst sind Bild-, Audio- oder Videoinhalte, die vorhandenen Personen, Gegenständen, Orten oder Ereignissen ähneln und von einer Person fälschlicherweise für echt oder wahrheitsgemäß gehalten werden könnten. Maßgeblich ist die objektive Verwechslungsgefahr aus der Perspektive eines durchschnittlichen Betrachters. Täuschungsabsicht setzt der Tatbestand nicht voraus. Erfasst sind vollständig synthetisch erzeugte Inhalte ebenso wie solche, bei denen reales Material KI-gestützt so verändert wurde, dass es einen falschen Eindruck von der Wirklichkeit erzeugt. Nicht erfasst sind offensichtlich stilisierte oder animierte Inhalte ohne Realitätsanmutung sowie technische Bearbeitungen, die den Aussagegehalt des Inhalts nicht verändern. Die Kommission stellt in ihren Leitlinien klar, dass auch fiktive Darstellungen erfasst sein können, wenn sie realistisch genug wirken, um mit echten Personen, Orten oder Ereignissen verwechselt zu werden.
Das Gesetz schreibt keine bestimmte Kennzeichnungsform vor. Der Hinweis muss klar und unterscheidbar sein (Art. 50 Abs. 5 KI-VO). Zulässig sind textliche Hinweise, visuelle Labels oder die offiziellen EU-Icons, auch in Kombination. Der Hinweis muss für den Empfänger unmittelbar wahrnehmbar sein. Bei Videoinhalten empfiehlt sich eine durchgehend sichtbare oder zumindest zu Beginn und am Ende eingeblendete Kennzeichnung. Bei Audioinhalten ist ein gesprochener oder eingeblendeter Hinweis zu Beginn der Aufnahme sachgerecht. Bei Bildern sollte die Kennzeichnung im Bild selbst oder unmittelbar darunter angebracht sein. Eine Bildunterschrift, die beim Teilen verlorengeht, reicht nicht.
Eine Ausnahme gilt für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke, sofern die Kennzeichnung deren Charakter oder Genuss nicht unangemessen beeinträchtigt. Der satirische oder künstlerische Charakter muss ohne weiteres erkennbar sein. Im Zweifel ist zu kennzeichnen.
5. Texte im öffentlichen Interesse (Art. 50 Abs. 4 S. 2 KI-VO)
Betreiber, die KI-Systeme einsetzen, um Texte zu erzeugen oder zu manipulieren, die der öffentlichen Information dienen, müssen kenntlich machen, dass der Text KI-generiert oder KI-manipuliert ist. Der Tatbestand greift, wenn der Text einer unbestimmten größeren Personenzahl zugänglich gemacht wird und Angelegenheiten von öffentlichem Interesse betrifft – also etwa Politik, Verwaltung, Gesundheit, Umwelt, Wirtschaft oder Wissenschaft.
Ob ein Text unter den Tatbestand fällt, bestimmt sich danach, ob er den Zweck verfolgt, die Öffentlichkeit über Angelegenheiten von allgemeiner Bedeutung zu informieren. Reine Produktwerbung fällt nicht darunter, weil ihr dieser Informationszweck fehlt. Redaktionelle Fachbeiträge und Nachrichtentexte können hingegen erfasst sein.
Nicht jeder solche Text muss gekennzeichnet werden. Die Verordnung nimmt Texte aus, die vor der Veröffentlichung einer menschlichen redaktionellen Kontrolle unterzogen wurden und für die eine klar identifizierbare natürliche oder juristische Person die redaktionelle Verantwortung übernimmt (Art. 50 Abs. 4 UA 2 S. 2 KI-VO).
Was als ausreichende redaktionelle Kontrolle gilt, ist die entscheidende Frage. Eine reine Rechtschreib- oder Formatprüfung reicht nicht aus. Wer einen KI-generierten Text auf Tippfehler durchsieht und ihn anschließend unverändert veröffentlicht, kann sich auf die Ausnahme nicht berufen. Erforderlich ist eine inhaltliche Prüfung auf Richtigkeit, Vollständigkeit und Ausgewogenheit durch eine Person, die den Text eigenständig beurteilt und die Möglichkeit hat, ihn zu ändern oder die Veröffentlichung abzulehnen. Die Kommission stellt in ihren Leitlinien klar, dass es nicht auf den Umfang der tatsächlich vorgenommenen Änderungen ankommt, sondern auf die Ernsthaftigkeit der Prüfung. Ein Text kann also auch dann ohne Kennzeichnung erscheinen, wenn er nach der Prüfung unverändert bleibt, sofern die Kontrolle inhaltlich ernsthaft war und die Verantwortung klar übernommen wurde. Wer sich auf die Ausnahme berufen will, sollte den Prüfungsvorgang dokumentieren.
Für Deepfakes gilt die Ausnahme nicht. Bei Bild-, Audio- und Videoinhalten greift sie unabhängig vom Ausmaß menschlicher Nachbearbeitung nicht.
III. EU-Icons und Code of Practice
Die EU-Kommission hat am 10. Juni 2026 offizielle EU-Icons veröffentlicht, die zur Kennzeichnung KI-generierter oder KI-manipulierter Inhalte verwendet werden können. Der begleitende Verhaltenskodex ist freiwillig. Er gibt Anbietern und Betreibern praktische Orientierung bei der Umsetzung der Transparenzpflichten, ersetzt aber nicht die gesetzlichen Anforderungen der KI-VO. Icons und weitere Informationen stellt die Kommission unter digital-strategy.ec.europa.eu bereit.
Wer den Kodex unterzeichnet, kann von einer harmonisierten Aufsichtspraxis profitieren. Die Kommission hat angekündigt, sich bei Durchsetzungsmaßnahmen gegenüber Unterzeichnern vorrangig am Kodex zu orientieren.
IV. Marktüberwachung und Sanktionen
In Deutschland liegt die Marktüberwachung überwiegend bei der Bundesnetzagentur. Sektorspezifisch sind daneben BaFin, BSI und BfArM zuständig. Grundlage ist das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG).
Art. 50 KI-VO sieht Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. Diese Höchstgrenzen sind kein Maßstab für den Regelfall. Bei der Bemessung berücksichtigen die zuständigen Behörden Schwere und Dauer des Verstoßes, ob vorsätzlich oder fahrlässig gehandelt wurde, die wirtschaftliche Leistungsfähigkeit des Unternehmens sowie die Kooperation mit der Behörde. Daneben drohen wettbewerbsrechtliche Abmahnungen durch Mitbewerber und Abmahnvereine.
V. Handlungsbedarf
Unternehmen müssen zahlreiche Maßnahmen ergreifen, um die Transparenzvorgaben aus Art. 50 KI-VO rechtssicher umzusetzen.
1. Bestandsaufnahme und Verantwortlichkeiten
Voraussetzung für eine rechtssichere Umsetzung ist ein vollständiger Überblick über alle im Unternehmen eingesetzten KI-Anwendungen. Dies umfasst Sprachmodelle, Bildgeneratoren, Kundenservice-Bots sowie automatisierte Marketing-Tools. Zur Bestandsaufnahme gehört ebenso die Erfassung bereits in der Vergangenheit erstellter KI-Inhalte, die weiterhin online abrufbar sind oder auf Drittplattformen verbreitet wurden. Für jeden einzelnen Anwendungsfall ist zu prüfen, ob das Unternehmen lediglich als Betreiber einer fremden Software agiert oder durch Eigenentwicklungen, Whitelabeling oder tiefe Systemanpassungen rechtlich die Rolle des Anbieters einnimmt.
2. Technische Umsetzung und Abläufe
Bei interaktiven Systemen wie Chatbots oder Voicebots ist ein Hinweis einzurichten, der Nutzer gleich zu Beginn der Interaktion über den Einsatz künstlicher Intelligenz informiert. Für täuschend echte Bild-, Audio- oder Videoinhalte sind feste Workflows für sichtbare oder hörbare Auszeichnungen zu etablieren. Hierfür kommen dezent eingeblendete Hinweistexte oder die visuellen Vorlagen des EU AI Office in Betracht. Bei der Veröffentlichung KI-gestützter Texte zu Angelegenheiten von öffentlichem Interesse erfordert die Praxis eine Grundsatzentscheidung. Entweder werden entsprechende Texte konsequent gekennzeichnet oder es wird ein dokumentierter Prüfprozess eingerichtet, bei dem eine qualifizierte Person den Inhalt inhaltlich kontrolliert und die redaktionelle Verantwortung übernimmt.
3. Betriebsinterne Vorgaben und Vertragsgestaltung
Die gesetzlichen Pflichten erfordern die Anpassung interner Compliance-Richtlinien und KI-Guidelines. Dies stellt eine einheitliche Prüfung und Kennzeichnung im laufenden Betrieb sicher. Darüber hinaus sind Verträge mit Agenturen, freien Mitarbeitern und sonstigen Dienstleistern anzupassen. Vertragliche Regelungen müssen sicherstellen, dass Auftragnehmer die Kennzeichnungspflichten einhalten und bei der Inanspruchnahme von Ausnahmetatbeständen – wie der redaktionellen Kontrolle nach Art. 50 Abs. 4 UA 2 S. 2 KI-VO – die erforderliche Dokumentation erbringen.
VI. Verordnungstext
Art. 50 KI-VO – Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme (Auszug)
(1) Die Anbieter stellen sicher, dass KI‑Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI‑System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts offensichtlich.
(2) Anbieter von KI‑Systemen, einschließlich KI‑Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI‑Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Anbieter sorgen dafür, dass – soweit technisch möglich – ihre technischen Lösungen wirksam, interoperabel, belastbar und zuverlässig sind. Diese Pflicht gilt nicht, soweit die KI‑Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern.
(3) Betreiber eines KI‑Systems zur Emotionserkennung oder zur biometrischen Kategorisierung informieren die natürlichen Personen, die solchen Systemen ausgesetzt sind, über den Betrieb des KI‑Systems.
(4) Betreiber eines KI‑Systems, das Bild‑, Audio‑ oder Videoinhalte erzeugt oder manipuliert, die vorhandenen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und von einer Person fälschlicherweise für echt oder wahrheitsgemäß gehalten werden könnten (Deepfakes), machen kenntlich, dass es sich um künstlich erzeugte oder manipulierte Inhalte handelt.
Betreiber eines KI‑Systems, das Texte erzeugt oder manipuliert, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden, machen kenntlich, dass diese Texte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung einer menschlichen Überprüfung unterliegt und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte übernimmt.
Die Pflichten nach den Unterabsätzen 1 und 2 gelten nicht für KI‑Systeme, die für offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge Zwecke zugelassen oder in Verkehr gebracht wurden, sofern die Offenlegung die Darstellung oder den Genuss eines Werks nicht unangemessen beeinträchtigt.
(5) Die in den Absätzen 1 und 4 genannten Informationen und Angaben werden den natürlichen Personen so mitgeteilt, dass sie klar und unterscheidbar sind.