BECKMANN UND NORDA - Rechtsanwälte Bielefeld

Kennzeichnungspflichten nach Art. 50 KI-VO: Anforderungen, Ausnahmen und Umsetzung - Ein Überblick über die neuen Transparenzvorgaben für KI-Inhalte seit dem 02.08.2026
von Rechtsanwalt Marcus Beckmann

Seit dem 2. August 2026 gelten die Transparenz- und Kennzeichnungspflichten des Art. 50 der Verordnung (EU) 2024/1689 (KI-Verordnung, KI-VO). Sie verpflichten Anbieter und Betreiber bestimmter KI-Systeme, KI-generierte oder KI-manipulierte Inhalte gegenüber den Empfängern kenntlich zu machen. Einen pauschalen Kennzeichnungszwang für alle KI-generierten Inhalte enthält die Verordnung nicht. Ob eine Pflicht besteht, richtet sich nach dem jeweiligen Tatbestand und hängt insbesondere vom Inhalt, dem Verwendungszweck und dem Grad menschlicher Kontrolle ab.

I. Normadressaten: Anbieter und Betreiber

Art. 50 KI-VO unterscheidet zwischen zwei Adressatengruppen. Anbieter sind Unternehmen oder natürliche Personen, die ein KI-System entwickeln oder entwickeln lassen und es in Verkehr bringen. Betreiber ist nach Art. 3 Nr. 4 KI-VO jede natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Welche Pflichten im Einzelfall treffen, hängt davon ab, welcher Gruppe man angehört.

Art. 50 Abs. 1 und Abs. 2 richten sich primär an Anbieter. Sie müssen die technischen Voraussetzungen dafür schaffen, dass Kennzeichnungen überhaupt möglich sind. Art. 50 Abs. 4 richtet sich an Betreiber. Sie treffen die eigentliche Kennzeichnungspflicht gegenüber dem Publikum. Ein Unternehmen, das ein generatives KI-System einsetzt, um Inhalte zu erstellen und zu veröffentlichen, ist Betreiber und muss kennzeichnen. Ob der Anbieter seinen eigenen Pflichten nachgekommen ist, spielt dabei keine Rolle.

Anbieter- und Betreibereigenschaft können zusammenfallen, etwa wenn ein Unternehmen ein eigenes KI-System entwickelt und selbst einsetzt. Wer hingegen ein fremdes System wie ChatGPT in eigener Verantwortung nutzt, ist ausschließlich Betreiber.

II. Die Pflichttatbestände

Art. 50 KI-VO enthält fünf Pflichttatbestände. Ob eine Pflicht besteht, ist für jeden Tatbestand gesondert zu prüfen.

1. Interaktion mit natürlichen Personen (Art. 50 Abs. 1 KI-VO)

Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen sicherstellen, dass die betreffende Person erkennt, mit einem KI-System zu interagieren. Das Wort „bestimmt" in Art. 50 Abs. 1 KI-VO knüpft an die Zweckbestimmung des Systems an. Erfasst sind Chatbots, Sprachassistenten und Voicebots, die für den unmittelbaren Dialog mit Menschen ausgelegt sind.

Der Hinweis muss klar und unterscheidbar erteilt werden (Art. 50 Abs. 5 KI-VO) und spätestens zu Beginn der Interaktion erfolgen. Die Pflicht entfällt, wenn die KI-Natur des Systems für einen aufmerksamen und verständigen Nutzer aus dem Kontext ohnehin erkennbar ist. Den Hinweis in allgemeinen Nutzungsbedingungen oder der Datenschutzerklärung zu vergraben reicht nicht.

Betreiber, die ein solches System einsetzen, unterliegen derselben Pflicht, soweit sie das System nicht vollständig nach den Vorgaben des Anbieters verwenden. Wer ein Standardprodukt unverändert einsetzt und der Anbieter bereits einen konformen Hinweis integriert hat, wird regelmäßig keiner eigenständigen Pflicht unterliegen. Wer das System in eine eigene Nutzeroberfläche einbettet und den Kontext dabei verändert, trägt die Verantwortung selbst.

2. Maschinenlesbare Kennzeichnung synthetischer Inhalte (Art. 50 Abs. 2 KI-VO)

Anbieter generativer KI-Systeme müssen sicherstellen, dass synthetische Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht betrifft die technische Ebene der Ausgaben, nicht die visuelle Kennzeichnung gegenüber Endnutzern.

Als Umsetzungsmethoden kommen Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise und digitale Fingerabdrücke in Betracht. Nach Art. 50 Abs. 2 S. 2 KI-VO müssen die Lösungen wirksam, interoperabel, belastbar und zuverlässig sein. Verbindliche technische Normen stehen noch aus; die Kommission hat in ihren Leitlinien erste Konkretisierungen vorgelegt.

Die Pflicht gilt nicht, soweit das KI-System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten nicht wesentlich verändert. Maßgeblich ist, ob das System den semantischen Gehalt oder die visuelle Substanz des Inhalts wesentlich beeinflusst. Formatkonvertierungen oder automatisierte Rechtschreibkorrekturen fallen damit heraus.

3. Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3 KI-VO)

Betreiber von KI-Systemen zur Erkennung von Emotionen oder zur biometrischen Kategorisierung natürlicher Personen müssen die betroffenen Personen über den Betrieb des Systems informieren. Der Tatbestand erfasst Systeme, die aus wahrnehmbaren Merkmalen einer Person – etwa Mimik, Stimme oder Körperhaltung – auf emotionale Zustände oder demografische Eigenschaften schließen, ebenso wie Systeme zur biometrischen Identifikation.

Die Informationspflicht besteht unabhängig davon, ob die Ergebnisse zu individuellen Entscheidungen genutzt werden. Der Hinweis muss erfolgen, bevor die betroffene Person dem System ausgesetzt wird, und er muss klar und unterscheidbar sein. Allgemeine Hinweise, die nicht spezifisch auf den KI-Betrieb hinweisen, genügen nicht.

Eine Ausnahme gilt für KI-Systeme im Bereich der Strafverfolgung, soweit die Unterrichtung die Ermittlungen gefährden würde. Die Ausnahme ist eng auszulegen.

4. Deepfakes (Art. 50 Abs. 4 S. 1 KI-VO)

Betreiber, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die vorhandenen Personen, Gegenständen, Orten oder Ereignissen ähneln und von einer Person fälschlicherweise für echt gehalten werden könnten, müssen kenntlich machen, dass es sich um künstlich erzeugte oder manipulierte Inhalte handelt.

Der Begriff des Deepfakes ist in Art. 50 Abs. 4 S. 1 KI-VO definiert. Erfasst sind Bild-, Audio- oder Videoinhalte, die vorhandenen Personen, Gegenständen, Orten oder Ereignissen ähneln und von einer Person fälschlicherweise für echt oder wahrheitsgemäß gehalten werden könnten. Maßgeblich ist die objektive Verwechslungsgefahr aus der Perspektive eines durchschnittlichen Betrachters. Täuschungsabsicht setzt der Tatbestand nicht voraus. Erfasst sind vollständig synthetisch erzeugte Inhalte ebenso wie solche, bei denen reales Material KI-gestützt so verändert wurde, dass es einen falschen Eindruck von der Wirklichkeit erzeugt. Nicht erfasst sind offensichtlich stilisierte oder animierte Inhalte ohne Realitätsanmutung sowie technische Bearbeitungen, die den Aussagegehalt des Inhalts nicht verändern. Die Kommission stellt in ihren Leitlinien klar, dass auch fiktive Darstellungen erfasst sein können, wenn sie realistisch genug wirken, um mit echten Personen, Orten oder Ereignissen verwechselt zu werden.

Das Gesetz schreibt keine bestimmte Kennzeichnungsform vor. Der Hinweis muss klar und unterscheidbar sein (Art. 50 Abs. 5 KI-VO). Zulässig sind textliche Hinweise, visuelle Labels oder die offiziellen EU-Icons, auch in Kombination. Der Hinweis muss für den Empfänger unmittelbar wahrnehmbar sein. Bei Videoinhalten empfiehlt sich eine durchgehend sichtbare oder zumindest zu Beginn und am Ende eingeblendete Kennzeichnung. Bei Audioinhalten ist ein gesprochener oder eingeblendeter Hinweis zu Beginn der Aufnahme sachgerecht. Bei Bildern sollte die Kennzeichnung im Bild selbst oder unmittelbar darunter angebracht sein. Eine Bildunterschrift, die beim Teilen verlorengeht, reicht nicht.

Eine Ausnahme gilt für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke, sofern die Kennzeichnung deren Charakter oder Genuss nicht unangemessen beeinträchtigt. Der satirische oder künstlerische Charakter muss ohne weiteres erkennbar sein. Im Zweifel ist zu kennzeichnen.

5. Texte im öffentlichen Interesse (Art. 50 Abs. 4 S. 2 KI-VO)

Betreiber, die KI-Systeme einsetzen, um Texte zu erzeugen oder zu manipulieren, die der öffentlichen Information dienen, müssen kenntlich machen, dass der Text KI-generiert oder KI-manipuliert ist. Der Tatbestand greift, wenn der Text einer unbestimmten größeren Personenzahl zugänglich gemacht wird und Angelegenheiten von öffentlichem Interesse betrifft – also etwa Politik, Verwaltung, Gesundheit, Umwelt, Wirtschaft oder Wissenschaft.

Ob ein Text unter den Tatbestand fällt, bestimmt sich danach, ob er den Zweck verfolgt, die Öffentlichkeit über Angelegenheiten von allgemeiner Bedeutung zu informieren. Reine Produktwerbung fällt nicht darunter, weil ihr dieser Informationszweck fehlt. Redaktionelle Fachbeiträge und Nachrichtentexte können hingegen erfasst sein.

Nicht jeder solche Text muss gekennzeichnet werden. Die Verordnung nimmt Texte aus, die vor der Veröffentlichung einer menschlichen redaktionellen Kontrolle unterzogen wurden und für die eine klar identifizierbare natürliche oder juristische Person die redaktionelle Verantwortung übernimmt (Art. 50 Abs. 4 UA 2 S. 2 KI-VO).

Was als ausreichende redaktionelle Kontrolle gilt, ist die entscheidende Frage. Eine reine Rechtschreib- oder Formatprüfung reicht nicht aus. Wer einen KI-generierten Text auf Tippfehler durchsieht und ihn anschließend unverändert veröffentlicht, kann sich auf die Ausnahme nicht berufen. Erforderlich ist eine inhaltliche Prüfung auf Richtigkeit, Vollständigkeit und Ausgewogenheit durch eine Person, die den Text eigenständig beurteilt und die Möglichkeit hat, ihn zu ändern oder die Veröffentlichung abzulehnen. Die Kommission stellt in ihren Leitlinien klar, dass es nicht auf den Umfang der tatsächlich vorgenommenen Änderungen ankommt, sondern auf die Ernsthaftigkeit der Prüfung. Ein Text kann also auch dann ohne Kennzeichnung erscheinen, wenn er nach der Prüfung unverändert bleibt, sofern die Kontrolle inhaltlich ernsthaft war und die Verantwortung klar übernommen wurde. Wer sich auf die Ausnahme berufen will, sollte den Prüfungsvorgang dokumentieren.

Für Deepfakes gilt die Ausnahme nicht. Bei Bild-, Audio- und Videoinhalten greift sie unabhängig vom Ausmaß menschlicher Nachbearbeitung nicht.

III. EU-Icons und Code of Practice

Die EU-Kommission hat am 10. Juni 2026 offizielle EU-Icons veröffentlicht, die zur Kennzeichnung KI-generierter oder KI-manipulierter Inhalte verwendet werden können. Der begleitende Verhaltenskodex ist freiwillig. Er gibt Anbietern und Betreibern praktische Orientierung bei der Umsetzung der Transparenzpflichten, ersetzt aber nicht die gesetzlichen Anforderungen der KI-VO. Icons und weitere Informationen stellt die Kommission unter digital-strategy.ec.europa.eu bereit.

Wer den Kodex unterzeichnet, kann von einer harmonisierten Aufsichtspraxis profitieren. Die Kommission hat angekündigt, sich bei Durchsetzungsmaßnahmen gegenüber Unterzeichnern vorrangig am Kodex zu orientieren.

IV. Marktüberwachung und Sanktionen

In Deutschland liegt die Marktüberwachung überwiegend bei der Bundesnetzagentur. Sektorspezifisch sind daneben BaFin, BSI und BfArM zuständig. Grundlage ist das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG).

Art. 50 KI-VO sieht Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. Diese Höchstgrenzen sind kein Maßstab für den Regelfall. Bei der Bemessung berücksichtigen die zuständigen Behörden Schwere und Dauer des Verstoßes, ob vorsätzlich oder fahrlässig gehandelt wurde, die wirtschaftliche Leistungsfähigkeit des Unternehmens sowie die Kooperation mit der Behörde. Daneben drohen wettbewerbsrechtliche Abmahnungen durch Mitbewerber und Abmahnvereine.

V. Handlungsbedarf
Unternehmen müssen zahlreiche Maßnahmen ergreifen, um die Transparenzvorgaben aus Art. 50 KI-VO rechtssicher umzusetzen.

1. Bestandsaufnahme und Verantwortlichkeiten
Voraussetzung für eine rechtssichere Umsetzung ist ein vollständiger Überblick über alle im Unternehmen eingesetzten KI-Anwendungen. Dies umfasst Sprachmodelle, Bildgeneratoren, Kundenservice-Bots sowie automatisierte Marketing-Tools. Zur Bestandsaufnahme gehört ebenso die Erfassung bereits in der Vergangenheit erstellter KI-Inhalte, die weiterhin online abrufbar sind oder auf Drittplattformen verbreitet wurden. Für jeden einzelnen Anwendungsfall ist zu prüfen, ob das Unternehmen lediglich als Betreiber einer fremden Software agiert oder durch Eigenentwicklungen, Whitelabeling oder tiefe Systemanpassungen rechtlich die Rolle des Anbieters einnimmt.

2. Technische Umsetzung und Abläufe
Bei interaktiven Systemen wie Chatbots oder Voicebots ist ein Hinweis einzurichten, der Nutzer gleich zu Beginn der Interaktion über den Einsatz künstlicher Intelligenz informiert. Für täuschend echte Bild-, Audio- oder Videoinhalte sind feste Workflows für sichtbare oder hörbare Auszeichnungen zu etablieren. Hierfür kommen dezent eingeblendete Hinweistexte oder die visuellen Vorlagen des EU AI Office in Betracht. Bei der Veröffentlichung KI-gestützter Texte zu Angelegenheiten von öffentlichem Interesse erfordert die Praxis eine Grundsatzentscheidung. Entweder werden entsprechende Texte konsequent gekennzeichnet oder es wird ein dokumentierter Prüfprozess eingerichtet, bei dem eine qualifizierte Person den Inhalt inhaltlich kontrolliert und die redaktionelle Verantwortung übernimmt.

3. Betriebsinterne Vorgaben und Vertragsgestaltung
Die gesetzlichen Pflichten erfordern die Anpassung interner Compliance-Richtlinien und KI-Guidelines. Dies stellt eine einheitliche Prüfung und Kennzeichnung im laufenden Betrieb sicher. Darüber hinaus sind Verträge mit Agenturen, freien Mitarbeitern und sonstigen Dienstleistern anzupassen. Vertragliche Regelungen müssen sicherstellen, dass Auftragnehmer die Kennzeichnungspflichten einhalten und bei der Inanspruchnahme von Ausnahmetatbeständen – wie der redaktionellen Kontrolle nach Art. 50 Abs. 4 UA 2 S. 2 KI-VO – die erforderliche Dokumentation erbringen.

VI. Verordnungstext

Art. 50 KI-VO – Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme (Auszug)

(1) Die Anbieter stellen sicher, dass KI‑Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI‑System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts offensichtlich.

(2) Anbieter von KI‑Systemen, einschließlich KI‑Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI‑Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Anbieter sorgen dafür, dass – soweit technisch möglich – ihre technischen Lösungen wirksam, interoperabel, belastbar und zuverlässig sind. Diese Pflicht gilt nicht, soweit die KI‑Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern.

(3) Betreiber eines KI‑Systems zur Emotionserkennung oder zur biometrischen Kategorisierung informieren die natürlichen Personen, die solchen Systemen ausgesetzt sind, über den Betrieb des KI‑Systems.

(4) Betreiber eines KI‑Systems, das Bild‑, Audio‑ oder Videoinhalte erzeugt oder manipuliert, die vorhandenen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und von einer Person fälschlicherweise für echt oder wahrheitsgemäß gehalten werden könnten (Deepfakes), machen kenntlich, dass es sich um künstlich erzeugte oder manipulierte Inhalte handelt.

Betreiber eines KI‑Systems, das Texte erzeugt oder manipuliert, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden, machen kenntlich, dass diese Texte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung einer menschlichen Überprüfung unterliegt und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte übernimmt.

Die Pflichten nach den Unterabsätzen 1 und 2 gelten nicht für KI‑Systeme, die für offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge Zwecke zugelassen oder in Verkehr gebracht wurden, sofern die Offenlegung die Darstellung oder den Genuss eines Werks nicht unangemessen beeinträchtigt.

(5) Die in den Absätzen 1 und 4 genannten Informationen und Angaben werden den natürlichen Personen so mitgeteilt, dass sie klar und unterscheidbar sind.

Die EU-Kommission hat einen Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten veröffentlicht.

Die Pressemitteilung der EU-Kommission:
Kommission veröffentlicht Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten

ie Kommission hat heute den endgültigen Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten veröffentlicht. Der Leitfaden ist freiwillig und enthält praktische Schritte, um Anbieter und Betreiber generativer Systeme der künstlichen Intelligenz (KI) bei der Erfüllung der Transparenzpflichten der KI-Verordnung zu unterstützen, die ab dem 2. August 2026 gelten werden.

Ab diesem Datum muss nach der KI-Verordnung in wichtigen Fällen eine klare Kennzeichnung erfolgen. Deepfakes und durch KI erzeugte oder manipulierte Texte, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden, müssen eindeutig gekennzeichnet werden. Die Nutzerinnen und Nutzer müssen auch darüber in Kenntnis gesetzt werden, wenn sie es mit einem interaktiven KI-System wie einem Chatbot zu tun haben. Diese Transparenzanforderung helfen ihnen dabei, zu erkennen, ob Inhalte durch KI erzeugt oder verändert wurden, was das Risko von Täuschung und Manipulation verringert.

Der Leitfaden wurde von sechs unabhängigen Sachverständigen ausgearbeitet, die dabei Beiträge von 180 Interessenträgern berücksichtigten, darunter Anbieter und Betreiber interaktiver und generativer KI-Systeme und -Modelle, Verbände, die Betreiber vertreten, kleine und mittlere Unternehmen, Hochschulen, der öffentliche Sektor und Organisationen der Zivilgesellschaft.

Der Leitfaden besteht aus zwei Abschnitten:

Anbieter
In diesem Abschnitt geht es um die Pflichten der Anbieter generativer KI-Systeme. Es wird dargelegt, wie sichergestellt werden kann, dass durch KI generierte oder manipulierte Audio-, Bild-, Video- oder Textdateien in maschinenlesbarer Form gekennzeichnet werden, sodass sie als künstlich erzeugt oder manipuliert erkennbar sind.

Betreiber
In diesem Abschnitt wird näher auf die Pflichten der Betreiber generativer KI-Systeme eingegangen. Es wird erläutert, wie Deepfakes und von KI erzeugte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ohne dass eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat, eindeutig gekennzeichnet werden müssen.

Diese Transparenzvorschriften ergänzen die Vorschriften der KI-Verordnung für KI-Modelle mit allgemeinem Verwendungszweck und Hochrisikosysteme und unterstützen die verantwortungsvolle Entwicklung und Nutzung von KI in der EU.

Nächste Schritte
Der Leitfaden liegt nun zur Unterzeichnung auf. Die Kommission lädt alle Anbieter und Betreiber zur Unterzeichnung ein. Sobald die Kommission und das KI-Gremium den Leitfaden als angemessen genehmigt haben, können Anbieter und Betreiber mit dessen Unterzeichnung die Einhaltung der einschlägigen Verpflichtungen aus der KI-Verordnung nachweisen, die ab dem 2. August 2026 gelten.

Der Leitfaden wird durch Leitlinien der Kommission ergänzt werden. Die Leitlinien werden den Umfang der rechtlichen Verpflichtungen klarstellen und Aspekten gewidmet sein, die der Leitfaden nicht abdeckt. Sie werden praxisorientiert sein und KI-Anbieter und -Betreiber bei der Erfüllung der Transparenzanforderungen unterstützen.

LG Kiel
Urteil vom 29.02.2024
6 O 151/23

Das LG Kiel hat entschieden, dass der Betreiber einer Online-Datenbank für Wirtschaftsinformationen für falsche KI-generierte Inhalte haftet.

Aus den Entscheidungsgründen:
1. Der Klägerin steht ein Unterlassungsanspruch aus §§ 1004 Abs. 1 S.2 analog, 823 Abs. 1 BGB i.V.m. Art. 2 Abs. 1, 19 Abs. 3 GG zu, dass die Beklagte es unterlässt zu behaupten, dass die Klägerin wegen Vermögenslosigkeit nach § 394 FamFG gelöscht wird (siehe Anlage K2).

a) § 1004 BGB ist analog und das allgemeine Persönlichkeitsrecht nach Art. 19 Abs. 3 GG auch auf die Klägerin anwendbar.

Unmittelbar schützt § 1004 BGB nur das Eigentum. Wegen ähnlichen Schutzes anderer absoluter Rechte wird § 1004 BGB analog auf alle absoluten Rechte des § 823 BGB angewendet (Grüneberg BGB/ Herrler § 1004 BGB Rn. 4). Eine juristische Person kann sich auf den Ehrenschutz durch das allgemeine Persönlichkeitsrecht berufen, wenn sie dieses Rechtsschutzes aus ihrem Wesen als Zweckschöpfung des Rechts und ihren Funktionen bedarf (BGH, Urteil vom 04.04.2017 - VI ZR 123/16, Rz. 16). Geschützt wird durch Art. 2 Abs. 1, Art. 1 Abs. 1 i.V.m. Art. 19 Abs. 3 GG auch der soziale Geltungsanspruch eines Wirtschaftsunternehmens (BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 12). Als mittelständisches Wirtschaftsunternehmen lebt die Klägerin von ihrem Ruf und wird deshalb auch vom Wesensgehalt des allgemeinen Persönlichkeitsrecht nach Art. 19 Abs. 3 GG erfasst.

Die Klägerin ist in den äußerungsrechtlichen Schutzgehalten ihres Unternehmenspersönlichkeitsrechts betroffen.

Zur Erfassung des Inhalts der von der Klägerin beanstandeten Äußerung ist diese auszulegen. Maßgeblich für die Deutung einer Äußerung ist weder die subjektive Absicht des sich Äußernden noch das subjektive Verständnis des von der Äußerung Betroffenen, sondern der Sinn, den sie nach dem Verständnis eines unvoreingenommenen und verständigen Publikums hat (BVerfG, Beschluss vom 25.10.2012 - 1 BvR 901/11, Rz. 20). Auszugehen ist dabei stets vom Wortlaut der Äußerung, deren Sinn allerdings auch von dem sprachlichen Kontext, in dem die umstrittene Äußerung steht und von den erkennbaren Begleitumständen, unter denen sie fällt, bestimmt wird (BVerfG, a.a.O.). Dementsprechend ist die isolierte Betrachtung eines Äußerungsteils regelmäßig nicht zulässig (BGH, Urteil vom 16.11.2004 - VI ZR 298/03, Rz. 23). Ausgehend hiervon muss bei der Auslegung der streitgegenständlichen Mitteilung maßgeblich berücksichtigt werden, wie die Beklagte unter dem Menüpunkt „Über uns" ihren Nutzern die Herkunft der von ihr bereitgestellten Informationen erklärt (siehe Anlage T1):

XXX analysiert Handelsregisterbekanntmachungen und andere Pflichtveröffentlichungen deutscher Firmen, um Wirtschaftsinformationen zu gewinnen, insbesondere zu finanziellen Kennzahlen und zu Zusammenhängen zwischen Firmen untereinander sowie zu Personen. Dazu werden Methoden der Big-Data Verarbeitung

und der Künstlichen Intelligenz (KI) verwendet.

Demnach versteht das unvoreingenommene und verständige Publikum die Mitteilung (Anlage K2) so, dass die Klägerin eine Pflichtmitteilung hinsichtlich ihrer Löschung wegen Vermögenslosigkeit nach § 394 FamFG machen musste und entsprechend vor der Löschung steht.

Während das Recht auf informationelle Selbstbestimmung Schutz davor bietet, dass Dritte sich individueller Daten bemächtigen, und sie in nicht nachvollziehbarerweise als Instrument nutzen, um die Betroffenen auf Eigenschaften, Typen oder Profile festzulegen, auf die sie keinen Einfluss haben und die aber für die freie Entfaltung der Persönlichkeit sowie eine gleichberechtigte Teilhabe in der Gesellschaft von erheblicher Bedeutung sind, bietet das Persönlichkeitsrecht in seiner äußerungsrechtlichen Ausprägung Schutz vor den Gefährdungen, die sich für die Persönlichkeitsentfaltung aus der sichtbaren Verbreitung bestimmter Informationen im öffentlichen Raum ergeben (BVerfG, Beschluss vom 06.11.2019- 1 BvR 16/13, Rz. 89 ff.; BGH, Urteil vom 26.11.2019 - VI ZR 12/19, Rz. 27 ff.; so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 15). Gegen Letzteres wendet sich die Klägerin, weil sie sie dagegen zur Wehr setzt, dass die Beklagte bei Suchanfragen nach ihr, der Klägerin, ihren Nutzern unter anderem die streitgegenständliche Mitteilung (Anlage K2) angezeigt hat.

Die Klägerin wird durch die Äußerung der Beklagten in ihrem sozialen Geltungsanspruch berührt, weil sich daraus ergibt, dass die Klägerin wegen Vermögenslosigkeit nach § 394 FamFG gelöscht würde, was sich abträglich auf ihr Ansehen in der Öffentlichkeit und ihre Kreditwürdigkeit auswirkt. Offenbleiben kann, ob die Beklagte, wie sie meint, ein haftungsprivilegierter Host-Provider im Sinne von §§ 2, Abs. 1 Nr. 1, 10 TMG ist. Das Haftungsprivileg des § 10 Satz 1 TMG erstreckt sich nur auf die strafrechtliche Verantwortung und die Schadensersatzhaftung eines Diensteanbieters von Telemedien im Sinne von § 2 Satz 1 Nr. 1 TMG (BGH, Versäumnisurteil vom 25.10.2011- VI ZR 93/10, Rz. 19) und lässt die Möglichkeit unberührt, den Diensteanbieter wegen einer vorangegangenen Rechtsverletzung auf Unterlassung in Anspruch zu nehmen (BGH, Urteil vom 01.03.2016 - VI ZR 34/15, Rz. 19 f.).

Dieser Eingriff in das allgemeine Persönlichkeitsrecht der Klägerin ist auch rechtswidrig gewesen.

Da das Persönlichkeitsrecht ein Rahmenrecht ist, dessen Reichweite nicht absolut feststeht, kann erst durch eine Abwägung der widerstreitenden grundrechtlich geschützten Belange, bei der die besonderen Umstände des Einzelfalls sowie die betroffenen Grundrechte zu berücksichtigen sind, bestimmt werden, ob der Eingriff in das Persönlichkeitsrecht rechtswidrig gewesen ist (BGH, Urteil vom 01.03.2016 – VI ZR 34/15, Rz. 30). Nichts anderes gilt für das Recht am eingerichteten und ausgeübten Gewerbetrieb. Dieses Recht stellt einen offenen Tatbestand dar, dessen Inhalt und Grenzen sich erst aus einer Abwägung mit den im Einzelfall konkret kollidierenden Interessen anderer ergeben (BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 16). Demnach ist das durch Art. 2 Abs. 1, 12 Abs. 1 und 19 Abs. 3 GG geschützte Interesse der Klägerin an ihrer sozialen Anerkennung und wirtschaftlichen Stellung mit der in Art. 5 Abs. 1 GG verankerten Meinungsfreiheit und Kommunikationsfreiheit der Beklagten sowie ihrer durch Art. 12 Abs. 1 GG geschützten Unternehmensfreiheit abzuwägen, bei deren Einschränkung die durch Art. 5 Abs. 1 GG geschützte Meinungs- und Informationsfreiheit der Nutzer des von der Beklagten betriebenen Portals zu berücksichtigen ist (vgl. BGH, Urteil vom 27.07.2020 - VI ZR 405/18, Rz. 33 und 36).

Die Beklagte will sich zwar gar nicht auf ihre Meinungsfreiheit berufen, weil sie den Rechtsstandpunkt einnimmt, ihr sei ähnlich einem Suchmaschinenbetreiber nicht an der Verbreitung einer bestimmten Meinung, sondern nur daran gelegen, die potentiellen Interessen ihrer Nutzer möglichst optimal zu befriedigen (vgl. BVerfG, Beschluss vom 6. November 2019-1 BvR 276/17, Rz. 106). Wie jedoch bereits ausgeführt wurde, ist die streitgegenständliche Äußerung nicht mit der typischen Dienstleistung eines Suchmaschinenbetreibers vergleichbar, weil die Beklagte nach der obigen Auslegung eine eigene Stellungnahme abgegeben hat. Es würde ihren Rechtsschutz erheblich verkürzen, wenn man ihr in dieser Situation den Schutz von Art. 5 Abs. 1 GG versagen würde, nur weil sie sich darauf nicht beruft.

Eine Abwägung der widerstreitenden Interessen ist allerdings entbehrlich, wenn es sich um Schmähkritik (oder - hier gänzlich fernliegend - um eine Formalbeleidigung oder einen Verstoß gegen die Menschenwürde) handelt, weil diese am Schutz der Meinungsfreiheit nach Art. 5 Abs. 1 Satz 1 GG nicht teilhaben (BVerfG, Beschluss vom 19.05.2020 - 1 BvR 2397/19, Rz. 19 und 21). Die Mitteilung der Beklagten ist jedoch nicht als Schmähkritik zu werten.

Wegen seines die Meinungsfreiheit verdrängenden Effekts ist der Begriff der Schmähkritik eng auszulegen (BVerfG, a.a.O., Rz. 20; BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 18). Von einer Schmähung ist nur auszugehen, wenn eine Äußerung keinen irgendwie nachvollziehbaren Bezug mehr zu einer sachlichen Auseinandersetzung hat und es bei ihr im Grunde nur um das grundlose Verächtlichmachen der betroffenen Person als solcher geht (BVerfG, a.a.O., Rz. 19; BGH, Urteil vom 27.02.2018 - VI ZR 489/16, Rz. 37). Daher stellt auch eine überzogene, ungerechte oder gar ausfällige Kritik noch keine Schmähung dar (BVerfG, a.a.O., Rz. 18; BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 18). Auch bei dieser Auslegungsfrage ist die Äußerung in ihrem Gesamtzusammenhang zu betrachten (BGH, a.a.O., Rz. 19). Demnach stellt die streitgegenständliche Äußerung keine Schmähkritik dar. Die Aussage, die Klägerin würde wegen Vermögenslosigkeit nach § 394 FamFG gelöscht, kann zwar ihren sozialen Geltungsanspruch und ihre wirtschaftliche Stellung gegenüber anderen Marktteilnehmern ganz erheblich beeinträchtigen, unter Umständen sogar gefährden. Die in Rede stehende Meldung ist jedoch sachlich gehalten.


Für die demnach gebotene Abwägung ist zu berücksichtigen, dass es sich bei der Aussage um eine unwahre Tatsachenbehauptung handelt.

Tatsachen können anders als Meinungen wahr oder unwahr sein. Der Unterschied liegt in der Beziehung zwischen der Äußerung und der Realität (BVerfGE 90, 241 (247) = NJW 1994, 1779). Der Wahrheitsgehalt der Äußerung steht im Vordergrund. Hierüber kann im Wege einer Beweisaufnahme erkannt werden. Meinungen können hingegen nicht wahr oder unwahr sein, sondern zum Beispiel wahrhaftig oder unaufrichtig, überlegt oder unbedacht (BVerfGE 33, 1 (14) = NJW 1972, 811).

Die Aussage, dass der Klägerin die Löschung nach § 394 FamFG bevorsteht, ist entweder richtig oder falsch. Eine Beweisaufnahme darüber wäre denkbar. Insofern handelt es sich bei der Aussage der Beklagten um eine Tatsachenbehauptung.

Tatsachen sind nur dann grundgesetzlich geschützt, wenn sie Voraussetzung für die Bildung von Meinungen sind und zur Meinungsbildung beitragen (BVerfGE 85, 1 (15) = NJW 1992, 1439). Die Richtigkeit der Information hat Bedeutung für den grundrechtlichen Schutz, denn unwahre Äußerungen sind kein schützenswertes Gut (BVerfGE 54, 208 (219) = NJW 1980, 2072). Kennt der sich Äußernde die Unwahrheit, lügt er also bewusst, oder ist die Unwahrheit der Tatsache im Zeitpunkt der Äußerung erwiesen, entfällt grundrechtlicher Schutz, da diese Äußerungen nicht einmal vom Schutzbereich erfasst sind (BVerfGE 99, 185 (197) = NJW 1999, 1322).

Die Beklagte bediente sich einer künstlichen Intelligenz, um die Registerpublikationen auf ihrer Website zu veröffentlichen. Die Beklagte hatte damit unbestritten keine positive Kenntnis von der Unrichtigkeit der Meldung. Von dieser Tatsache hat sie erst erfahren, als die Klägerin an sie herangetreten ist (Bl. 17 d.A.).

Dass die Meldung unrichtig ist, führt die Beklagte selbst aus (Bl. 19 d.A.). Demnach lag eine Verwechslung mit der XXX, Amtsgericht XXX HRB XXX, beim Registergericht vor (XXX vs XXX).

Die zentrale Abwägung zwischen dem Persönlichkeitsrecht der Klägerin mit der Meinungsfreiheit der Beklagten ergibt ein deutliches Überwiegen auf Seiten der Klägerin.

Die streitgegenständliche Äußerung betrifft den durch Art. 2 Abs. 1, 19 Abs. 3 GG gewährleisteten sozialen Geltungsanspruch der Klägerin als Wirtschaftsunternehmen und ihr durch Art. 12, 19 Abs. 3 GG gewährleistetes Recht am eingerichteten und ausgeübten Gewerbebetrieb. Die unternehmerische Tätigkeit vollzieht sich zwar von vornherein im Kontakt mit der Umwelt. Dementsprechend muss sich ein Gewerbetreibender wertende, nicht mit unwahren Tatsachenbehauptungen verbundene Kritik an seiner gewerblichen Leistung in der Regel auch dann gefallen lassen, wenn sie scharf formuliert ist (BGH, Urteil vom 16.12.2014 – VI ZR 39/14, Rz. 21). Allerdings muss der Gewerbetreibende nicht hinnehmen, dass seine wirtschaftliche Stellung durch falsche Tatsachenbehauptungen geschwächt wird. Dies gilt insbesondere für die streitgegenständliche Äußerung, weil die falsche Meldung, dass die Klägerin wegen Vermögenslosigkeit nach § 394 FamFG gelöscht würde, jemanden ernstlich davon abhalten kann, mit der Klägerin in geschäftlichen Kontakt zu treten. Berücksichtigt werden muss dabei, dass die Beklagte bei Suchanfragen zum Namen der Klägerin an zweiter Stelle, also besonders prominent, auftaucht und damit ein breites an der Klägerin interessiertes Publikum erreicht (Anlage K5). Der Eingriff in das Schutzrecht ist entsprechend erheblich, die Interessen der Beklagten müssen hinter denen der Klägerin zurücktreten.

b) Die Beklagte ist unmittelbare Störerin im Sinne von § 1004 Abs. 1 BGB. Als Störer ist, unabhängig von einem Verschulden, jeder anzusehen, der die Störung adäquat kausal herbeigeführt hat oder dessen Verhalten eine Beeinträchtigung befürchten lässt (Grüneberg BGB/ Herrler § 1004 BGB Rn. 16 f.; BGH NZM 19, 893 Tz. 15). Auch der mittelbare Störer ist von der Norm umfasst, der in irgendeiner Weise willentlich und adäquat kausal an der Herbeiführung der rechtswidrigen Beeinträchtigung mitgewirkt hat (BGH, Urteil vom 28.07.2015 – VI ZR 340/14, Rz. 34).

Die Klägerin ist jedoch als unmittelbare Störerin anzusehen, weil sie sich willentlich zur Beantwortung von Suchanfragen einer eigenen Software bedient, die Informationen aus den veröffentlichten Pflichtmitteilungen extrahiert und aufbereitet veröffentlicht. Die Beklagte kann sich nicht darauf zurückziehen, sie sei an diesem automatischen Vorgang nicht beteiligt gewesen, weil sie sich bewusst zur Beantwortung von Suchanfragen ihrer Nutzer einer künstlichen Intelligenz bedient hat, die in Fällen wie diesem unzulänglich programmiert war, weil sie nicht erkannt hat, dass vorliegend die XXX, Amtsgericht XXX HRB XXX, gemeint war und ein Zuordnungsfehler (XXX vs XXX) vorlag (so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 19). Zum anderen haftet der Betreiber eines Portals auch dann als unmittelbarer Störer für die von einem Dritten eingestellten Inhalte, wenn er sich diese aus Sicht eines verständigen Durchschnittsnutzers auf der Grundlage einer Gesamtbetrachtung aller relevanten Umstände zu eigen gemacht und dafür nach außen erkennbar die inhaltliche Verantwortung übernommen hat (BGH, Urteil vom 01.03.2016 – VI ZR 34/15, Rz. 17; so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 19). Dies schafft die Beklagte dadurch, dass sie die Pflichtveröffentlichungen zu einem Unternehmen bei sich auf der Seite bündelt und die Informationen teilweise untereinander verknüpft.

c) Eine Wiederholungsgefahr liegt vor.

Diese liegt vor, wenn es die auf Tatsachen gegründete objektive ernstliche Besorgnis weiterer Störungen gibt. In der Regel begründet die vorangegangene rechtswidrige Beeinträchtigung eine tatsächliche Vermutung für die Wiederholungsgefahr (BGH NJW 12, 3781; Grüneberg BGB/ Herrler § 1004 BGB Rn. 32), an deren Wiederlegung durch den Störer hohe Anforderungen zu stellen sind (BGH NJW 99, 356).

Die aus der rechtswidrigen Beeinträchtigung folgende Vermutung konnte die Beklagte bisher nicht entkräften. Ihr Verweis, dass sie lediglich fremde Daten aus Pflichtveröffentlichungen ohne Prüfung veröffentliche, bekräftigt sogar die Wiederholungsgefahr. Denn die Pflichtinformationen sind nach Aussage der Beklagten, die sich auf das elektronische Handelsregister bezieht, unzuverlässig, sodass es „zu falschen Anzeigen kommt“ (Bl. 19 d.A.). Insofern kann nicht ausgeschlossen werden, dass der gleiche Fehler (Verwechslung XXX vs. XXX) erneut auftritt.

d) Eine den Unterlassungsanspruch ausschließende Duldungspflicht nach § 1004 Abs. 2 BGB kommt vorliegend nicht in Betracht.

2. Der von der Klägerin angekündigte Unterlassungsantrag ist insoweit unbegründet, als dass es auch zukünftige Informationsveröffentlichungen durch die Beklagte einbezieht, die sich nicht auf die vermeintliche Löschung der Klägerin nach § 394 FamFG beziehen.

Das Persönlichkeitsrecht ist ein Rahmenrecht, dessen Reichweite erst durch die Abwägung der betroffenen grundrechtlich geschützten Interessen bestimmt wird und dementsprechend ein aus dem Persönlichkeitsrecht abgeleitetes Gebot, eine Äußerung zu unterlassen, auf die konkrete Verletzungsform beschränkt werden muss, damit die wesentlichen abwägungsrelevanten Gesichtspunkte, die zur Rechtswidrigkeit der Äußerung geführt haben, in die Rechtskraft der Entscheidung miteinbezogen werden (vgl. BGH, Urteil vom 04.12.2018 - VI ZR 128/19, Rz. 19; so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 17).

3. Die Klägerin hat gegen die Beklagte einen Anspruch auf Ersatz der vorgerichtlichen Rechtsverfolgungskosten in Höhe des Obsiegens von 527,00 € gemäß §§ 280 Abs. 2, 286 Abs. 1 BGB.

Das Schuldverhältnis ergibt sich aus der Verletzung des allgemeinen Persönlichkeitsrechts der Klägerin gemäß § 823 Abs. 1 BGB.

Angemahnt wurde die Beklagte durch die Klägerin mit Fristsetzung am 21.07.2023, die daraufhin zwar die Meldung von ihrer Website entfernte, jedoch die Unterlassungserklärung nicht unterschrieben hat. Angesichts des erheblichen Eingriffs in das allgemeine Persönlichkeitsrecht der Klägerin war das Tätigwerden eines Rechtsanwalts auch erforderlich.

Die Klägerin kann jedoch die Umsatzsteuer in Höhe von 100,13 € nicht von der Beklagten verlangen. Die Klägerin ist nämlich vorsteuerabzugsberechtigt gemäß § 15 Abs. 1 S. 1 Nr. 1 UstG.Nach § 15 Abs. 1 S. 1 Nr. 1 UStG kann der Unternehmer die gesetzlich geschuldete Steuer für Lieferungen und sonstige Leistungen, die von einem anderen Unternehmer für sein Unternehmen ausgeführt worden sind, als Vorsteuer abziehen, wenn er eine nach den §§ 14, 14a UStG ausgestellte Rechnung besitzt. Auf der Rechnung des Prozessbevollmächtigten der Klägerin ist zwar ein Umsatzsteuerbetrag in Höhe von 155,46 € aufgeführt. Die Klägerin ist jedoch als GmbH Unternehmerin im Sinne des § 2 Abs. 1 S. 1 UStG. Die Beauftragung des Rechtsanwalts erfolgte für das Unternehmen nach § 15 Abs. 1 S. 1 UStG, da eine Unterlassung aufgrund einer Rechtsverletzung aufgrund ihres Unternehmenspersönlichkeitsrechts begehrt wird. Nach dem schadensrechtlichen Bereicherungsverbot soll der Geschädigte über den Schadensersatz keine Bereicherung erlangen. Den in der Abzugsmöglichkeiten liegenden Vorteil muss sich der Geschädigte auf den Schaden anrechnen lassen (BGH, Urteil vom 18.3.2014 – VI ZR 10/13 Rz. 17).

Den Volltext der Entscheidung finden Sie hier:

Mit Inkrafttreten der Verordnung (EU) 2024/1689 zur Regulierung von Künstlicher Intelligenz (KI-Verordnung) hat die Europäische Union einen neuen regulatorischen Rahmen geschaffen, um die Nutzung von KI-Systemen zu steuern und Risiken für Sicherheit, Gesundheit und Grundrechte zu minimieren. Die Verordnung basiert auf einem risikobasierten Ansatz und enthält klare Vorgaben für den Einsatz von KI-Systemen. Im Mittelpunkt steht dabei die Unterscheidung zwischen verschiedenen Risikokategorien, wobei die gefährlichsten KI-Praktiken vollständig verboten sind.

Artikel 5 der KI-Verordnung benennt abschließend bestimmte verbotene KI-Praktiken. Diese Praktiken gelten als so schwerwiegend, dass ihr Einsatz unabhängig vom Verwendungszweck oder der jeweiligen Branche vollständig untersagt ist. Unternehmen, die solche KI-Systeme entwickeln oder einsetzen, müssen mit erheblichen Sanktionen rechnen. In diesem Beitrag wird detailliert erläutert, wann verbotene KI-Praktiken vorliegen, welche Vorschriften dies regeln und welche rechtlichen Konsequenzen dies für Unternehmen hat.

I. Wann liegen verbotene KI-Praktiken vor?
Die KI-Verordnung unterscheidet in Artikel 5 zwischen verschiedenen KI-Praktiken, die per se verboten sind, da sie gegen fundamentale Rechte und Werte verstoßen oder erhebliche Risiken für die öffentliche Sicherheit darstellen. Diese Praktiken sind abschließend aufgelistet und umfassen folgende Hauptkategorien:

1. Manipulative KI-Systeme
Artikel 5 Abs. 1 lit. a verbietet den Einsatz von KI-Systemen, die durch unterbewusste Techniken das Verhalten von Personen in einer Weise manipulieren, dass dies zu physischen oder psychischen Schäden führt. Ziel dieser Vorschrift ist der Schutz der Autonomie und des freien Willens von Individuen. Manipulative Systeme, die gezielt unterbewusste Techniken nutzen, um Menschen zu bestimmten Handlungen zu verleiten, stellen ein erhebliches Risiko dar.

Beispielsweise könnte ein KI-System, das unbewusst Kaufentscheidungen beeinflusst oder Menschen zu gesundheitsschädlichem Verhalten verleitet, unter diese Kategorie fallen. Ein solches System würde das Risiko mit sich bringen, dass die betroffene Person gegen ihren Willen zu Handlungen gedrängt wird, die ihr schaden.

2. Ausnutzung von Schwächen bestimmter Personengruppen
Nach Artikel 5 Abs. 1 lit. b ist der Einsatz von KI-Systemen verboten, die die besonderen Schwächen bestimmter Personengruppen ausnutzen, wie z. B. Kinder oder Menschen mit Behinderungen. Diese Vorschrift zielt auf den Schutz besonders schutzbedürftiger Gruppen ab, die durch KI-Systeme besonders leicht zu manipulieren oder zu beeinflussen sind.

Ein Beispiel wäre eine KI, die Kinder gezielt dazu verleitet, exzessiv Videospiele zu spielen oder Käufe zu tätigen, indem sie deren mangelnde kognitive Reife oder emotionale Schwächen ausnutzt.

3. KI-Systeme zur sozialen Bewertung (Social Scoring)
Artikel 5 Abs. 1 lit. c verbietet den Einsatz von KI-Systemen durch Behörden zur Bewertung des Verhaltens von Bürgern über einen längeren Zeitraum hinweg und zur Vergabe von sozialen Vorteilen oder Nachteilen (sogenanntes „Social Scoring“). Ein solches System könnte dazu führen, dass Personen aufgrund ihres Verhaltens oder anderer Kriterien in diskriminierender Weise behandelt werden.

Ein bekanntes Beispiel hierfür ist das Social Credit System, das in einigen Staaten zur Bewertung des Verhaltens von Bürgern eingesetzt wird. Dieses Vorgehen birgt das Risiko, dass soziale, wirtschaftliche oder rechtliche Entscheidungen auf Grundlage ungenauer oder unverhältnismäßiger Bewertungen getroffen werden.

4. Biometrische Fernidentifizierung im öffentlichen Raum
Artikel 5 Abs. 1 lit. d der KI-Verordnung untersagt den Einsatz von KI-Systemen zur biometrischen Fernidentifizierung in Echtzeit in öffentlichen Räumen, es sei denn, sie sind ausdrücklich durch das Recht der Union oder der Mitgliedstaaten erlaubt. Derartige Systeme, wie beispielsweise Gesichtserkennungstechnologien, können eine massive Überwachung ermöglichen und das Recht auf Privatsphäre erheblich einschränken.

Ausnahmen bestehen nur in streng geregelten Fällen, etwa bei der Verhinderung schwerer Straftaten oder zur Terrorismusbekämpfung, und müssen von den zuständigen Behörden genehmigt werden.

II. Rechtliche Konsequenzen für Unternehmen
Für Unternehmen, die verbotene KI-Praktiken anwenden, hat die Nichteinhaltung der Vorschriften schwerwiegende Folgen. Die Verordnung sieht umfassende Sanktionen vor, die insbesondere in Artikel 71 geregelt sind.

1. Bußgelder
Verstöße gegen Artikel 5 der KI-Verordnung können mit erheblichen Bußgeldern geahndet werden. Artikel 71 Abs. 3 legt fest, dass Unternehmen bei Verstößen gegen die Verbotsvorschriften Geldbußen von bis zu 30 Millionen Euro oder 6 % des weltweiten Jahresumsatzes des Unternehmens zu zahlen haben, je nachdem, welcher Betrag höher ist. Diese hohen Bußgelder unterstreichen den Stellenwert der Verordnung und die Schwere von Verstößen.

Diese Sanktionen stehen in ihrer Höhe den Bußgeldern der Datenschutz-Grundverordnung (DSGVO) nahe und verdeutlichen die Entschlossenheit der EU, die Einhaltung der Vorschriften durchzusetzen.

2. Betriebseinstellungen und Vertriebsverbote
Neben Bußgeldern kann die zuständige Aufsichtsbehörde gemäß Artikel 71 Abs. 4 auch andere Sanktionen verhängen, darunter:

Einstellung des Betriebs eines KI-Systems, das gegen die Verbote verstößt,
Rückruf von Produkten, die verbotene KI-Systeme enthalten,
Verbot des Inverkehrbringens oder der Bereitstellung von solchen Systemen auf dem europäischen Markt.
Diese Maßnahmen können für Unternehmen besonders schwerwiegend sein, da sie direkt den Fortbestand des Geschäftsmodells oder den Einsatz von innovativen Technologien betreffen.

3. Haftung für Schäden
Unternehmen, die verbotene KI-Systeme einsetzen, können zudem zivilrechtlich für Schäden haftbar gemacht werden, die durch den Einsatz solcher Systeme verursacht wurden. Dies ergibt sich aus den allgemeinen Haftungsvorschriften im Zivilrecht, aber auch aus der DSGVO, sofern personenbezogene Daten betroffen sind. Geschädigte Personen haben das Recht, auf Schadensersatz zu klagen, insbesondere wenn durch den Einsatz eines verbotenen KI-Systems ihre Grundrechte verletzt wurden.

III. Praktische Herausforderungen für Unternehmen
Die Implementierung der Vorschriften der KI-Verordnung erfordert von Unternehmen erhebliche Anstrengungen. Insbesondere die Einhaltung der Verbote nach Artikel 5 stellt Unternehmen vor praktische Herausforderungen:

1. Risikoabschätzung und Compliance
Unternehmen müssen sicherstellen, dass ihre KI-Systeme im Einklang mit den Verboten stehen. Hierzu sind umfassende Risikomanagement-Systeme erforderlich, die mögliche Risiken von KI-Anwendungen erfassen und geeignete Maßnahmen zur Vermeidung von Verstößen festlegen. Da KI-Systeme oft komplex und schwer durchschaubar sind, müssen Unternehmen sicherstellen, dass sie die Funktionsweise ihrer Systeme genau kennen und regelmäßig überprüfen.

2. Interne Kontrollen und Prüfmechanismen
Ein wichtiger Bestandteil der Compliance-Strategie ist die Implementierung von internen Prüfmechanismen, die sicherstellen, dass verbotene KI-Praktiken nicht unbewusst in die Unternehmensprozesse eingebaut werden. Dies erfordert insbesondere regelmäßige Audits und die Einrichtung von Kontrollinstanzen innerhalb des Unternehmens, etwa durch Ethik- oder Datenschutzbeauftragte, die den Einsatz von KI-Systemen überwachen.

3. Schulung und Sensibilisierung der Mitarbeiter
Da KI-Systeme oft tief in den Unternehmensprozessen verankert sind, ist es notwendig, die Mitarbeiter regelmäßig zu schulen und für die rechtlichen Anforderungen zu sensibilisieren. Dies gilt insbesondere für Entwickler und Anwender von KI-Systemen, die für die Einhaltung der Vorschriften verantwortlich sind.

Fazit
Artikel 5 KI-Verordnung soll sicherstellen, dass besonders gefährliche und ethisch bedenkliche KI-Praktiken vollständig verboten werden. Für Unternehmen ist die Einhaltung dieser Verbote von entscheidender Bedeutung, da Verstöße nicht nur zu erheblichen Bußgeldern, sondern auch zu Betriebsverboten und anderen schwerwiegenden Konsequenzen führen können.

Unternehmen müssen daher umfassende Compliance-Strategien entwickeln, um sicherzustellen, dass ihre KI-Systeme im Einklang mit der Verordnung stehen. Besonders im Hinblick auf die verbotenen Praktiken erfordert dies ein hohes Maß an Transparenz und interne Prüfmechanismen, um die Risiken, die von der Nutzung von KI ausgehen, wirksam zu kontrollieren. Rechtsprechung und Aufsichtspraxis werden zeigen, wie streng die Vorschriften der KI-Verordnung durchgesetzt werden. Ein Blick in die Vergangenheit zeigt, dass sich immer Gerichte und Aufsichtsbehörden finden, welche einen besonder strengen Maßstab bei der Auslegung rechtliche Vorgaben anglegen.

Die Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung) wurde am 12.07.2024 im Amtsblatt der EU veröffentlicht.

Die vollständige Verordnung finden Sie hier:
VERORDNUNG (EU) 2024/1689 DES EUROPÄISCHEN PARLAMENTS UND DES RATES vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)

Die Vorschriften treten sukzessive in Kraft. In Art. 113 KI-Verordnung heißt es dazu:
Art. 113 Inkrafttreten und Geltungsbeginn
Diese Verordnung tritt am zwanzigsten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft. Sie gilt ab dem 2. August 2026.
Jedoch:
a) Die Kapitel I und II gelten ab dem 2. Februar 2025;
b) Kapitel III Abschnitt 4, Kapitel V, Kapitel VII und Kapitel XII sowie Artikel 78 gelten ab dem 2. August 2025, mit Ausnahme des Artikels 101;
c) Artikel 6 Absatz 1 und die entsprechenden Pflichten gemäß dieser Verordnung gelten ab dem 2. August 2027.