Skip to content

LG Kiel: Betreiber einer Online-Datenbank für Wirtschaftsinformationen haftet für falsche KI-generierte Inhalte

LG Kiel
Urteil vom 29.02.2024
6 O 151/23


Das LG Kiel hat entschieden, dass der Betreiber einer Online-Datenbank für Wirtschaftsinformationen für falsche KI-generierte Inhalte haftet.

Aus den Entscheidungsgründen:
1. Der Klägerin steht ein Unterlassungsanspruch aus §§ 1004 Abs. 1 S.2 analog, 823 Abs. 1 BGB i.V.m. Art. 2 Abs. 1, 19 Abs. 3 GG zu, dass die Beklagte es unterlässt zu behaupten, dass die Klägerin wegen Vermögenslosigkeit nach § 394 FamFG gelöscht wird (siehe Anlage K2).

a) § 1004 BGB ist analog und das allgemeine Persönlichkeitsrecht nach Art. 19 Abs. 3 GG auch auf die Klägerin anwendbar.

Unmittelbar schützt § 1004 BGB nur das Eigentum. Wegen ähnlichen Schutzes anderer absoluter Rechte wird § 1004 BGB analog auf alle absoluten Rechte des § 823 BGB angewendet (Grüneberg BGB/ Herrler § 1004 BGB Rn. 4). Eine juristische Person kann sich auf den Ehrenschutz durch das allgemeine Persönlichkeitsrecht berufen, wenn sie dieses Rechtsschutzes aus ihrem Wesen als Zweckschöpfung des Rechts und ihren Funktionen bedarf (BGH, Urteil vom 04.04.2017 - VI ZR 123/16, Rz. 16). Geschützt wird durch Art. 2 Abs. 1, Art. 1 Abs. 1 i.V.m. Art. 19 Abs. 3 GG auch der soziale Geltungsanspruch eines Wirtschaftsunternehmens (BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 12). Als mittelständisches Wirtschaftsunternehmen lebt die Klägerin von ihrem Ruf und wird deshalb auch vom Wesensgehalt des allgemeinen Persönlichkeitsrecht nach Art. 19 Abs. 3 GG erfasst.

Die Klägerin ist in den äußerungsrechtlichen Schutzgehalten ihres Unternehmenspersönlichkeitsrechts betroffen.

Zur Erfassung des Inhalts der von der Klägerin beanstandeten Äußerung ist diese auszulegen. Maßgeblich für die Deutung einer Äußerung ist weder die subjektive Absicht des sich Äußernden noch das subjektive Verständnis des von der Äußerung Betroffenen, sondern der Sinn, den sie nach dem Verständnis eines unvoreingenommenen und verständigen Publikums hat (BVerfG, Beschluss vom 25.10.2012 - 1 BvR 901/11, Rz. 20). Auszugehen ist dabei stets vom Wortlaut der Äußerung, deren Sinn allerdings auch von dem sprachlichen Kontext, in dem die umstrittene Äußerung steht und von den erkennbaren Begleitumständen, unter denen sie fällt, bestimmt wird (BVerfG, a.a.O.). Dementsprechend ist die isolierte Betrachtung eines Äußerungsteils regelmäßig nicht zulässig (BGH, Urteil vom 16.11.2004 - VI ZR 298/03, Rz. 23). Ausgehend hiervon muss bei der Auslegung der streitgegenständlichen Mitteilung maßgeblich berücksichtigt werden, wie die Beklagte unter dem Menüpunkt „Über uns" ihren Nutzern die Herkunft der von ihr bereitgestellten Informationen erklärt (siehe Anlage T1):

XXX analysiert Handelsregisterbekanntmachungen und andere Pflichtveröffentlichungen deutscher Firmen, um Wirtschaftsinformationen zu gewinnen, insbesondere zu finanziellen Kennzahlen und zu Zusammenhängen zwischen Firmen untereinander sowie zu Personen. Dazu werden Methoden der Big-Data Verarbeitung

und der Künstlichen Intelligenz (KI) verwendet.

Demnach versteht das unvoreingenommene und verständige Publikum die Mitteilung (Anlage K2) so, dass die Klägerin eine Pflichtmitteilung hinsichtlich ihrer Löschung wegen Vermögenslosigkeit nach § 394 FamFG machen musste und entsprechend vor der Löschung steht.

Während das Recht auf informationelle Selbstbestimmung Schutz davor bietet, dass Dritte sich individueller Daten bemächtigen, und sie in nicht nachvollziehbarerweise als Instrument nutzen, um die Betroffenen auf Eigenschaften, Typen oder Profile festzulegen, auf die sie keinen Einfluss haben und die aber für die freie Entfaltung der Persönlichkeit sowie eine gleichberechtigte Teilhabe in der Gesellschaft von erheblicher Bedeutung sind, bietet das Persönlichkeitsrecht in seiner äußerungsrechtlichen Ausprägung Schutz vor den Gefährdungen, die sich für die Persönlichkeitsentfaltung aus der sichtbaren Verbreitung bestimmter Informationen im öffentlichen Raum ergeben (BVerfG, Beschluss vom 06.11.2019- 1 BvR 16/13, Rz. 89 ff.; BGH, Urteil vom 26.11.2019 - VI ZR 12/19, Rz. 27 ff.; so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 15). Gegen Letzteres wendet sich die Klägerin, weil sie sie dagegen zur Wehr setzt, dass die Beklagte bei Suchanfragen nach ihr, der Klägerin, ihren Nutzern unter anderem die streitgegenständliche Mitteilung (Anlage K2) angezeigt hat.

Die Klägerin wird durch die Äußerung der Beklagten in ihrem sozialen Geltungsanspruch berührt, weil sich daraus ergibt, dass die Klägerin wegen Vermögenslosigkeit nach § 394 FamFG gelöscht würde, was sich abträglich auf ihr Ansehen in der Öffentlichkeit und ihre Kreditwürdigkeit auswirkt. Offenbleiben kann, ob die Beklagte, wie sie meint, ein haftungsprivilegierter Host-Provider im Sinne von §§ 2, Abs. 1 Nr. 1, 10 TMG ist. Das Haftungsprivileg des § 10 Satz 1 TMG erstreckt sich nur auf die strafrechtliche Verantwortung und die Schadensersatzhaftung eines Diensteanbieters von Telemedien im Sinne von § 2 Satz 1 Nr. 1 TMG (BGH, Versäumnisurteil vom 25.10.2011- VI ZR 93/10, Rz. 19) und lässt die Möglichkeit unberührt, den Diensteanbieter wegen einer vorangegangenen Rechtsverletzung auf Unterlassung in Anspruch zu nehmen (BGH, Urteil vom 01.03.2016 - VI ZR 34/15, Rz. 19 f.).

Dieser Eingriff in das allgemeine Persönlichkeitsrecht der Klägerin ist auch rechtswidrig gewesen.

Da das Persönlichkeitsrecht ein Rahmenrecht ist, dessen Reichweite nicht absolut feststeht, kann erst durch eine Abwägung der widerstreitenden grundrechtlich geschützten Belange, bei der die besonderen Umstände des Einzelfalls sowie die betroffenen Grundrechte zu berücksichtigen sind, bestimmt werden, ob der Eingriff in das Persönlichkeitsrecht rechtswidrig gewesen ist (BGH, Urteil vom 01.03.2016 – VI ZR 34/15, Rz. 30). Nichts anderes gilt für das Recht am eingerichteten und ausgeübten Gewerbetrieb. Dieses Recht stellt einen offenen Tatbestand dar, dessen Inhalt und Grenzen sich erst aus einer Abwägung mit den im Einzelfall konkret kollidierenden Interessen anderer ergeben (BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 16). Demnach ist das durch Art. 2 Abs. 1, 12 Abs. 1 und 19 Abs. 3 GG geschützte Interesse der Klägerin an ihrer sozialen Anerkennung und wirtschaftlichen Stellung mit der in Art. 5 Abs. 1 GG verankerten Meinungsfreiheit und Kommunikationsfreiheit der Beklagten sowie ihrer durch Art. 12 Abs. 1 GG geschützten Unternehmensfreiheit abzuwägen, bei deren Einschränkung die durch Art. 5 Abs. 1 GG geschützte Meinungs- und Informationsfreiheit der Nutzer des von der Beklagten betriebenen Portals zu berücksichtigen ist (vgl. BGH, Urteil vom 27.07.2020 - VI ZR 405/18, Rz. 33 und 36).

Die Beklagte will sich zwar gar nicht auf ihre Meinungsfreiheit berufen, weil sie den Rechtsstandpunkt einnimmt, ihr sei ähnlich einem Suchmaschinenbetreiber nicht an der Verbreitung einer bestimmten Meinung, sondern nur daran gelegen, die potentiellen Interessen ihrer Nutzer möglichst optimal zu befriedigen (vgl. BVerfG, Beschluss vom 6. November 2019-1 BvR 276/17, Rz. 106). Wie jedoch bereits ausgeführt wurde, ist die streitgegenständliche Äußerung nicht mit der typischen Dienstleistung eines Suchmaschinenbetreibers vergleichbar, weil die Beklagte nach der obigen Auslegung eine eigene Stellungnahme abgegeben hat. Es würde ihren Rechtsschutz erheblich verkürzen, wenn man ihr in dieser Situation den Schutz von Art. 5 Abs. 1 GG versagen würde, nur weil sie sich darauf nicht beruft.

Eine Abwägung der widerstreitenden Interessen ist allerdings entbehrlich, wenn es sich um Schmähkritik (oder - hier gänzlich fernliegend - um eine Formalbeleidigung oder einen Verstoß gegen die Menschenwürde) handelt, weil diese am Schutz der Meinungsfreiheit nach Art. 5 Abs. 1 Satz 1 GG nicht teilhaben (BVerfG, Beschluss vom 19.05.2020 - 1 BvR 2397/19, Rz. 19 und 21). Die Mitteilung der Beklagten ist jedoch nicht als Schmähkritik zu werten.

Wegen seines die Meinungsfreiheit verdrängenden Effekts ist der Begriff der Schmähkritik eng auszulegen (BVerfG, a.a.O., Rz. 20; BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 18). Von einer Schmähung ist nur auszugehen, wenn eine Äußerung keinen irgendwie nachvollziehbaren Bezug mehr zu einer sachlichen Auseinandersetzung hat und es bei ihr im Grunde nur um das grundlose Verächtlichmachen der betroffenen Person als solcher geht (BVerfG, a.a.O., Rz. 19; BGH, Urteil vom 27.02.2018 - VI ZR 489/16, Rz. 37). Daher stellt auch eine überzogene, ungerechte oder gar ausfällige Kritik noch keine Schmähung dar (BVerfG, a.a.O., Rz. 18; BGH, Urteil vom 16.12.2014 - VI ZR 39/14, Rz. 18). Auch bei dieser Auslegungsfrage ist die Äußerung in ihrem Gesamtzusammenhang zu betrachten (BGH, a.a.O., Rz. 19). Demnach stellt die streitgegenständliche Äußerung keine Schmähkritik dar. Die Aussage, die Klägerin würde wegen Vermögenslosigkeit nach § 394 FamFG gelöscht, kann zwar ihren sozialen Geltungsanspruch und ihre wirtschaftliche Stellung gegenüber anderen Marktteilnehmern ganz erheblich beeinträchtigen, unter Umständen sogar gefährden. Die in Rede stehende Meldung ist jedoch sachlich gehalten.


Für die demnach gebotene Abwägung ist zu berücksichtigen, dass es sich bei der Aussage um eine unwahre Tatsachenbehauptung handelt.

Tatsachen können anders als Meinungen wahr oder unwahr sein. Der Unterschied liegt in der Beziehung zwischen der Äußerung und der Realität (BVerfGE 90, 241 (247) = NJW 1994, 1779). Der Wahrheitsgehalt der Äußerung steht im Vordergrund. Hierüber kann im Wege einer Beweisaufnahme erkannt werden. Meinungen können hingegen nicht wahr oder unwahr sein, sondern zum Beispiel wahrhaftig oder unaufrichtig, überlegt oder unbedacht (BVerfGE 33, 1 (14) = NJW 1972, 811).

Die Aussage, dass der Klägerin die Löschung nach § 394 FamFG bevorsteht, ist entweder richtig oder falsch. Eine Beweisaufnahme darüber wäre denkbar. Insofern handelt es sich bei der Aussage der Beklagten um eine Tatsachenbehauptung.

Tatsachen sind nur dann grundgesetzlich geschützt, wenn sie Voraussetzung für die Bildung von Meinungen sind und zur Meinungsbildung beitragen (BVerfGE 85, 1 (15) = NJW 1992, 1439). Die Richtigkeit der Information hat Bedeutung für den grundrechtlichen Schutz, denn unwahre Äußerungen sind kein schützenswertes Gut (BVerfGE 54, 208 (219) = NJW 1980, 2072). Kennt der sich Äußernde die Unwahrheit, lügt er also bewusst, oder ist die Unwahrheit der Tatsache im Zeitpunkt der Äußerung erwiesen, entfällt grundrechtlicher Schutz, da diese Äußerungen nicht einmal vom Schutzbereich erfasst sind (BVerfGE 99, 185 (197) = NJW 1999, 1322).

Die Beklagte bediente sich einer künstlichen Intelligenz, um die Registerpublikationen auf ihrer Website zu veröffentlichen. Die Beklagte hatte damit unbestritten keine positive Kenntnis von der Unrichtigkeit der Meldung. Von dieser Tatsache hat sie erst erfahren, als die Klägerin an sie herangetreten ist (Bl. 17 d.A.).

Dass die Meldung unrichtig ist, führt die Beklagte selbst aus (Bl. 19 d.A.). Demnach lag eine Verwechslung mit der XXX, Amtsgericht XXX HRB XXX, beim Registergericht vor (XXX vs XXX).

Die zentrale Abwägung zwischen dem Persönlichkeitsrecht der Klägerin mit der Meinungsfreiheit der Beklagten ergibt ein deutliches Überwiegen auf Seiten der Klägerin.

Die streitgegenständliche Äußerung betrifft den durch Art. 2 Abs. 1, 19 Abs. 3 GG gewährleisteten sozialen Geltungsanspruch der Klägerin als Wirtschaftsunternehmen und ihr durch Art. 12, 19 Abs. 3 GG gewährleistetes Recht am eingerichteten und ausgeübten Gewerbebetrieb. Die unternehmerische Tätigkeit vollzieht sich zwar von vornherein im Kontakt mit der Umwelt. Dementsprechend muss sich ein Gewerbetreibender wertende, nicht mit unwahren Tatsachenbehauptungen verbundene Kritik an seiner gewerblichen Leistung in der Regel auch dann gefallen lassen, wenn sie scharf formuliert ist (BGH, Urteil vom 16.12.2014 – VI ZR 39/14, Rz. 21). Allerdings muss der Gewerbetreibende nicht hinnehmen, dass seine wirtschaftliche Stellung durch falsche Tatsachenbehauptungen geschwächt wird. Dies gilt insbesondere für die streitgegenständliche Äußerung, weil die falsche Meldung, dass die Klägerin wegen Vermögenslosigkeit nach § 394 FamFG gelöscht würde, jemanden ernstlich davon abhalten kann, mit der Klägerin in geschäftlichen Kontakt zu treten. Berücksichtigt werden muss dabei, dass die Beklagte bei Suchanfragen zum Namen der Klägerin an zweiter Stelle, also besonders prominent, auftaucht und damit ein breites an der Klägerin interessiertes Publikum erreicht (Anlage K5). Der Eingriff in das Schutzrecht ist entsprechend erheblich, die Interessen der Beklagten müssen hinter denen der Klägerin zurücktreten.

b) Die Beklagte ist unmittelbare Störerin im Sinne von § 1004 Abs. 1 BGB. Als Störer ist, unabhängig von einem Verschulden, jeder anzusehen, der die Störung adäquat kausal herbeigeführt hat oder dessen Verhalten eine Beeinträchtigung befürchten lässt (Grüneberg BGB/ Herrler § 1004 BGB Rn. 16 f.; BGH NZM 19, 893 Tz. 15). Auch der mittelbare Störer ist von der Norm umfasst, der in irgendeiner Weise willentlich und adäquat kausal an der Herbeiführung der rechtswidrigen Beeinträchtigung mitgewirkt hat (BGH, Urteil vom 28.07.2015 – VI ZR 340/14, Rz. 34).

Die Klägerin ist jedoch als unmittelbare Störerin anzusehen, weil sie sich willentlich zur Beantwortung von Suchanfragen einer eigenen Software bedient, die Informationen aus den veröffentlichten Pflichtmitteilungen extrahiert und aufbereitet veröffentlicht. Die Beklagte kann sich nicht darauf zurückziehen, sie sei an diesem automatischen Vorgang nicht beteiligt gewesen, weil sie sich bewusst zur Beantwortung von Suchanfragen ihrer Nutzer einer künstlichen Intelligenz bedient hat, die in Fällen wie diesem unzulänglich programmiert war, weil sie nicht erkannt hat, dass vorliegend die XXX, Amtsgericht XXX HRB XXX, gemeint war und ein Zuordnungsfehler (XXX vs XXX) vorlag (so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 19). Zum anderen haftet der Betreiber eines Portals auch dann als unmittelbarer Störer für die von einem Dritten eingestellten Inhalte, wenn er sich diese aus Sicht eines verständigen Durchschnittsnutzers auf der Grundlage einer Gesamtbetrachtung aller relevanten Umstände zu eigen gemacht und dafür nach außen erkennbar die inhaltliche Verantwortung übernommen hat (BGH, Urteil vom 01.03.2016 – VI ZR 34/15, Rz. 17; so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 19). Dies schafft die Beklagte dadurch, dass sie die Pflichtveröffentlichungen zu einem Unternehmen bei sich auf der Seite bündelt und die Informationen teilweise untereinander verknüpft.

c) Eine Wiederholungsgefahr liegt vor.

Diese liegt vor, wenn es die auf Tatsachen gegründete objektive ernstliche Besorgnis weiterer Störungen gibt. In der Regel begründet die vorangegangene rechtswidrige Beeinträchtigung eine tatsächliche Vermutung für die Wiederholungsgefahr (BGH NJW 12, 3781; Grüneberg BGB/ Herrler § 1004 BGB Rn. 32), an deren Wiederlegung durch den Störer hohe Anforderungen zu stellen sind (BGH NJW 99, 356).

Die aus der rechtswidrigen Beeinträchtigung folgende Vermutung konnte die Beklagte bisher nicht entkräften. Ihr Verweis, dass sie lediglich fremde Daten aus Pflichtveröffentlichungen ohne Prüfung veröffentliche, bekräftigt sogar die Wiederholungsgefahr. Denn die Pflichtinformationen sind nach Aussage der Beklagten, die sich auf das elektronische Handelsregister bezieht, unzuverlässig, sodass es „zu falschen Anzeigen kommt“ (Bl. 19 d.A.). Insofern kann nicht ausgeschlossen werden, dass der gleiche Fehler (Verwechslung XXX vs. XXX) erneut auftritt.

d) Eine den Unterlassungsanspruch ausschließende Duldungspflicht nach § 1004 Abs. 2 BGB kommt vorliegend nicht in Betracht.

2. Der von der Klägerin angekündigte Unterlassungsantrag ist insoweit unbegründet, als dass es auch zukünftige Informationsveröffentlichungen durch die Beklagte einbezieht, die sich nicht auf die vermeintliche Löschung der Klägerin nach § 394 FamFG beziehen.

Das Persönlichkeitsrecht ist ein Rahmenrecht, dessen Reichweite erst durch die Abwägung der betroffenen grundrechtlich geschützten Interessen bestimmt wird und dementsprechend ein aus dem Persönlichkeitsrecht abgeleitetes Gebot, eine Äußerung zu unterlassen, auf die konkrete Verletzungsform beschränkt werden muss, damit die wesentlichen abwägungsrelevanten Gesichtspunkte, die zur Rechtswidrigkeit der Äußerung geführt haben, in die Rechtskraft der Entscheidung miteinbezogen werden (vgl. BGH, Urteil vom 04.12.2018 - VI ZR 128/19, Rz. 19; so auch OLG Düsseldorf I-16 U 136/20; Anlage K6 S. 17).

3. Die Klägerin hat gegen die Beklagte einen Anspruch auf Ersatz der vorgerichtlichen Rechtsverfolgungskosten in Höhe des Obsiegens von 527,00 € gemäß §§ 280 Abs. 2, 286 Abs. 1 BGB.

Das Schuldverhältnis ergibt sich aus der Verletzung des allgemeinen Persönlichkeitsrechts der Klägerin gemäß § 823 Abs. 1 BGB.

Angemahnt wurde die Beklagte durch die Klägerin mit Fristsetzung am 21.07.2023, die daraufhin zwar die Meldung von ihrer Website entfernte, jedoch die Unterlassungserklärung nicht unterschrieben hat. Angesichts des erheblichen Eingriffs in das allgemeine Persönlichkeitsrecht der Klägerin war das Tätigwerden eines Rechtsanwalts auch erforderlich.

Die Klägerin kann jedoch die Umsatzsteuer in Höhe von 100,13 € nicht von der Beklagten verlangen. Die Klägerin ist nämlich vorsteuerabzugsberechtigt gemäß § 15 Abs. 1 S. 1 Nr. 1 UstG.Nach § 15 Abs. 1 S. 1 Nr. 1 UStG kann der Unternehmer die gesetzlich geschuldete Steuer für Lieferungen und sonstige Leistungen, die von einem anderen Unternehmer für sein Unternehmen ausgeführt worden sind, als Vorsteuer abziehen, wenn er eine nach den §§ 14, 14a UStG ausgestellte Rechnung besitzt. Auf der Rechnung des Prozessbevollmächtigten der Klägerin ist zwar ein Umsatzsteuerbetrag in Höhe von 155,46 € aufgeführt. Die Klägerin ist jedoch als GmbH Unternehmerin im Sinne des § 2 Abs. 1 S. 1 UStG. Die Beauftragung des Rechtsanwalts erfolgte für das Unternehmen nach § 15 Abs. 1 S. 1 UStG, da eine Unterlassung aufgrund einer Rechtsverletzung aufgrund ihres Unternehmenspersönlichkeitsrechts begehrt wird. Nach dem schadensrechtlichen Bereicherungsverbot soll der Geschädigte über den Schadensersatz keine Bereicherung erlangen. Den in der Abzugsmöglichkeiten liegenden Vorteil muss sich der Geschädigte auf den Schaden anrechnen lassen (BGH, Urteil vom 18.3.2014 – VI ZR 10/13 Rz. 17).


Den Volltext der Entscheidung finden Sie hier:

LG Hamburg: Gemeinnützer Verein LAION darf Fotos für die Erstellung von KI-Traingsdaten nach § 60d UrhG herunterladen und verwenden

LG Hamburg
Urteil vom 27.09.2024
310 O 227/23


Das LG Hamburg hat entschieden, dass der gemeinnütze Verein LAION Fotos für die Erstellung von KI-Traingsdaten nach § 60d UrhG herunterladen und verwenden darf.

Aus den Entscheidungsgründen:
I. Die zulässige Klage hat in der Sache keinen Erfolg. Der Beklagte hat durch die Vervielfältigung der streitgegenständlichen Fotografie zwar in die Verwertungsrechte des Klägers eingegriffen. Dieser Eingriff ist aber durch die Schrankenregelung des § 60d UrhG gedeckt. Ob sich der Beklagte ergänzend auf die Schrankenregelung des § 44b UrhG berufen kann, bedarf vor diesem Hintergrund keiner abschließenden Beurteilung.

Die streitgegenständliche Fotografie ist jedenfalls als Lichtbild nach § 72 Abs. 1 UrhG geschützt. Das Gericht hat nach Inaugenscheinnahme der auf dem Laptop des Klägers befindlichen Rohdaten auch keinen Zweifel an der Lichtbildnereigenschaft des Klägers, § 72 Abs. 2 UrhG. Der Kläger ist auch zur Geltendmachung von Verletzungsansprüchen nach § 97 UrhG aktiv legitimiert, so auch für den Unterlassungsanspruch nach Abs. 1 der Vorschrift; dass der Kläger der Bildagentur ... weitergehende als (unterlizenzierbare) einfache Nutzungsrechte eingeräumt hat, hat der Beklagte nicht dargelegt. Die Bildagentur ... hat das Foto mit einem Wasserzeichen versehen; das war eine unfreie Umgestaltung im Sinne des § 23 Abs. 1 S. 1 UrhG, so dass auch zu deren Verwertung grundsätzlich die Zustimmung des Klägers als des Urhebers erforderlich war. Im Rahmen des durchgeführten Downloads hat der Beklagte diese Fassung vervielfältigt i.S.d. § 16 Abs. 1 UrhG, ohne dafür eine Zustimmung des Klägers eingeholt zu haben.

Allerdings war der Beklagte hierzu aufgrund gesetzlicher Erlaubnis berechtigt. Die Vervielfältigung war zwar nicht durch die Schrankenregelung des § 44a UrhG gedeckt (im Folgenden 1.), und ob sich der Beklagte auf die Schrankenregelung des § 44b UrhG berufen kann, erscheint als zweifelhaft (im Folgenden 2.). Letzteres bedarf aber vorliegend keiner abschließenden Entscheidung, da die Vervielfältigungshandlung jedenfalls durch die Schrankenregelung des § 60d UrhG gedeckt war (im Folgenden 3.).

1. Die erfolgte Vervielfältigung ist nicht durch die Schrankenregelung des § 44a UrhG gedeckt.

Danach sind vorübergehende Vervielfältigungshandlungen zulässig, die flüchtig oder begleitend sind und einen integralen und wesentlichen Teil eines technischen Verfahrens darstellen und deren alleiniger Zweck es ist, eine Übertragung in einem Netz zwischen Dritten durch einen Vermittler oder eine rechtmäßige Nutzung eines Werkes oder sonstigen Schutzgegenstands zu ermöglichen, und die keine eigenständige wirtschaftliche Bedeutung haben.

Die vorliegend erfolgte Vervielfältigung war bereits weder flüchtig noch begleitend.

a) Flüchtig i.S.d. § 44a UrhG ist eine Vervielfältigung dann, wenn ihre Lebensdauer auf das für das ordnungsgemäße Funktionieren des betreffenden technischen Verfahrens Erforderliche beschränkt ist, wobei dieses Verfahren derart automatisiert sein muss, dass es diese Handlung automatisch, d.h. ohne Beteiligung einer natürlichen Person löscht, sobald ihre Funktion, die Durchführung eines solchen Verfahrens zu ermöglichen, erfüllt ist (EuGH, Urt. v. 16.07.2009, Az. C-5/08 – Infopaq/Danske Dagblades Forening, Rn. 64 (juris) zu Art. 5 Abs. 1 DSM-RL).

Soweit sich der Beklagte insoweit darauf beruft, dass im Rahmen des von ihm durchgeführten Analyseverfahrens die Dateien "automatisch" gelöscht worden seien, vermag dies eine Flüchtigkeit der Vervielfältigung im vorgenannten Sinne nicht zu begründen. Abgesehen davon, dass der Beklagte nichts zu der konkreten Dauer der Speicherung vorgetragen hat, erfolgte die Löschung gerade nicht "nutzerunabhängig", sondern aufgrund einer entsprechenden bewussten Programmierung des Analyseprozesses durch den Beklagten.

b) Begleitend i.S.d. § 44a UrhG ist eine Vervielfältigung dann, wenn sie gegenüber dem technischen Verfahren, dessen Teil sie ist, weder eigenständig ist noch einem eigenständigen Zweck dient (EuGH, Urt. v. 05.06.2014, Az. C-360/13, Rn. 43 (juris)).

Im vorliegenden Fall erfolgte ein gezieltes Herunterladen der Bilddateien, um sie mittels einer spezifischen Software zu analysieren. Damit ist das Herunterladen kein bloß begleitender Prozess zu der durchgeführten Analyse, sondern ein der Analyse vorgelagerter bewusster und aktiv gesteuerter Beschaffungsprozess.

2. Ob sich der Beklagte auf die Schrankenregelung des § 44b UrhG berufen kann, erscheint im vorliegenden Fall durchaus als zweifelhaft. Zwar unterfällt der von dem Beklagten vorgenommene Download grundsätzlich der Schrankenregelung des § 44b Abs. 2 UrhG, insbesondere erfolgte er zum Zwecke des Text und Data Mining im Sinne des § 44b Abs. 1 UrhG (im Folgenden lit. a). Allerdings spricht ‒ ohne dass dies vorliegend einer abschließenden Entscheidung bedürfte ‒ Einiges dafür, dass aufgrund eines wirksam erklärten Nutzungsvorbehalts im Sinne des § 44b Abs. 3 die Vervielfältigungshandlung nicht bereits nach § 44b Abs. 2 UrhG zulässig war (im Folgenden lit. b).

a) Die streitgegenständliche Vervielfältigungshandlung unterfällt grundsätzlich der Schrankenregelung des § 44b Abs. 2 UrhG.

(1) Der streitgegenständliche Download erfolgte zum Zwecke des Text und Data Mining im Sinne des § 44b Abs. 1 UrhG. Danach ist Text und Data Mining die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen. Jedenfalls für die vorliegend streitgegenständliche Vervielfältigungshandlung ist dies zu bejahen (nachfolgend (a)); eine teleologische Reduktion des Schrankentatbestands kommt insofern nicht in Betracht (unten (b)).

Vorliegend keiner Entscheidung bedarf daher die weitere, im Schrifttum eingehend diskutierte Frage, ob das Training von Künstlicher Intelligenz in seiner Gesamtheit der Schrankenregelung des § 44b UrhG unterfällt oder nicht (eingehend zum Meinungsstand BeckOK UrhR/Bomhard, 42. Ed. 15.2.2024, UrhG § 44b Rn. 11a-11b m.w.N.; dazu auch eingehend die als Anlage K11 vorgelegte, im Auftrag der Initiative Urheberrecht erstellte Studie "Urheberrecht & Training generativer KI-technologische und rechtliche Grundlagen").

(a) Der Beklagte hat die Vervielfältigungshandlung zum Zwecke der Gewinnung von Informationen über "Korrelationen" im Wortsinn des § 44b Abs. 1 UrhG vorgenommen. Der Beklagte hat das streitgegenständliche Lichtbild von seinem ursprünglichen Speicherort heruntergeladen, um mittels einer bereits verfügbaren Software ‒ offenbar der Anwendung ... von ... ‒ den Bildinhalt mit der zu dem Text bereits hinterlegten Bildbeschreibung abzugleichen. Diese Analyse der Bilddatei zum Abgleich mit einer vorbestehenden Bildbeschreibung stellt ohne Weiteres eine Analyse zum Zwecke der Gewinnung von Informationen über "Korrelationen" (nämlich der Frage der Nicht-/Übereinstimmung von Bildern und Bildbeschreibungen) dar. Dass der Beklagte die in den Datensatz ... aufgenommenen Bilder auf diese Art und Weise analysiert hat, wurde klägerseits als solches nicht bestritten.

Die Anwendbarkeit von § 44b Abs. 1 UrhG ist ‒ entgegen der Auffassung des Klägers (Replik S. 13 f., Bl. 47 f. d.A.) ‒ auch nicht deshalb ausgeschlossen, weil der Beklagte den von ihm erstellten Datensatz ... ausweislich eines zu diesem Datensatz ausgesprochenen "Disclaimers" nicht "kuratiert" habe. Der klägerseits wiedergegebene Disclaimer bezieht sich allein auf eine Warnung, dass der Datensatz nicht nach "verstörenden Inhalten" o.Ä. durchsucht worden sei. Eine solche ‒ zusätzliche ‒ Filterung des zu erstellenden Datensatzes ist aber nicht Anwendungsvoraussetzung für § 44b Abs. 1 UrhG und steht nicht der Annahme entgegen, dass die heruntergeladenen Bilder ‒ wie ausgeführt ‒ auf ihre Korrelation zwischen Bildinhalt und Bildbeschreibung hin analysiert wurden.

(b) Die streitgegenständliche Vervielfältigungshandlung ist auch nicht im Wege der teleologischen Reduktion der Schrankenregelung des § 44b UrhG aus dieser auszuschließen.

Soweit eine Herausnahme der Vervielfältigung von Daten zum Zwecke des KI-Trainings im Wege der teleologischen Reduktion im Schrifttum vereinzelt mit der Begründung befürwortet wird, dass § 44b UrhG nur die Erschließung "in den Daten verborgener Informationen", nicht aber die Nutzung "des Inhalts der geistigen Schöpfung" erfasse (Schack, NJW 2024, 113; in diese Richtung auch Dormis/Stober, Urheberrecht und Training generativer KI-Modelle, Anlage K11, S. 67 ff. mit einer Differenzierung zwischen Semantik und Syntax), bestehen Zweifel, ob dies zu überzeugen vermag; denn dabei wird nicht ausreichend deutlich, worin bei digitalisierten Werken der Unterschied zwischen "in den Daten verborgenen Informationen" und "dem Inhalt der geistigen Schöpfung" liegen soll.

Soweit ergänzend angeführt wird, dass es beim "KI-Webscraping" um den geistigen Inhalt der zu Trainingszwecken genutzten Werke und "letztlich" um die Schaffung inhaltsgleicher oder ähnlicher Konkurrenzerzeugnisse gehe (Schack, a.a.O.), unterscheidet diese Argumentation nach Auffassung der Kammer nicht streng genug zwischen

- zum einen der (hier allein streitgegenständlichen) Erstellung eines ‒ auch ‒ für KI-Training nutzbaren Datensatzes,

- zum anderem dem nachfolgenden Training des künstlichen neuronalen Netzes mit diesem Datensatz und

- zum dritten der nachfolgenden Nutzung der trainierten KI zum Zwecke der Erstellung neuer Bildinhalte.

Diese letztere Funktionalität mag zwar bereits bei der Erstellung des Trainingsdatensatzes angestrebt sein. Jedoch ist im Zeitpunkt der Zusammenstellung des Trainingsdatensatzes weder absehbar, in welcher Weise der zweite Schritt (das Training) erfolgreich sein wird, noch, welche konkreten Inhalte im dritten Schritt (bei der KI-Anwendung) durch die trainierte KI werden generiert werden können. Die konkreten Anwendungsmöglichkeiten bei einer sich rasant entwickelnden Technologie wie der KI sind zum Zeitpunkt der Erstellung des Trainingsdatensatzes daher nicht abschließend absehbar und mithin nicht rechtssicher feststellbar. Wegen dieser Rechtsunsicherheit ist die bei der Erstellung des Trainingsdatensatzes zunächst allein bestehende nur allgemeine Absicht, zukünftige KI-generierte Inhalte erlangen zu wollen, kein taugliches Kriterium für die Beurteilung der rechtlichen Zulässigkeit der Erstellung des Trainingsdatensatzes als solchen.

Soweit für eine teleologische Reduktion der Schrankenregelung des § 44b UrhG schließlich angeführt wird, dass der europäische Gesetzgeber 2019 bei Schaffung der zugrundeliegenden Richtlinienbestimmung (Art. 4 DSM-RL) "das KI-Problem" "schlicht noch nicht auf dem Schirm" gehabt habe (Schack, a.a.O.; ebenso für das Training von KI-Modellen Dormis/Stober, a.a.O., S. 71 ff., 87 ff.), genügt allein dieser Befund für eine teleologische Reduktion ersichtlich nicht. Dabei ist insbesondere zu berücksichtigen, dass die technische Fortentwicklung im Bereich der sog. Künstlichen Intelligenz seit 2019 weniger Art und Umfang des (streitgegenständlichen) Data Mining zur Beschaffung von Trainingsdaten betrifft, sondern die Leistungsfähigkeit der mit den Daten trainierten künstlichen neuronalen Netze (dementsprechend gehen Dormis/Stober, a.a.O., S. 95 gleichfalls davon aus, dass die reine Erstellung von Trainingsdatensätzen "im Vorfeld des eigentlichen Trainings" durchaus der TDM-Schranke unterfallen dürfte). Zu beachten wäre außerdem, dass die beklagtenseits abgerufene Datenbank der Common Crawl Foundation bereits seit dem Jahr 2008 (!) erstellt wird, vgl. https://commoncrawl.org/overview.

Davon abgesehen hat jedenfalls der aktuelle europäische Gesetzgeber der KI-Verordnung (Verordnung (EU) 2024/1689 vom 13.06.2024, ABl. L v. 12.07.2024 S. 1) unzweifelhaft zum Ausdruck gebracht, dass auch die Erstellung von zum Training von künstlichen neuronalen Netzen bestimmten Datensätzen der Schrankenregelung des Art. 4 DSM-RL unterfällt. Denn nach Art. 53 Abs. 1 lit. c KI-Verordnung sind Anbieter von KI-Modellen mit allgemeinem Verwendungszweck verpflichtet, eine Strategie insbesondere zur Ermittlung und Einhaltung eines gemäß Art. 4 Abs. 3 DSM-RL geltend gemachten Rechtsvorbehalts vorzusehen.

Dass auch die Erstellung von zum Training von künstlichen neuronalen Netzen bestimmten Datensätzen der Schrankenregelung des Art. 4 DSM-RL unterfalle, entspricht im Übrigen auch der Einschätzung des deutschen Gesetzgebers im Rahmen der Umsetzung der vorgenannten Schrankenbestimmung im Jahr 2021 (Begr. RegE BT-Drs. 19/27426, S. 60).

(c) Auch der in Art. 5 Abs. 5 InfoSoc-RL (i.V.m. Art. 7 Abs. 2 S. 1 DSM-RL) verankerte sog. 3-Stufen-Test rechtfertigt letztlich keine andere Beurteilung. Danach dürfen die normierten Ausnahmen nur in bestimmten Sonderfällen angewandt werden, in denen die normale Verwertung des Werks oder des sonstigen Schutzgegenstands nicht beeinträchtigt wird und die berechtigten Interessen des Rechtsinhabers nicht ungebührlich verletzt werden. Diese Anforderungen sind im vorliegenden Fall erfüllt.

Die vorliegend urheberrechtlich relevante Vervielfältigung ist auf den Zweck der Analyse der Bilddateien auf ihre Übereinstimmung mit einer vorbestehenden Bildbeschreibung nebst anschließender Einstellung in einen Datensatz beschränkt. Dass durch diese Nutzung die Verwertungsmöglichkeiten der jeweils betroffenen Werke beeinträchtigt werden würden, ist nicht ersichtlich und wird auch klägerseits nicht behauptet.

Zwar mag der auf diese Weise erstellte Datensatz nachfolgend zum Trainieren künstlicher neuronaler Netze genutzt werden können und die dabei entstehenden KI-generierten Inhalte mögen in Konkurrenz zu den Werken (menschlicher) Urheber treten können. Das allein rechtfertigt es jedoch noch nicht, bereits in der Erstellung der Trainingsdatensätze eine Beeinträchtigung auch der Verwertungsrechte an Werken i.S.v. Art. 5 Abs.5 InfoSoc-RL zu erblicken. Dies hat schon allein deshalb zu gelten, weil die Berücksichtigung bloß zukünftiger, derzeit noch gar nicht im Einzelnen absehbarer technischer Entwicklungen keine rechtssichere Abgrenzung zulässiger von unzulässigen Nutzungen erlaubt (vgl. ähnlich oben (b)).

Da eine Verwendung von im Wege des Text und Data Mining gewonnenen Erkenntnissen zum Trainieren künstlicher neuronaler Netze, die dann in Konkurrenz zu Urhebern treten können, auf Grundlage der aktuellen technologischen Entwicklung im Zweifel nie ausgeschlossen werden kann, würde die Gegenauffassung in letzter Konsequenz sogar dazu nötigen, das Text und Data Mining i.S.d. § 44b UrhG letztlich in seiner Gänze zu untersagen; eine solche vollständige Außerkraftsetzung der Schrankenregelung liefe aber der gesetzgeberischen Intention offenkundig zuwider und kann daher kein tragbares Auslegungsergebnis darstellen.

(2) Die von dem Beklagten heruntergeladene Bilddatei war auch ‒ was der Kläger im Übrigen auch nicht in Abrede stellt ‒ rechtmäßig zugänglich i.S.d. § 44b Abs. 2 S. 1 UrhG.

"Rechtmäßig zugänglich" in diesem Sinne ist ein Werk insbesondere dann, wenn es frei im Internet zugänglich ist (Begr. RegE BT-Drucks. 19/27426, S. 88).

Hiervon ist für das von dem Beklagten heruntergeladene Bild auszugehen. Anders als klägerseits zunächst vorgetragen, hat der Beklagte nicht das in dem in der Klageschrift zunächst formulierten Unterlassungsantrag wiedergegebene "Originalbild" ‒ das von der Bildagentur ... nur bei Erwerb einer Lizenz zur Verfügung gestellt worden wäre ‒, sondern eine mit einem Wasserzeichen der Bildagentur versehene Fassung des Bildes heruntergeladen. Hierbei handelte es sich ersichtlich um das auf der Agenturseite quasi zu Werbezwecken eingestellte Vorschaubild. Dieses mit dem Wasserzeichen versehene Vorschaubild wurde von der Agentur aber gerade frei zugänglich ins Internet gestellt.

b) Allerdings spricht einiges dafür, dass vorliegend die Schrankenregelung des § 44b Abs. 2 UrhG ‒ ohne dass dies einer abschließenden Entscheidung bedürfte ‒ nicht eingreift, da ein wirksam erklärter Nutzungsvorbehalts im Sinne von Abs. 3 der Vorschrift vorlag; insbesondere dürfte der auf der Webseite ...com unstreitig erklärte Nutzungsvorbehalt wohl den Anforderungen an eine Maschinenlesbarkeit i.S.d. § 44b Abs. 3 S. 2 UrhG genügen.

(1) Es spricht manches dafür, dass der auf der Webseite der Agentur ausgesprochene Nutzungsvorbehalt durch eine hierzu berechtigte Person ausgesprochen wurde und der Kläger sich hierauf auch zum Schutz seiner eigenen Rechte berufen kann.

Nach dem Wortlaut des § 44b Abs. 3 UrhG kann "der Rechtsinhaber" den Nutzungsvorbehalt aussprechen. Zu beachten sind also nicht allein Vorbehaltserklärungen des Urhebers selbst, sondern auch nachfolgender Rechteinhaber, seien sie Rechtsnachfolger oder Inhaber von vom Urheber abgeleiteten Rechten. Nach dem ohne Weiteres schlüssigen Vortrag des Klägers (Protokoll v. 11.07.2024 S. 3, Bl. 122 d.A.) hatte er der Bildagentur ... weiterlizenzierbare einfache Nutzungsrechte an dem Originalbild eingeräumt. Die Bildagentur war danach selbst Rechteinhaberin an den auf ihrer Seite eingestellten Bildern und konnte daher ohne Weiteres einen Nutzungsvorbehalt nach § 44b Abs. 3 UrhG aussprechen; dass insofern dinglich wirkende Vereinbarungen im Vertragsverhältnis zwischen dem Kläger und der Bildagentur entgegengestanden hätten, ist weder ersichtlich noch geltend gemacht worden.

Der Kläger ist wohl auch berechtigt, sich auf diese Vorbehaltserklärung seiner Lizenznehmerin zu berufen. Wirtschaftlich betrachtet fand hier die Auswertung des streitgegenständlichen Originalfotos über die Agentur statt. Damit lag in der Praxis die konkrete Entscheidung, welcher Dritte die Berechtigung zu welcher Nutzung erhalten sollte, bei der Agentur; Abschlusszwang bestand für diese nicht. In einer solchen Situation spricht aus Sicht der Kammer vieles dafür, dass sich der Urheber bei der Geltendmachung bei ihm verbliebener Verbietungsrechte auf einen von seinem Lizenznehmer erklärten Vorbehalt nach § 44b Abs. 3 UrhG berufen darf.

(2) Auch der Einwand des Beklagten, dass das in den AGB der Agentur gegenüber deren Kunden ausgesprochene Nutzungsverbot für Webcrawler schon in zeitlicher Hinsicht nicht "in Bezug auf § 44b Abs. 3 UrhG" formuliert sein könne, ist unerheblich. Für die Rechtswirkungen der Erklärung ist es keine Voraussetzung, dass sie bewusst mit Blick auf eine bestimmte Gesetzesfassung erklärt wird.

(3) Der Vorbehalt ist auch hinreichend klar formuliert. Art. 4 Abs. 3 DSM-RL verlangt eine ausdrückliche Erklärung des Nutzungsvorbehalts. Dieses Ausdrücklichkeitserfordernis ist mithin bei richtlinienkonformer Auslegung des § 44b Abs. 3 UrhG mitzuberücksichtigen (so auch Begr. RegE BT-Drs. 19/27426, 89). Der erklärte Vorbehalt muss damit sowohl expressis verbis (nicht konkludent) als auch so zielgenau (konkret-individuell) erklärt werden, dass er zweifelsfrei einen bestimmten Inhalt und eine bestimmte Nutzung erfasst (Hamann, ZGE 16 (2024), S. 134). Diesen Anforderungen genügt der auf der Webseite der Bildagentur ... formulierte Nutzungsvorbehalt ohne Weiteres.

Soweit darüber hinaus argumentiert wird, dass ein für sämtliche auf einer Webseite eingestellte Werke erklärter Nutzungsvorbehalt dem Ausdrücklichkeitserfordernis des § 44b Abs. 3 UrhG widerspreche (so in Erweiterung der eigenen abstrakten Herleitung Hamann, a.a.O., S. 148), vermag dies nicht zu überzeugen. Denn auch der explizit für sämtliche auf einer Webseite eingestellte Werke erklärte Vorbehalt ist in seiner Reichweite und seinem Inhalt nach zweifelsfrei bestimmbar und damit ausdrücklich erklärt.

(4) Schließlich dürfte auch Einiges dafür sprechen, dass der Nutzungsvorbehalt den Anforderungen an eine Maschinenlesbarkeit i.S.d. § 40b Abs. 3 S. 2 UrhG genügt.

Dabei wird man zwar den Begriff der Maschinenlesbarkeit im Hinblick auf den ihm zugrunde liegenden gesetzgeberischen Willen, eine automatisierte Abfrage durch Webcrawler zu ermöglichen (vgl. Begr. RegE BT-Drucks. 19/27426, S. 89), durchaus im Sinne einer "Maschinenverständlichkeit" auszulegen haben (eingehend zum Meinungsstand Hamann, a.a.O., S. 113, 128 ff.).

Die Kammer neigt allerdings dazu, als "maschinenverständlich" auch einen allein in "natürlicher Sprache" verfassten Nutzungsvorbehalt anzusehen (anders als die wohl überwiegende Auffassung im Schrifttum, s. Hamann, a.a.O., S. 131 ff., 146 ff. m.w.N. zum Meinungsstand, wobei dort auf einen Beitrag der hiesigen Beklagtenvertreter, nämlich auf Akinci/Heidrich, IPRB 2023, 270, 272 verwiesen wird, die offenbar ebenfalls die Auffassung der Kammer vertreten; der Beitrag war der Kammer allerdings bis zur Urteilsabfassung nicht unmittelbar zugänglich). Allerdings wird man die Frage, ob und unter welchen konkreten Voraussetzungen ein in "natürlicher Sprache" erklärter Vorbehalt auch als "maschinenverständlich" angesehen werden kann, stets in Abhängigkeit von der zum jeweils relevanten Werknutzungszeitpunkt bestehenden technischen Entwicklung beantworten müssen.

Dementsprechend hat auch der europäische Gesetzgeber im Rahmen der KI-Verordnung festgelegt, dass Anbieter von KI-Modellen eine Strategie insbesondere zur Ermittlung und Einhaltung eines gemäß Art. 4 Abs. 3 DSM-RL geltend gemachten Rechtsvorbehalts "auch durch modernste Technologien" vorzuhalten haben (Art. 53 Abs. 1 lit. c KI-Verordnung). Zu diesen "modernsten Technologien" gehören aber unzweideutig gerade auch KI-Anwendungen, die in der Lage sind, in natürlicher Sprache geschriebenen Text inhaltlich zu erfassen (so offenbar insbesondere auch die hiesigen Beklagtenvertreter Akinci/Heidrich in dem der Kammer nicht unmittelbar zugänglichen Beitrag IPRB 2023, 270, 272, hier zit. nach Hamann, a.a.O. S. 148, dieser im Übrigen diese Möglichkeit in technischer Hinsicht grds. bejahend, a.a.O.). Es spricht insoweit alles dafür, dass der Gesetzgeber der KI-Verordnung mit seinem Hinweis auf "modernsten Technologien" gerade solche KI-Anwendungen im Blick hatte.

Gegen eine solche Sichtweise wird teilweise eingewandt, sie führe zu einem Zirkelschluss: Wenn gefordert werde, der Betreiber des Text und Data Mining müsse mittels KI-Anwendungen überprüfen, ob ein Nutzungsvorbehalt erklärt worden sei, dann erfordere doch diese KI-gestützte Suche ihrerseits eine Musteranalyse, die bereits den Tatbestand des Text und Data Mining i.S.d. § 44b Abs. 1 UrhG erfülle; mit anderen Worten: Erst die Anwendung der Schranke entscheide über die Zulässigkeit ihrer Anwendung (so Hamann, a.a.O., S. 148). Die Kammer teilt diese Bewertung nicht: Die urheberrechtlich relevante, rechtfertigungsbedürftige Nutzungshandlung ist entgegen vorgenannter Ansicht nicht die Durchführung einer "Musteranalyse" als solche, sondern die Vervielfältigung des urheberrechtlich geschützten Werks i.S.d. § 16 UrhG. Dass das vorausgehende Auffinden solcher Werke im Netz und deren Überprüfung, ob Vorbehalte i.S.d. § 44b Abs. 3 S. 2 UrhG erklärt sind, zwingend ein quasi vorgeschaltetes weiteres Text und Data Mining i.S.v. § 44b Abs. 1 UrhG erfordere, erscheint nicht als zwingend, denn zu denken ist insbesondere an Prozessierungen des Webseiteninhalts durch den Einsatz von Webcrawlern, bei denen lediglich flüchtige und beiläufige Vervielfältigungen entstehen, die ihrerseits bereits unter § 44a UrhG gerechtfertigt sind.

Ferner wird gegen das von der Kammer erwogene, weitere Verständnis des Begriffes der "Maschinenlesbarkeit" auch eingewandt, dieser Begriff werde vom europäischen Gesetzgeber in anderem Zusammenhang enger verstanden. Verwiesen wird in diesem Zusammenhang auf den Erwägungsgrund 35 der PSI-Richtlinie (RL (EU) 2019/1024), der für eine "Maschinenlesbarkeit" im Sinne dieser Richtlinie u.a. eine "einfache" Erkennbarkeit verlange (so BeckOK UrhR/Bomhard, 42. Ed. 15.2.2024, UrhG § 44b Rn. 31 m.w.N.); dies könne für einen nur in natürlicher Sprache formulierten Vorbehalt nicht angenommen werden. Eine solche Argumentation setzt allerdings voraus, dass die Begrifflichkeiten beider Richtlinien in gleicher Weise verstanden werden müssen. Die Kammer hat Zweifel, ob eine solche Gleichsetzung der Begrifflichkeiten überzeugen kann, denn die Richtlinien haben unterschiedliche Zielrichtungen: Während die PSI-Richtlinie den rein einseitigen Zugang der Öffentlichkeit zu Informationen bzw. die rein einseitige Verpflichtung der öffentlichen Hand zur Veröffentlichung bestimmter Informationen zum Gegenstand hat, geht es im Rahmen von Art. 4 Abs. 3 DSM-RL um einen Ausgleich zwischen den Interessen der Nutzer des Text und Data Mining (dieses möglichst einfach und möglichst rechtssicher betreiben zu können) und den Interessen der Rechteinhaber (ihre Rechte möglichst einfach und möglichst effektiv zu sichern). Dieser Interessenausgleich kann nach Auffassung der Kammer nicht einseitig zugunsten der Nutzer des Text und Data Mining gelöst werden, indem allein die für diese denkbar einfachste technische Lösung als ausreichend für die Wirksamkeit eines ausgesprochenen Nutzungsvorbehalts erachtet wird. Gegen ein solches Verständnis spräche auch die Wertung des Gesetzgebers der DSM-RL, der im Erwägungsgrund 18 gerade nicht die Erklärung eines Vorbehalts "in möglichst einfach auszulesender Weise" fordert, sondern lediglich "in angemessener Weise". Und auch der deutsche Umsetzungsgesetzgeber verlangt lediglich eine Erklärung in einer Weise, die "den automatisierten Abläufen beim Text und Data Mining angemessen" ist (Begr. RegE BT-Drucks. 19/27426, S. 89).

Es wäre zudem aus Sicht der Kammer ein gewisser Wertungswiderspruch, den Anbietern von KI-Modellen einerseits über die Schranke in § 44b Abs. 2 UrhG die Entwicklung immer leistungsfähigerer textverstehender und -kreierender KI-Modelle zu ermöglichen, ihnen aber andererseits im Rahmen der Schranken-Schranke von § 44b Abs. 3 S. 2 UrhG die Anwendung bereits bestehender KI-Modelle nicht abzuverlangen.

Ob und in welchem Maße zum Zeitpunkt der streitgegenständlichen Vervielfältigungshandlung im Jahr 2021 eine ausreichende Technologie zur automatisierten inhaltlichen Erfassung des streitgegenständlichen Nutzungsvorbehalts bereits zur Verfügung stand, ist zwar klägerseits bislang nicht dargetan; der Kläger hat insoweit nur auf im Jahr 2023 verfügbare Dienste verwiesen (Replik S. 14 ff., Bl. 48 ff. d.A.). Allerdings bestehen Anzeichen dafür, dass der Beklagte bereits über geeignete Technologie verfügte. Denn nach eigenem Vortrag des Beklagten erforderte die im Rahmen der Erstellung des Datensatzes ... durchgeführte Analyse in Form eines Abgleichs von Bildinhalten mit vorbestehenden Bildbeschreibungen ersichtlich auch und gerade eine inhaltliche Erfassung dieser Bildbeschreibungen durch die eingesetzte Software. Vor diesem Hintergrund spricht einiges dafür, dass – insbesondere auch dem Beklagten – bereits im Jahr 2021 Systeme zur Verfügung standen, die in der Lage waren, einen in natürlicher Sprache formulierten Nutzungsvorbehalt in automatisierter Weise zu erfassen.

3. Der Beklagte kann sich hinsichtlich der streitgegenständlichen Vervielfältigung jedoch auf die Schrankenregelung des § 60d UrhG berufen.

Danach sind Vervielfältigungen für Text und Data Mining für Zwecke der wissenschaftlichen Forschung durch Forschungsorganisationen zulässig.

a) Die Vervielfältigung erfolgte – wie dargelegt – für den Zweck des Text und Data Mining i.S.d. § 44b Abs. 1 UrhG. Sie erfolgte darüber hinaus auch zu Zwecken der wissenschaftlichen Forschung i.S.d. § 60d Abs. 1 UrhG.

Wissenschaftliche Forschung bezeichnet allgemein das methodisch-systematische Streben nach neuen Erkenntnissen (Spindler/Schuster/Anton, 4. Aufl. 2019, UrhG § 60c Rn. 3; BeckOK UrhR/Grübler, 42. Ed. 1.5.2024, UrhG § 60c Rn. 5; Dreier/Schulze/Dreier, 7. Aufl. 2022, UrhG § 60c Rn. 1). Der Begriff der wissenschaftlichen Forschung ist, indem er bereits das methodisch-systematische "Streben" nach neuen Erkenntnissen ausreichen lässt, nicht so eng zu verstehen, dass er nur die unmittelbar mit der Gewinnung von Erkenntnisgewinn verbundenen Arbeitsschritte erfassen würde; vielmehr genügt es, dass der in Rede stehende Arbeitsschritt auf einen (späteren) Erkenntnisgewinn gerichtet ist, wie es z.B. bei zahlreichen Datensammlungen der Fall ist, die zunächst durchgeführt werden müssen, um anschließend empirische Schlussfolgerungen zu ziehen. Insbesondere setzt der Begriff der wissenschaftlichen Forschung auch keinen späteren Forschungserfolg voraus.

Danach kann – entgegen der Auffassung des Klägers – auch bereits die Erstellung eines Datensatzes der streitgegenständlichen Art, der Grundlage für das Trainieren von KI-Systemen sein kann, durchaus als wissenschaftliche Forschung im vorstehenden Sinne anzusehen sein. Zwar mag die Erstellung des Datensatzes als solche noch nicht mit einem Erkenntnisgewinn verbunden sein; sie ist aber grundlegender Arbeitsschritt mit dem Ziel, den Datensatz zum Zwecke späteren Erkenntnisgewinns einzusetzen. Dass eine solche Zielsetzung auch im vorliegenden Fall bestand, kann bejaht werden. Dafür genügt es, dass der Datensatz – unstreitig – kostenfrei veröffentlicht und damit gerade (auch) auf dem Gebiet künstlicher neuronaler Netze Forschenden zur Verfügung gestellt wurde. Ob der Datensatz – wie es der Kläger hinsichtlich der Dienste ... und ... behauptet – daneben auch von kommerziellen Unternehmen zum Training bzw. zur Weiterentwicklung ihrer KI-Systeme genutzt wird, ist schon deshalb unerheblich, weil auch die Forschung kommerzieller Unternehmen noch Forschung – wenn auch nicht als solche nach §§ 60c f. UrhG privilegiert – ist.

Auf die zwischen den Parteien streitige Frage, ob der Beklagte über die Erstellung entsprechender Datensätze hinaus auch wissenschaftliche Forschung in Gestalt der Entwicklung eigener KI-Modelle tätigt, kommt es vor diesem Hintergrund nicht an.

b) Der Beklagte verfolgt auch nicht kommerzielle Zwecke i.S.d. § 60d Abs. 2 Nr. 1 UrhG.

Für die Frage, ob Forschung nicht kommerziell ist, kommt es allein auf die konkrete Art der wissenschaftlichen Tätigkeit an, während Organisation und Finanzierung der Einrichtung, in der die Forschung erfolgt, unbeachtlich sind (ErwGr 42 InfoSoc-Rl).

Die nicht-kommerzielle Zweckverfolgung des Beklagten in Bezug auf die streitgegenständliche Erstellung des Datensatzes ... ergibt sich dabei bereits daraus, dass der Beklagte diesen unstreitig kostenfrei öffentlich zur Verfügung stellt. Dass die Entwicklung des streitgegenständlichen Datensatzes darüber hinaus zumindest auch der Entwicklung eines eigenen kommerziellen Angebots des Beklagten dienen würde (vgl. zu diesem Kriterium BeckOK IT-Recht/Paul, 14. Ed. 1.4.2024, UrhG § 60d Rn. 10), ist weder klägerseits vorgetragen noch sonst ersichtlich. Dass der streitgegenständliche Datensatz auch von kommerziell tätigen Unternehmen zum Training bzw. zur Weiterentwicklung ihrer KI-Systeme genutzt werden mag, ist für die Einordnung der Tätigkeit des Beklagten hingegen ohne Relevanz. Allein der Umstand, dass einzelne Mitglieder des Beklagten neben ihrer Tätigkeit für den Verein auch bezahlten Tätigkeiten bei solchen Unternehmen nachgehen, genügt nicht, die Tätigkeit dieser Unternehmen dem Beklagten als eigene zuzurechnen.

c) Dem Beklagten ist eine Berufung auf die Schrankenregelung des § 60d UrhG auch nicht nach Abs. 2 S. 3 der Vorschrift verwehrt.

Danach können sich Forschungsorganisationen, die mit einem privaten Unternehmen zusammenarbeiten, das einen bestimmenden Einfluss auf die Forschungsorganisation und einen bevorzugten Zugang zu den Ergebnissen der wissenschaftlichen Forschung hat, nicht auf die Schrankenregelung des § 60d UrhG berufen. Die Darlegungs- und Beweislast für die tatsächlichen Voraussetzungen des Gegenausschlusses nach § 60d Abs. 2 S. 3 UrhG obliegt dabei nach dem Wortlaut der Norm dem Kläger.

(1) Soweit der Kläger mit der Replik zunächst darauf verwiesen hat, dass das Unternehmen ... über die Finanzierung des gegenständlichen Datasets und die Besetzung "relevanter Posten" beim Beklagten durch eigene Mitarbeiter unmittelbaren Einfluss auf den Beklagten habe (Replik S. 18, Bl. 52 d.A.), so entbehrt dieser Vortrag der Substanz.

Der Kläger verweist insoweit lediglich darauf, dass einer der Mitbegründer des Beklagten, Herr ..., bei ... als "Head of Machine Learning Operations" angestellt sei, ferner ein Mitglied des Beklagten, Herr ..., ebendort als "Research Scientist" (Replik S. 4 f., Bl. 38 f. d.A.). Allein diese Tätigkeit von zwei Vereinsmitgliedern für das Unternehmen ... belegt aber keinen bestimmenden Einfluss dieses Unternehmens auf die Forschungsarbeit des Beklagten.

Davon abgesehen hat der Kläger noch nicht einmal behauptet, dass der Beklagte dem Unternehmen ... auch bevorzugten Zugang zu den Ergebnissen seiner wissenschaftlichen Forschung, namentlich dem streitgegenständlichen Datensatz, gewährt habe. Vielmehr wird insoweit nur vorgetragen, dass ... seinen Dienst ... mithilfe des streitgegenständlichen Datensatzes trainiert habe (Replik S. 8 f., Bl. 42 f. d.A.).

(2) Soweit der Kläger mit Schriftsatz vom 03.07.2024 auf einen im Jahr 2021 erfolgten Chat auf der Plattform ... verweist, wonach sich der Mitbegründer des Beklagten, Herr ..., dazu bereit erklärt haben soll, dem Unternehmen ... aufgrund eines von diesem geleisteten Finanzierungsbeitrags von 5.000,- $ einen vorzeitigen Zugang zu dem (damaligen kleineren) Datensatz zu gewähren, erfüllt auch dieser Vortrag nicht den Ausnahmetatbestand in § 60d Abs. 2 S. 3 UrhG.

Dabei kann dahinstehen, ob dieser – von dem Beklagten als solcher nicht bestrittene (vgl. Schriftsatz vom 09.07.2024 S. 3, Bl. 112 d.A.) – Chatverlauf die vom Kläger gezogene Interpretation überhaupt trägt. Gleichfalls kann dahinstehen, ob die Erklärung einer solchen Bereitschaft zur Gewährung eines vorzeitigen Zugangs – ob dieser tatsächlich gewährt wurde, hat der Kläger nicht vorgetragen – für das Innehaben eines bevorzugten Zugangs zu den Forschungsergebnissen i.S.d. § 60d Abs. 2 S. 2 UrhG ausreichen kann.

Denn es ist jedenfalls weder klägerseits dargetan noch sonst ersichtlich, dass das Unternehmen ... einen bestimmenden Einfluss auf den Beklagten hätte. Soweit überhaupt personelle Verflechtungen zwischen dem Beklagten und Unternehmen der KI-Branche dargetan sind, handelt es sich um die Unternehmen ... und ... (Replik S. 4 ff., Bl. 38 ff. d.A.).


Den Volltext der Entscheidung finden Sie hier:


Verbotene Praktiken nach Art. 5 der KI-Verordnung - Manipulative KI-Systeme - Ausnutzung der Schwächen von Personengruppen - Social Scoring - Biometrische Fernidentifizierung im öffentlichen Raum

Mit Inkrafttreten der Verordnung (EU) 2024/1689 zur Regulierung von Künstlicher Intelligenz (KI-Verordnung) hat die Europäische Union einen neuen regulatorischen Rahmen geschaffen, um die Nutzung von KI-Systemen zu steuern und Risiken für Sicherheit, Gesundheit und Grundrechte zu minimieren. Die Verordnung basiert auf einem risikobasierten Ansatz und enthält klare Vorgaben für den Einsatz von KI-Systemen. Im Mittelpunkt steht dabei die Unterscheidung zwischen verschiedenen Risikokategorien, wobei die gefährlichsten KI-Praktiken vollständig verboten sind.

Artikel 5 der KI-Verordnung benennt abschließend bestimmte verbotene KI-Praktiken. Diese Praktiken gelten als so schwerwiegend, dass ihr Einsatz unabhängig vom Verwendungszweck oder der jeweiligen Branche vollständig untersagt ist. Unternehmen, die solche KI-Systeme entwickeln oder einsetzen, müssen mit erheblichen Sanktionen rechnen. In diesem Beitrag wird detailliert erläutert, wann verbotene KI-Praktiken vorliegen, welche Vorschriften dies regeln und welche rechtlichen Konsequenzen dies für Unternehmen hat.

I. Wann liegen verbotene KI-Praktiken vor?
Die KI-Verordnung unterscheidet in Artikel 5 zwischen verschiedenen KI-Praktiken, die per se verboten sind, da sie gegen fundamentale Rechte und Werte verstoßen oder erhebliche Risiken für die öffentliche Sicherheit darstellen. Diese Praktiken sind abschließend aufgelistet und umfassen folgende Hauptkategorien:

1. Manipulative KI-Systeme
Artikel 5 Abs. 1 lit. a verbietet den Einsatz von KI-Systemen, die durch unterbewusste Techniken das Verhalten von Personen in einer Weise manipulieren, dass dies zu physischen oder psychischen Schäden führt. Ziel dieser Vorschrift ist der Schutz der Autonomie und des freien Willens von Individuen. Manipulative Systeme, die gezielt unterbewusste Techniken nutzen, um Menschen zu bestimmten Handlungen zu verleiten, stellen ein erhebliches Risiko dar.

Beispielsweise könnte ein KI-System, das unbewusst Kaufentscheidungen beeinflusst oder Menschen zu gesundheitsschädlichem Verhalten verleitet, unter diese Kategorie fallen. Ein solches System würde das Risiko mit sich bringen, dass die betroffene Person gegen ihren Willen zu Handlungen gedrängt wird, die ihr schaden.

2. Ausnutzung von Schwächen bestimmter Personengruppen
Nach Artikel 5 Abs. 1 lit. b ist der Einsatz von KI-Systemen verboten, die die besonderen Schwächen bestimmter Personengruppen ausnutzen, wie z. B. Kinder oder Menschen mit Behinderungen. Diese Vorschrift zielt auf den Schutz besonders schutzbedürftiger Gruppen ab, die durch KI-Systeme besonders leicht zu manipulieren oder zu beeinflussen sind.

Ein Beispiel wäre eine KI, die Kinder gezielt dazu verleitet, exzessiv Videospiele zu spielen oder Käufe zu tätigen, indem sie deren mangelnde kognitive Reife oder emotionale Schwächen ausnutzt.

3. KI-Systeme zur sozialen Bewertung (Social Scoring)
Artikel 5 Abs. 1 lit. c verbietet den Einsatz von KI-Systemen durch Behörden zur Bewertung des Verhaltens von Bürgern über einen längeren Zeitraum hinweg und zur Vergabe von sozialen Vorteilen oder Nachteilen (sogenanntes „Social Scoring“). Ein solches System könnte dazu führen, dass Personen aufgrund ihres Verhaltens oder anderer Kriterien in diskriminierender Weise behandelt werden.

Ein bekanntes Beispiel hierfür ist das Social Credit System, das in einigen Staaten zur Bewertung des Verhaltens von Bürgern eingesetzt wird. Dieses Vorgehen birgt das Risiko, dass soziale, wirtschaftliche oder rechtliche Entscheidungen auf Grundlage ungenauer oder unverhältnismäßiger Bewertungen getroffen werden.

4. Biometrische Fernidentifizierung im öffentlichen Raum
Artikel 5 Abs. 1 lit. d der KI-Verordnung untersagt den Einsatz von KI-Systemen zur biometrischen Fernidentifizierung in Echtzeit in öffentlichen Räumen, es sei denn, sie sind ausdrücklich durch das Recht der Union oder der Mitgliedstaaten erlaubt. Derartige Systeme, wie beispielsweise Gesichtserkennungstechnologien, können eine massive Überwachung ermöglichen und das Recht auf Privatsphäre erheblich einschränken.

Ausnahmen bestehen nur in streng geregelten Fällen, etwa bei der Verhinderung schwerer Straftaten oder zur Terrorismusbekämpfung, und müssen von den zuständigen Behörden genehmigt werden.

II. Rechtliche Konsequenzen für Unternehmen
Für Unternehmen, die verbotene KI-Praktiken anwenden, hat die Nichteinhaltung der Vorschriften schwerwiegende Folgen. Die Verordnung sieht umfassende Sanktionen vor, die insbesondere in Artikel 71 geregelt sind.

1. Bußgelder
Verstöße gegen Artikel 5 der KI-Verordnung können mit erheblichen Bußgeldern geahndet werden. Artikel 71 Abs. 3 legt fest, dass Unternehmen bei Verstößen gegen die Verbotsvorschriften Geldbußen von bis zu 30 Millionen Euro oder 6 % des weltweiten Jahresumsatzes des Unternehmens zu zahlen haben, je nachdem, welcher Betrag höher ist. Diese hohen Bußgelder unterstreichen den Stellenwert der Verordnung und die Schwere von Verstößen.

Diese Sanktionen stehen in ihrer Höhe den Bußgeldern der Datenschutz-Grundverordnung (DSGVO) nahe und verdeutlichen die Entschlossenheit der EU, die Einhaltung der Vorschriften durchzusetzen.

2. Betriebseinstellungen und Vertriebsverbote
Neben Bußgeldern kann die zuständige Aufsichtsbehörde gemäß Artikel 71 Abs. 4 auch andere Sanktionen verhängen, darunter:

Einstellung des Betriebs eines KI-Systems, das gegen die Verbote verstößt,
Rückruf von Produkten, die verbotene KI-Systeme enthalten,
Verbot des Inverkehrbringens oder der Bereitstellung von solchen Systemen auf dem europäischen Markt.
Diese Maßnahmen können für Unternehmen besonders schwerwiegend sein, da sie direkt den Fortbestand des Geschäftsmodells oder den Einsatz von innovativen Technologien betreffen.

3. Haftung für Schäden
Unternehmen, die verbotene KI-Systeme einsetzen, können zudem zivilrechtlich für Schäden haftbar gemacht werden, die durch den Einsatz solcher Systeme verursacht wurden. Dies ergibt sich aus den allgemeinen Haftungsvorschriften im Zivilrecht, aber auch aus der DSGVO, sofern personenbezogene Daten betroffen sind. Geschädigte Personen haben das Recht, auf Schadensersatz zu klagen, insbesondere wenn durch den Einsatz eines verbotenen KI-Systems ihre Grundrechte verletzt wurden.

III. Praktische Herausforderungen für Unternehmen
Die Implementierung der Vorschriften der KI-Verordnung erfordert von Unternehmen erhebliche Anstrengungen. Insbesondere die Einhaltung der Verbote nach Artikel 5 stellt Unternehmen vor praktische Herausforderungen:

1. Risikoabschätzung und Compliance
Unternehmen müssen sicherstellen, dass ihre KI-Systeme im Einklang mit den Verboten stehen. Hierzu sind umfassende Risikomanagement-Systeme erforderlich, die mögliche Risiken von KI-Anwendungen erfassen und geeignete Maßnahmen zur Vermeidung von Verstößen festlegen. Da KI-Systeme oft komplex und schwer durchschaubar sind, müssen Unternehmen sicherstellen, dass sie die Funktionsweise ihrer Systeme genau kennen und regelmäßig überprüfen.

2. Interne Kontrollen und Prüfmechanismen
Ein wichtiger Bestandteil der Compliance-Strategie ist die Implementierung von internen Prüfmechanismen, die sicherstellen, dass verbotene KI-Praktiken nicht unbewusst in die Unternehmensprozesse eingebaut werden. Dies erfordert insbesondere regelmäßige Audits und die Einrichtung von Kontrollinstanzen innerhalb des Unternehmens, etwa durch Ethik- oder Datenschutzbeauftragte, die den Einsatz von KI-Systemen überwachen.

3. Schulung und Sensibilisierung der Mitarbeiter
Da KI-Systeme oft tief in den Unternehmensprozessen verankert sind, ist es notwendig, die Mitarbeiter regelmäßig zu schulen und für die rechtlichen Anforderungen zu sensibilisieren. Dies gilt insbesondere für Entwickler und Anwender von KI-Systemen, die für die Einhaltung der Vorschriften verantwortlich sind.

Fazit
Artikel 5 KI-Verordnung soll sicherstellen, dass besonders gefährliche und ethisch bedenkliche KI-Praktiken vollständig verboten werden. Für Unternehmen ist die Einhaltung dieser Verbote von entscheidender Bedeutung, da Verstöße nicht nur zu erheblichen Bußgeldern, sondern auch zu Betriebsverboten und anderen schwerwiegenden Konsequenzen führen können.

Unternehmen müssen daher umfassende Compliance-Strategien entwickeln, um sicherzustellen, dass ihre KI-Systeme im Einklang mit der Verordnung stehen. Besonders im Hinblick auf die verbotenen Praktiken erfordert dies ein hohes Maß an Transparenz und interne Prüfmechanismen, um die Risiken, die von der Nutzung von KI ausgehen, wirksam zu kontrollieren. Rechtsprechung und Aufsichtspraxis werden zeigen, wie streng die Vorschriften der KI-Verordnung durchgesetzt werden. Ein Blick in die Vergangenheit zeigt, dass sich immer Gerichte und Aufsichtsbehörden finden, welche einen besonder strengen Maßstab bei der Auslegung rechtliche Vorgaben anglegen.


KI-Verordnung - Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz wurde im Amtsblatt der EU veröffentlicht

Die Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung) wurde am 12.07.2024 im Amtsblatt der EU veröffentlicht.

Die vollständige Verordnung finden Sie hier:
VERORDNUNG (EU) 2024/1689 DES EUROPÄISCHEN PARLAMENTS UND DES RATES vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)

Die Vorschriften treten sukzessive in Kraft. In Art. 113 KI-Verordnung heißt es dazu:
Art. 113 Inkrafttreten und Geltungsbeginn
Diese Verordnung tritt am zwanzigsten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft. Sie gilt ab dem 2. August 2026.
Jedoch:
a) Die Kapitel I und II gelten ab dem 2. Februar 2025;
b) Kapitel III Abschnitt 4, Kapitel V, Kapitel VII und Kapitel XII sowie Artikel 78 gelten ab dem 2. August 2025, mit Ausnahme des Artikels 101;
c) Artikel 6 Absatz 1 und die entsprechenden Pflichten gemäß dieser Verordnung gelten ab dem 2. August 2027.



BGH: Künstliche Intelligenz kann kein Erfinder im Sinne des Patentrechts sein - Natürliche Person als Erfinder grundsätzlich möglich und erforderlich auch wenn KI-System verwendet wurde

BGH
Beschluss vom 11.06.2024
X ZB 5/22
DABUS
PatG § 37 Abs. 1, §§ 6, 42


Der BGH hat entschieden, dass künstliche Intelligenz kein Erfinder im Sinne des Patentrechts sein kann. Für eine Patentanmeldung ist eine natürliche Person als Erfinder grundsätzlich möglich und erforderlich auch wenn ein KI-System verwendet wurde.

Leitsätze des BGH:
1. Erfinder im Sinne von § 37 Abs. 1 PatG kann nur eine natürliche Person sein. Ein maschinelles, aus Hard- oder Software bestehendes System kann auch dann nicht als Erfinder benannt werden, wenn es über Funktionen künstlicher Intelligenz verfügt

2. Die Benennung einer natürlichen Person als Erfinder ist auch dann möglich und erforderlich, wenn zum Auffinden der beanspruchten technischen Lehre ein System mit künstlicher Intelligenz eingesetzt worden ist.

3. Die Benennung einer natürlichen Person als Erfinder im dafür vorgesehenen amtlichen Formular genügt nicht den Anforderungen aus § 37 Abs. 1 PatG, wenn zugleich beantragt wird, die Beschreibung um den Hinweis zu ergänzen, die Erfindung sei durch eine künstliche Intelligenz generiert oder geschaffen worden.

4. Die Ergänzung einer hinreichend deutlichen Erfinderbenennung um die Angabe, der Erfinder habe eine näher bezeichnete künstliche Intelligenz zur Generierung der Erfindung veranlasst, ist rechtlich unerheblich und rechtfertigt nicht die Zurückweisung der Anmeldung nach § 42 Abs. 3 PatG.

BGH, Beschluss vom 11. Juni 2024 - X ZB 5/22 - Bundespatentgericht

Den Volltext der ENtscheidung finden Sie hier:


VG München: Per ChatGPT erstelltes Essay ist ein Täuschungsversuch und rechtfertigt Ablehnung des Zugangs zum Masterstudiengang

VG München
Beschluss vom 28.11.2023
M 3 E 23.4371


Das VG München hat entschieden, dass ein per ChatGPT erstelltes Essay ein Täuschungsversuch darstellte und die Ablehnung des Zugangs zum Masterstudiengang rechtfertigt.

Aus den Entscheidungsgründen:
Nach Art. 90 Abs. 1 Satz 2 des Bayerischen Hochschulinnovationsgesetzes (BayHIG) vom 5. August 2022 (GVBl. S. 414, BayRS 2210-1-3-WK), zuletzt geändert durch Gesetz vom 23. Dezember 2022 (GVBL. S. 709), können die Hochschulen für den Zugang zu einem Masterstudiengang neben den allgemeinen Qualifikationsvoraussetzungen (Art. 90 Abs. 1 Satz 1 BayHIG: Hochschulabschluss oder aufgrund eines Hochschulstudiums erworbener gleichwertiger Abschluss) durch Satzung weitere Zugangsvoraussetzungen festlegen, insbesondere den Nachweis einer studiengangspezifischen Eignung. Sie dürfen im Rahmen von Eignungsverfahren Qualifikationsnachweise fordern, soweit diese sicherstellen, dass die Bewerber den Anforderungen des von der Hochschule konzipierten Studiengangs gerecht werden und die hinreichende Aussicht besteht, dass sie das Studium im Hinblick auf diese Anforderungen erfolgreich abschließen können. Allerdings dürfen die Hochschulen den Zugang durch Eignungsanforderungen nicht uneingeschränkt begrenzen und etwa trotz vorhandener Ausbildungskapazitäten ein „Wunschkandidatenprofil“ festlegen. Die Qualifikationsanforderungen, die die Hochschulen insoweit aufstellen dürfen, hängen vielmehr von den speziellen fachlichen Anforderungen des jeweiligen Masterstudiengangs ab (BayVGH, B.v. 4.6.2020 – 7 CE 20.460 – BeckRS 2020, 14715 Rn. 21). Dabei müssen die Hochschulen sowohl die verfahrensrechtlichen Vorgaben der Eignungsfeststellung als auch die inhaltlichen Kriterien, die für die Eignungsfeststellung maßgeblich sein sollen, sowie deren jeweilige Gewichtung hinreichend klar festlegen (BayVGH, B.v. 5.11.2021 – 7 CE 21.2344 – juris Rn. 12 m.w.N.).

Die Qualifikation für den Masterstudiengang „…“ wird nach § 36 der Fachprüfungs- und Studienordnung für den Masterstudiengang … an der T. U. M. vom 27. April 2022 in der Fassung der Änderungssatzung vom 30. März 2023 (im Folgenden: FPSO) nachgewiesen durch einen an einer in- oder ausländischen Hochschule erworbenen mindestens sechssemestrigen qualifizierten Bachelorabschluss oder einen mindestens gleichwertigen Abschluss in den Studiengängen … und …, …, … oder vergleichbaren Studiengängen (§ 36 Abs. 1 Nr. 1, Abs. 2, 3 FPSO), adäquate Kenntnisse der englischen Sprache (§ 36 Abs. 1 Nr. 2 FPSO) und das Bestehen des Eignungsverfahrens (§ 36 Abs. 1 Nr. 4 FPSO i.V.m. Anlage 2 der FPSO); der von bestimmten Bewerbergruppen zu erbringende Nachweis über Fachkenntnisse in Form eines „Graduate Management Admission Test“ (GMAT) nach § 36 Abs. 1 Nr. 3 FPSO ist für den Antragsteller nicht zwingend vorgesehen.

Nach Nr. 4.1 Satz 1 der Anlage 2 zur FPSO setzt die Durchführung des Eignungsverfahrens voraus, dass die in Nr. 2.2 der Anlage 2 zur FPSO genannten Unterlagen form- und fristgerecht, unter Einhaltung der Regeln guter wissenschaftlicher Praxis sowie vollständig vorliegen. Nach Nr. 2.2 der Anlage 2 zur FPSO sind Anträge auf Durchführung des Eignungsverfahrens nach § 6 der Immatrikulationssatzung zusammen mit den dort genannten Unterlagen sowie die in Nr. 2.3 der Anlage 2 zur FPSO und in § 36 Abs. 1 Nr. 2 FPSO (Nachweis adäquater Kenntnisse der englischen Sprache) genannten Unterlagen für das Wintersemester bis zum 31. Mai zu stellen. Nach Nr. 2.3.5 ist dem Antrag ein in englischer Sprache abgefasstes Essay von mindestens 1.500 und maximal 2.000 Wörtern beizufügen; es können ein oder mehrere Themen zur Wahl gestellt werden, welche den Bewerbern für das Wintersemester bis zum 1. April bekannt zu geben sind. Weiter ist eine Versicherung beizufügen, dass das Essay selbständig und ohne fremde Hilfe und unter Einhaltung der Richtlinien zur Sicherung guter wissenschaftlicher Praxis und für den Umgang mit wissenschaftlichen Fehlverhalten an der T. U. M. angefertigt wurde und die aus fremden Quellen übernommenen Gedanken als solche gekennzeichnet sind (Nr. 2.3.6 der Anlage 2 zur FPSO). Zur Feststellung, ob die Regeln guter wissenschaftlicher Praxis eingehalten wurden, wird das Essay mit einer speziellen Plagiatssoftware überprüft (Nr. 4.1 Satz 2 der Anlage 2 zur FPSO). Bei Erfüllen der Voraussetzungen nach Nr. 4.1 wird der Bewerber im Eignungsverfahren geprüft, andernfalls ergeht ein Ablehnungsbescheid (Nr. 4.2 Satz 1, 2 der Anlage 2 zur FPSO). Kommt die Auswahlkommission zu dem Ergebnis, dass die Regeln guter wissenschaftlicher Praxis erheblich verletzt wurden, wird der Bewerber durch Ablehnungsbescheid vom laufenden Bewerbungsverfahren ausgeschlossen (Nr. 4.2 Satz 3, 4 der Anlage 2 zur FPSO).

Bewerber, die in der ersten Stufe der Durchführung des Eignungsverfahrens aufgrund von fachlicher Qualifikation, Abschlussnote und GMAT-Score (und damit ohne Berücksichtigung des Essays) mindestens 51 Punkte erreicht hat, erhalten eine Bestätigung über das bestandene Eignungsverfahren (Nr. 5.1.3 der Anlage 2 zur FPSO). Bei Bewerbern, die weniger als 51 Punkte, jedoch mindestens 45 Punkte erreicht haben, wird als zweite Stufe das Essay evaluiert (Nr. 5.2.1 i.V.m. 5.1.4 der Anlage 2 zur FPSO).

a) Es begegnet voraussichtlich keinen rechtlichen Bedenken, dass für alle Bewerber die Zulassung zum Eignungsverfahren davon abhängig gemacht wird, dass das Essay als eine der in Nr. 2.2 genannten Unterlagen unter Einhaltung der Regeln guter wissenschaftlicher Praxis vorliegt.

Es obliegt der Hochschule, gemäß Art. 90 Abs. 1 Satz 2 BayHIG das Qualifikationsprofil eines Masterstudiengangs anhand der speziellen fachlichen Anforderungen des jeweiligen Masterstudiengangs zu definieren (vgl. zur Vorgängervorschrift in Art. 43 Abs. 5 BayHSchG Leiher in v.Coelln/Lindner, Hochschulrecht Bayern, Art. 43 BayHSchG Rn. 19). Vor dem Hintergrund, dass der streitgegenständliche Masterstudiengang mit einer Masterarbeit abschließt und zusätzlich nach Anlage 1 Nr. II. der FPSO in erheblichem Umfang wissenschaftliche Ausarbeitungen als Prüfungsform vorgesehen sind, begegnet es in Hinblick auf die wissenschaftlichen Anforderungen des Masterstudiums keinen rechtlichen Bedenken, dass der Zugang zum Studium für alle Bewerber – unabhängig davon, ob es zur zweiten Stufe der Durchführung des Eignungsverfahrens und zur inhaltlichen Evaluierung des Essays kommt – davon abhängig gemacht wird, dass das abgefasste Essay die Regeln guter wissenschaftlicher Praxis einhält. Das von den Bewerbern Geforderte ist mit dem Verweis auf die „Regeln guter wissenschaftlicher Praxis“ hinreichend klar bezeichnet. Die Gültigkeit allgemein anerkannter Grundsätze wissenschaftlicher Mindeststandards ist unbestritten und die im Einzelnen hieraus abzuleitenden Gebote werden seit langem durch annähernd alle Einrichtungen wissenschaftlicher Selbstverwaltung in Richtlinien oder Empfehlungen konkretisiert und ausgeformt (VGH BW, B.v. 14.9.2011 – 9 S 2667/10 – juris Rn. 31); die TUM hat hierzu „Richtlinien zur Sicherung guter wissenschaftlicher Praxis und für den Umgang mit wissenschaftlichem Fehlverhalten an der T. U. M.“ erlassen. Von einer fehlenden Erkennbarkeit der Handlungspflichten kann jedenfalls im Kernbereich und hinsichtlich der hier in Rede stehenden Vorwürfe nicht die Rede sein. Angesichts der eminenten Bedeutung von Grundsätzen wissenschaftlicher Mindeststandards ist die Beachtung der daraus sich ergebenden Pflichten den Bewerbern auch bei Berücksichtigung der beschränkten Bearbeitungszeit für das Essay zumutbar, zumal für das Essay ohnehin nur ein Ausschnitt der wissenschaftlichen Pflichten von Bedeutung sein dürfte.

b) Die Voraussetzungen für einen Ausschluss vom laufenden Bewerbungsverfahren nach Nr. 4.2 Satz 3 der Anlage 2 zur FPSO sind voraussichtlich gegeben; eine erhebliche Verletzung der Regeln guter wissenschaftlicher Praxis liegt voraussichtlich vor.

aa) Der Einwand des Antragstellers, er sei zum Täuschungsversuch nicht ordnungsgemäß angehört worden, bleibt ohne Erfolg. Der Antragsteller begehrt in der Hauptsache im Rahmen einer Verpflichtungsklage den Zugang zum begehrten Masterstudium; maßgeblich hierfür ist allein, ob der Antragsteller einen entsprechenden Anspruch hat. Der Antrag nach § 123 VwGO kann nur Erfolg haben, wenn der Antragsteller einen Anordnungsanspruch glaubhaft machen kann. Über diesen hat das Gericht ohne Rücksicht auf Mängel des Verwaltungsverfahrens zu entscheiden (BayVGH, B.v. 4.6.2020 – 7 CE 20.406BeckRS 2020, 14715 Rn. 31). Ungeachtet dessen ist ein Anhörungsmangel heilbar (Art. 45 Abs. 1 Nr. 3 BayVwVfG).

bb) Die Beweislast für eine erhebliche Regelverletzung liegt bei der TUM als Prüfungsbehörde. Der Nachweis sowohl der objektiven als auch der subjektiven Voraussetzungen einer Täuschungshandlung ist über die Regeln des Anscheinsbeweises möglich (OVG NW, B.v. 16.2.2021 – 6 B 1868/20 – juris Rn. 8); dies lässt sich auf die hier maßgebliche Frage einer erheblichen Pflichtverletzung übertragen. Für die Anwendung des Beweises des ersten Anscheins müssen zwei Voraussetzungen erfüllt sein: Zum einen muss die nachzuweisende Tatsache auf einen typischen Sachverhalt gestützt werden können, der aufgrund allgemeinen Erfahrungswissens zu dem Schluss berechtigt, dass die Tatsache vorliegt. Zum anderen dürfen keine tatsächlichen Umstände gegeben sein, die ein atypisches Geschehen im Einzelfall ernsthaft möglich erscheinen lassen (BVerwG, B.v. 23.1.2018 – 6 B 67/17 – juris Rn. 6 m.w.N.). Hierzu genügt nicht schon der Hinweis auf einen möglichen anderen typischen Geschehensablauf. Vielmehr muss der Prüfungsteilnehmer auch dartun, dass dieser andere Geschehensablauf ernsthaft in Betracht kommt (BayVGH, B.v. 9.10.2013 – 7 ZB 13.1402 – juris Rn. 10; OVG NW, B.v. 11.10.2011 – 14 A 2726/09 – juris Rn. 5).

Die hier inmitten stehende und vom Antragsgegner nachzuweisende Regelverletzung besteht darin, das eingereichte Essay entgegen der vom Antragsteller abgegebenen Erklärung vom … Mai 2023 ganz oder in Teilen nicht selbst erstellt, sondern eine selbständige Leistung nur vorgespiegelt zu haben, während in Wahrheit unerlaubte Hilfe bei Abfassung des Essays in Anspruch genommen wurde. Aus dem Gebot der persönlich zu erbringenden Leistung und dem Zweck einer Prüfung, die wahren Leistungen und Fähigkeiten zu ermitteln, folgt, dass vorgetäuschte oder sonst erschlichene Leistungen nicht dazu beitragen können, den Prüfungserfolg zu rechtfertigen (Jeremias in Fischer/Jeremias/Dieterich, Prüfungsrecht, 8. Auf. 2022 Rn. 228). Auf die Frage, ob und inwieweit von Nr. 4.2 Satz 3 der Anlage 2 zur FPSO auch fahrlässig begangene erhebliche Pflichtverletzungen umfasst sind, dürfte es nicht ankommen, da vorliegend eine fahrlässige Regelverletzung nicht vorstellbar ist.

(1) Dass das vom Antragsteller abgegebene Essay sich über seinen gesamten Umfang auffällig von denen der anderen Bachelorabsolventen und von dem von ihm im Vorjahr abgegebenen Essay unterscheidet und zugleich Merkmale aufweist, die für durch künstliche Intelligenz erstellte Texte typisch sind, lässt nach allgemeinem Erfahrungswissen darauf schließen, dass das Essay mit unerlaubter Hilfe erstellt wurde.

Durch den vom Antragsgegner selbst mittels ChatGPT erstellten Text (Bl. 30 d.A.) ist hinreichend dargetan, dass für Bewerber zugängliche Programme künstlicher Intelligenz grundsätzlich in der Lage sind, dem Essay vergleichbare Texte zu produzieren.

Auf die Frage, wie aussagekräftig die Herstellerangaben (https://www.t…com/products/features/…) zur Verlässlichkeit der Überprüfungssoftware sind und ob bei der genannten „false positive rate“ auf Ebene von Sätzen und des Gesamttextes von einer hinreichenden Verlässlichkeit ausgegangen werden kann, kommt es vorliegend nicht an. Der Antragsgegner stützt die Annahme eines erheblichen Regelverstoßes auf die Prüfung und Beurteilung des Essays durch Prof. S. und Dr. M. und behandelt das Prüfungsergebnis der Überprüfungssoftware T. lediglich als Indiz, das zu einer Überprüfung durch Prof. S. und Dr. M. Anlass gab. Gleiches gilt für Prof. S. selbst, der zwar in seinen Stellungnahmen vom 28. September und 6. November 2023 die Funktionsweise der Software erläutert und zu deren Verlässlichkeit Stellung nimmt, jedoch, ausdrücklich unter Verweis darauf, dass eine vollkommene Verlässlichkeit der Software nicht gegeben sei, eine von der Software unabhängige eigene Prüfung des Essays zusammen mit Dr. M. durchgeführt hat.

Nach der Stellungnahme von Prof. S. vom 28. September 2023 fällt das vom Antragsteller eingereichte Essay im Vergleich zu den Essays anderer Bewerber durch die sehr stark strukturierte Form auf; erfahrungsgemäß wiesen längere schriftliche Arbeiten von Studierenden selbst bei intensiver Betreuung gewisse Brüche in Struktur und Logik auf. Ferner steche die Kürze und Inhaltsdichte der Sätze und Abschnitte des Antragstellers ins Auge; im Vergleich zu den Essays nahezu sämtlicher weiterer Bewerber sei die Arbeit des Antragstellers deutlich kürzer, enthalte jedoch alle relevanten Aspekte. In der Regel neigten Bachelorabsolventen zur Nutzung verschachtelter Sätze und zur Überlänge; selbst erfahrenen Wissenschaftlern bereite es mitunter Mühe, Forschungsartikel in der gegebenen Kürze abzufassen. Die wesentliche Stärke von Programmen der künstlichen Intelligenz liege darin, Inhalte komprimiert darzustellen. Schließlich sei die Arbeit des Antragstellers in geschliffenem Englisch und frei von Rechtschreib- und Zeichensetzungsfehlern abgefasst, was nicht den bisherigen Erfahrungen der Prüfer entspreche. Die Prüfer verweisen damit auf Auffälligkeiten in Bezug auf Struktur, inhaltliche Dichte und Fehlerfreiheit bei Wortwahl, Rechtschreibung und Zeichensetzung. Dem Vergleich lagen die Arbeiten anderer Bewerber der laufenden Bewerbungsrunde und darüber hinaus die allgemeinen Erfahrungen der Prüfer zu den Fähigkeiten von Bachelorabsolventen bei der Abfassung von Texten zugrunde. Angesichts dieses breiten Vergleichsspektrums lassen sich die Auffälligkeiten nicht allein mit der Spannbreite der gezeigten Leistungen der Bewerber und einer in diesem Rahmen am oberen Rand liegenden Leistung des Antragstellers erklären. Ins Gewicht fällt, dass Prof. S. im Hinblick auf die auffällige Prägnanz des Essays des Antragstellers sogar die Texte erfahrener Wissenschaftler zum Vergleich heranzieht.

Diese festgestellten Auffälligkeiten in Gestalt einer besonderen Qualität des Textes korrespondieren nach den Erfahrungen der Prüfer genau mit den Stärken von durch künstliche Intelligenz erstellten Texten, nämlich Inhalte derart kompakt darzustellen.

Weiter unterscheidet sich das vom Antragsteller am 30. Mai 2023 vorgelegte Essay augenfällig von dem von ihm im Vorjahr vorgelegten Essay. Anders als im streitgegenständlichen Essay ist im letztjährigem Essay der Wortschatz deutlich einfacher. Es finden sich eine Reihe von Wiederholungen einzelner Wörter oder Wendungen und trotz des deutlich geringeren Umfangs auch inhaltliche Wiederholungen.

Soweit der Antragsteller vortragen lässt, ihm werde im Wesentlichen vorgeworfen, dass der streitgegenständliche Essay zu gut gelungen sei, geht er auf die von Prof. S. im Einzelnen bezeichneten Auffälligkeiten nicht ein. Auch mit dem weiteren Einwand, die Kommission stelle lediglich Vermutungen auf, bleibe jedoch Beweise schuldig, setzt sich der Antragsteller nicht damit auseinander, dass Prof. S. eine Reihe von Auffälligkeiten im Vergleich zu Arbeiten anderer Bachelorabsolventen konkret benennt und hierfür auch die notwendige Sachkunde besitzt. Nach der Stellungnahme vom 28. September 2023 sind Prof. S. und Dr. M. als Prüfer erfahren in der Bewertung studentischer Arbeiten verschiedener Form und konnten zudem vergleichend die Essays weiterer Bewerber heranziehen. Darüber hinaus sind sie nicht nur vertraut mit einer Vielzahl von gerade durch Bachelorabsolventen verfassten Texten, sondern aufgrund ihrer Tätigkeit als Prüfer gerade auch dazu berufen, diese nach Struktur, Inhalt und Form zu analysieren und zu bewerten. Vor diesem Hintergrund verfügen sie über hinreichende Sachkunde, Auffälligkeiten festzustellen, die sich nicht allein durch unterschiedliches Leistungsvermögen von Bachelorabsolventen erklären lassen. Prof. S. macht in seiner Stellungnahme auch deutlich, dass er die Auffälligkeiten gerade auch unter Berücksichtigung der unterschiedlichen Qualität von Leistungen durch Bachelorabsolventen feststellt, wenn er darauf verweist, dass längere Arbeiten Studierender „selbst bei intensiver Betreuung“ gewisse Brüche in Struktur und Logik aufwiesen, die bei dem streitgegenständlichen Essay fehlten. Weiter sind die Prüfer als Wissenschaftler erfahren mit dem Lesen und Verfassen wissenschaftlicher Texte und damit auch vertraut mit den Schwierigkeiten der prägnanten Formulierung komplexer Sachverhalte. Ihrer Beobachtung, dass das Essay ein außergewöhnliches Maß an Inhaltsdichte aufweise, das selbst für erfahrene Wissenschaftler nicht ohne weiteres erreichbar ist, kommt daher Gewicht zu.

Soweit der Antragsteller geltend macht, lediglich 45% des Textes seien durch die Überprüfungssoftware markiert, es fielen jedoch keinerlei sprachlichen oder inhaltlichen Unterschiede zwischen markierten und nichtmarkierten Textstellen auf, so ergibt sich nichts Anderes. Der Täuschungsvorwurf ist auf die Feststellungen von Prof. S. und Dr. M. gestützt, die sich auf den gesamten Text beziehen, und nicht auf das Überprüfungsergebnis der Plagiatssoftware. Das Ergebnis der Softwareüberprüfung wirft auch keine Zweifel an den Feststellungen von Prof. S. und Dr. M. und deren Schlussfolgerungen auf. Denn wie in der Stellungnahme von Prof. S. vom 6. November 2023 dargelegt, verweist der Hersteller der Überprüfungssoftware darauf, dass zur Sicherstellung der 1%igen Irrtumswahrscheinlichkeit möglicherweise KI-generierter Text nicht als solcher markiert werde. Aus der Tatsache, dass Textpassagen nicht als KI-generiert gekennzeichnet sind, kann daher auch auf Grundlage der Softwareüberprüfung nicht gefolgert werden, dass sie nicht von künstlicher Intelligenz verfasst sind.

Der Einwand des Antragstellers, es sei nicht berücksichtigt, dass sämtliche Ausführungen anhand entsprechender Literatur belegt seien, wozu künstliche Intelligenz nicht in der Lage sei, ist unbehelflich. Nach den vorgelegten Akten und dem Vorbringen der Beteiligten spricht nichts dafür, dass der wesentliche Teil der Essayerstellung in der Recherche von Quellen bestünde und das Formulieren des Essays lediglich ein unbedeutender Teil der Aufgabenstellung wäre. Vor diesem Hintergrund setzt der Vorwurf, das geforderte Essay mit unerlaubter Hilfe erstellt zu haben, nicht voraus, dass gerade auch das Einfügen von Quellen durch unerlaubte Hilfsmittel erfolgt ist; folglich wird dieser Vorwurf durch den Vortrag, dass künstliche Intelligenz zum Einfügen von Quellen nicht in der Lage sei, auch nicht in Frage gestellt.

(2) Es sind keine tatsächlichen Umstände ersichtlich, die ein atypisches Geschehen im Einzelfall ernsthaft möglich erscheinen lassen.

Weder aus dem Vortrag des Antragstellers noch sonst sind Gründe dafür ersichtlich, die die bezeichneten Auffälligkeiten in anderer Weise erklären würden. Aus den Bewerbungsunterlagen des Antragstellers ist ersichtlich, dass er sein Bachelorstudium mit der Gesamtnote „sehr gut“ (1,45) abschloss und die Zeit von August bis Dezember 2021 an einer Universität in den Vereinigten Staaten zubrachte. Seine sehr guten Studienleistungen und sein fünfmonatiger Aufenthalt an einer Hochschule im englischsprachigen Ausland ließen zwar ein Essay am oberen Rand des Leistungsspektrums möglich erscheinen. Sehr gute Studienleistungen im Bachelorstudium allein erklären jedoch nicht die nach Einschätzung der Prüfer für Absolventen des grundständigen Studiums außerordentliche Strukturiertheit, Wortwahl und Inhaltsdichte des Essays. Zur Erklärung hierfür trägt der Antragsteller auch nach Akteneinsicht nichts vor; anderweitige Anhaltspunkte für eine Erklärung, wie etwa eine ausgeprägte wissenschaftliche Tätigkeit oder sonstige besondere Erfahrung in der Formulierung wissenschaftlicher Texte, sind nicht ersichtlich. Auch was die Abfassung in geschliffenem Englisch angeht, bietet allein ein fünfmonatiger Studienaufenthalt des Antragstellers an der University of … hierfür allein noch keine schlüssige Erklärung. Zu berücksichtigen ist, dass vorliegend nach den Zugangsvoraussetzungen zum Masterstudium adäquate Kenntnisse der englischen Sprache gefordert sind; Bewerbungen Studierender, die im Bachelorstudium an englischsprachigen Lehrveranstaltungen teilgenommen oder Auslandssemester absolviert haben, dürften daher nicht ungewöhnlich sein. Eine Erklärung dafür, wie es dem Antragsteller möglich war, ein Essay zu verfassen, das nach Einschätzung der Prüfer aus einem solchen Bewerberfeld herausstach, ist weder aus dem Vortrag des Antragstellers noch sonst ersichtlich.

Darüber hinaus ist keine Erklärung dafür vorgetragen oder sonst ersichtlich, warum das streitgegenständliche Essay in seiner Qualität sich so grundlegend von dem im Mai 2022 durch den Antragsteller abgegebenen Essay unterscheidet.

Nach den Regeln des Anscheinsbeweises ist daher voraussichtlich davon auszugehen, dass das eingereichte Essay entgegen der vom Antragsteller abgegebenen Erklärung vom … Mai 2023 ganz oder in Teilen nicht selbst erstellt wurde.

Die Frage, ob und in welchem Ausmaß der Antragsteller den durch künstliche Intelligenz erstellten Text noch selbst ergänzt oder geändert hat, kann vorliegend offen bleiben. Denn die Frage der Abgrenzung von wissenschaftlicher Nachlässigkeit gegenüber einem Täuschungsversuch stellt sich nicht, wenn unerlaubte Hilfe bei der Erstellung des Textes herangezogen wird. Selbst wenn der Antragsteller Zitate oder Textteile ergänzt oder umformuliert hätte, würde dies nichts daran ändern, dass die von ihm gezeigte Leistung sich grundlegend von der Leistung eines Bewerbers unterscheidet, der entsprechend Nr. 2.3.5 der Anlage 2 zur FPSO selbständig ein Essay allein mit Hilfe von Literatur verfasst hat. Die Zuhilfenahme künstlicher Intelligenz bei der Erstellung von Texten ähnelt der Erstellung einer Prüfungsarbeit durch eine dritte Person oder der Einreichung einer durch einen anderen Prüfling zu einem früheren Prüfungstermin bereits erstellten Arbeit unter Paraphrasierung des Inhalts.

cc) Eine erhebliche Verletzung der Regeln guter wissenschaftlicher Praxis, die nach Nr. 4.1 Satz 2 der Anlage 2 zur FPSO den Ausschluss vom laufenden Bewerbungsverfahren zur Folge hat, liegt damit voraussichtlich vor. Ein Anspruch auf Zulassung zum Eignungsverfahren besteht daher voraussichtlich nicht.


Den Volltext der Entscheidung finden Sie hier:

ArbG Hamburg: Kein Mitbestimmungsrecht des Betriebsrats bei Gestattung der Nutzung von ChatGPT und anderer KI-Lösungen

ArbG Hamburg
Beschluss vom 16.01.2024
24 BVGa 1/24


Das ArbG Hamburg hat entschieden, dass kein Mitbestimmungsrecht des Betriebsrats bei Gestattung der Nutzung von ChatGPT und anderer KI-Lösungen besteht.

Aus den Entscheidungsgründen:
b) Der Antrag ist unbegründet, denn es fehlt bereits an einem Verfügungsanspruch des Beteiligten zu 1. (§§ 935, 940 ZPO, § 85 Abs. 2 ArbGG).

aa) Es kann dabei dahinstehen, ob ein Anspruch aus § 23 Abs. 3 BetrVG im Wege des einstweiligen Rechtsschutzes geltend gemacht werden kann (bejahend: LAG Rheinland-Pfalz vom 24.01.2019 – 2 TaBVGa 6/18; Fitting, § 23 BetrVG, Rn.76, Oetker, in: GK-BetrVG, § 23 BetrVG, Rn. 262; ablehnend: Besgen, in: Beck-OK Arbeitsrecht, § 23 BetrVG, Rn. 35; Koch, in: ErfK, § 23 BetrVG, Rn. 23; Thüsing, in: Richardi, § 23 BetrVG, Rn. 105), denn die Voraussetzungen des § 23 Abs. 3 BetrVG liegen nicht vor. Die Beteiligte zu 2. hat mit dem Einstellen von Guidelines, Handbuch und KI-Richtlinien ohne zuvor den Konzernbetriebsrat beteiligt zu haben, keine groben Verstöße gegen ihre Pflichten aus dem BetrVG begangen.

(1) Entgegen der Rechtsauffassung des Antragstellers hat die Beteiligte zu 2. mit den vorgenannten Maßnahmen, die zur Gestattung der Nutzung von ChatGPT und vergleichbarer Konkurrenzprogramme durch die Mitarbeiter geführt haben, § 87 Abs. 1 Nr. 1 BetrVG nicht verletzt.

Nach dieser Vorschrift hat der Betriebsrat mitzubestimmen in Fragen der Ordnung des Betriebs und des Verhaltens der Arbeitnehmer im Betrieb. Gegenstand des Mitbestimmungsrechts ist das betriebliche Zusammenleben und kollektive Zusammenwirken der Beschäftigten. Es beruht darauf, dass die Beschäftigten ihre vertraglich geschuldete Leistung innerhalb einer vom Arbeitgeber vorgegebenen Arbeitsorganisation erbringen und deshalb dessen Weisungsrecht unterliegen. Das berechtigt den Arbeitgeber dazu, Regelungen vorzugeben, die das Verhalten der Beschäftigten im Betrieb beeinflussen und koordinieren sollen. Solche Maßnahmen bedürfen der Zustimmung des Betriebsrats. Dies soll gewährleisten, dass die Beschäftigten gleichberechtigt an der Gestaltung des betrieblichen Zusammenlebens teilhaben können (BAG vom

Gemäß der ständigen Rechtsprechung des BAG hat der Betriebsrat entgegen dem überschießenden Wortlaut nur mitzubestimmen bei Maßnahmen, die das so genannte Ordnungsverhalten der Arbeitnehmer betreffen. Dieses ist berührt, wenn die Maßnahme auf die Gestaltung des kollektiven Miteinander oder die Gewährleistung und Aufrechterhaltung der vorgegebenen Ordnung des Betriebs zielt (BAG vom 27.09.2005 - 1 ABR 32/04). Mitbestimmungsfrei sind dagegen Maßnahmen, die das so genannte Arbeitsverhalten der Beschäftigten regeln. Darum handelt es sich, wenn der Arbeitgeber kraft seines arbeitsver-raglichen Weisungsrechts näher bestimmt, welche Arbeiten auszuführen sind und in welcher Weise das geschehen soll. Mitbestimmungsfrei sind deshalb Anordnungen, mit denen lediglich die Arbeitspflicht konkretisiert wird (BAG vom 23.08.2018 – 2 AZR 235/18). Die Entscheidung, ob, wann und wie die vertraglich zugesagte Arbeit zu erledigen ist und wie deren Erbringung kontrolliert und gesichert wird, fällt nicht unter den Mitbestimmungstatbestand (BAG vom 15.04.2014 – 1 ABR 85/12).

Wendet man diese Grundsätze der ständigen BAG-Rechtsprechung an, so fallen die Vorgaben zur Nutzung von ChatGPT und vergleichbarer Tools unter das mitbestimmungsfreie Arbeitsverhalten (so auch: Holthausen, RdA 2023, S. 261 ff.; Kalbfus/Schöberle, NZA 2023, S. 251 ff.; Witteler, ZD 2023, S. 377 ff.). Die Beteiligte zu 2. stellt ihren Arbeitnehmern ein neues Arbeitsmittel unter bestimmten Bedingungen zur Verfügung. Richtlinien, Handbuch usw. sind somit Anordnungen, welche die Art und Weise der Arbeitserbringung betreffen, weshalb kein Mitbestimmungsrecht aus § 87 Abs. 1 Nr. 1 BetrVG besteht.

Der Antragsteller hat in der mündlichen Verhandlung den Einwurf erhoben, dass durch die Erlaubnis der Beteiligten zu 2., die Arbeitnehmer können entscheiden, ob sie ChatGPT einsetzen, letztlich zwei Gruppen von Arbeitnehmern geschaffen wer/den, nämlich die Gruppe der Arbeitnehmer, die Künstlicher Intelligenz aufgeschlossen und die Gruppe, die dieser Entwicklung skeptisch gegenüberstehen, weshalb das Zusammenleben der Belegschaft und damit das Ordnungsverhalten betroffen seien. Eine solche Ansicht hätte zur Konsequenz, dass die nicht flächendeckende Einführung neuer Arbeitsmittel für vergleichbare Arbeitnehmer stets zu einer Zweiteilung führt, nämlich der Gruppe, welche das neue Arbeitsmittel einsetzt und der Gruppe, die noch mit den alten Arbeitsmitteln ihre Arbeitspflicht erfüllt, so dass in diesen Fällen der Betriebsrat zu beteiligen wäre, obwohl der Arbeitgeber nur Anordnungen getroffen hat, wie die Arbeit zu leisten ist. Dies ist mit dem gesetzgeberischen Willen, warum § 87 Abs. 1 Nr. 1 BetrVG ein Beteiligungsrecht begründen soll, nicht vereinbar.

(2) Auch das Mitbestimmungsrecht aus § 87 Abs. 1 Nr. 6 BetrVG hat die Beteiligte zu 2. nicht verletzt. Nach § § 87 Abs. 1 Nr. 6 BetrVG hat der Betriebsrat u.a. mitzubestimmen bei der Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Das Mitbestimmungsrecht ist darauf gerichtet, Arbeitnehmer vor Beeinträchtigungen ihres Persönlichkeitsrechts durch den Einsatz technischer Überwachungseinrichtungen zu bewahren, die nicht durch schutzwerte Belange des Arbeitgebers gerechtfertigt und unverhältnismäßig sind (BAG vom 03.12.2016 – 1 ABR 7/15). „Überwachung“ im Sinne des Mitbestimmungsrechts ist ein Vorgang, durch den Informationen über das Verhalten oder die Leistung von Arbeitnehmern seitens des Arbeitgebers erhoben und – jedenfalls in der Regel – aufgezeichnet werden, um sie auch späterer Wahrnehmung zugänglich zu machen. Die Informationen müssen auf technische Weise ermittelt und dokumentiert werden, so dass sie zumindest für eine gewisse Dauer verfügbar bleiben und vom Arbeitgeber herangezogen werden können. Die Überwachung muss durch die technische Einrichtung selbst bewirkt werden. Dazu muss diese aufgrund ihrer technischen Natur unmittelbar die Überwachung vornehmen. Das setzt voraus, dass die technische Einrichtung selbst und automatisch die Daten über bestimmte Vorgänge erhebt, speichert und/oder verarbeitet. Ausreichend ist, wenn lediglich ein Teil des Überwachungsvorgangs mittels einer technischen Einrichtung erfolgt. Zur Überwachung „bestimmt“ sind technische Einrichtungen, wenn sie objektiv geeignet sind, dass der Arbeitgeber Verhaltens- oder Leistungsinformationen über den Arbeitnehmer erheben und aufzuzeichnen kann. Auf die subjektive Überwachungsabsicht des Arbeitgebers kommt es nicht an ((BAG vom 03.12.2016 – 1 ABR 7/15).

Vorliegend ist unstreitig, dass ChatGPT und die vergleichbaren Konkurrenzprodukte nicht auf den Computersystemen der Beteiligten zu 2. installiert wurden. Will ein Arbeitnehmer diese Tools nutzen, muss er diese wie jede andere Homepage auch, mittels eines Browsers aufrufen. Zwar wird der Browser die Einwahl regelmäßig aufzeichnen. Dies stellt aber keine Besonderheit von ChatGPT dar, sondern ergibt sich aus den Funktionsmöglichkeiten des Browsers, der den Surfverlauf des Nutzers abspeichert. Der Browser selbst ist somit eine technische Einrichtung, die geeignet ist, Leistungs- und Verhaltensinformationen der Arbeitnehmer aufzuzeichnen. Zur Nutzung von Browsern haben die Beteiligten eine Konzernbetriebsvereinbarung abgeschlossen, weshalb der Antragsteller sein Mitbestimmungsrecht aus § 87 Abs. 1 S. 1 BetrVG bereits ausgeübt hat.

Unstreitig ist, dass der Arbeitnehmer selbst einen Account bei ChatGPT anlegen und eventuell entstehende Kosten auch selbst tragen muss, weshalb die Beteiligte zu 2. keinerlei Meldung erhält, wann welcher Arbeitnehmer wie lange und mit welchem Anliegen ChatGPT genutzt hat. Dass der Hersteller etwa von ChatGPT die vorgenannten Daten aufzeichnet, ist zu unterstellen. Dies führt aber nicht zur Mitbestimmung, denn der dadurch entstehende Überwachungsdruck wird nicht vom Arbeitgeber ausgeübt. Die Beteiligte zu 2. kann auf die vom Hersteller gewonnenen Informationen nicht zugreifen. Mit der Nutzung von ChatGPT vergleichbar ist etwa „beck-online“ (Datenbank des Beck-Verlags), wenn der Nutzer seinen eigenen Account angelegt und die Kosten selber zu tragen hat.

Auch die Vorgabe der Beteiligten zu 2., dass Arbeitnehmer Arbeitsergebnisse, die mittels Unterstützung von Künstlicher Intelligenz entstanden sind, kennzeichnen müssen, führt nicht zu einem Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG. Wie ausgeführt muss die technische Einrichtung die Überwachung selbst bewirken, um eine Mitbestimmung auszulösen. Die Kennzeichnung und die damit verbundene Kontrollmöglichkeit der Beteiligten zu 2., wer Chatbots einsetzt, erfolgt aber hier durch den Arbeitnehmer selbst und nicht durch das Tool.

(3) Ebenfalls ist ein Mitbestimmungsrecht aus § 87 Abs. 1 Nr. 7 BetrVG nicht ersichtlich. Voraussetzung für das Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 7 BetrVG i.V.m. § 3a Abs. 1 S. 1 ArbStättV; § 3 Abs. 1 S. 1 ArbStättV ist eine vorliegende oder im Rahmen einer Gefährdungsbeurteilung nach § 5 ArbSchG festgestellte konkrete Gefährdung der Mitarbeiter (LAG Düsseldorf vom 09.01.2018 – 3 TaBVGa 6/17). Zu einer konkreten Gefährdung hat der Antragsteller nichts vorgetragen, sie sind auch sonst nicht erkennbar.

(4) Dahinstehen kann, ob die Beteiligte zu 2. die Unterrichtungs- und Beratungsrechte des Betriebsrats nach § 90 Abs. 1 Nr. 3, Abs. 2 BetrVG hinreichend erfüllt hat, denn ein einmaliger Verstoß gegen § 90 BetrVG stellt noch keine grobe Pflichtverletzung i.S.d. § 23 Abs. 3 BetrVG dar.

bb) Ein Verfügungsanspruch ergibt sich auch nicht aus § 87 Abs. 1 BetrVG. Zwar steht dem Betriebsrat zum Schutz seiner in § 87 Abs. 1 BetrVG aufgeführten Mitbestimmungsrechte ein negatorischer Beseitigungs- und Unterlassungsanspruch zu (BAG vom 23.03.2021 – 1 ABR 31/19; Richardi/Maschmann, in: Richardi, § 87 BetrVG, Rn. 134 ff.). Wie dargelegt ist aber im vorliegenden Fall kein Mitbestimmungsrecht des Antragsstellers berührt, weshalb auch kein Beseitigungsanspruch besteht.

cc) Aus § 90 BetrVG kann sich ein Verfügungsanspruch nicht ergeben, denn § 90 BertVG gewährt lediglich Unterrichtungs- und Beratungsrechte, aber kein Mitbestimmungsrecht, das den Arbeitgeber an einer einseitigen Durchführung der Maßnahme hindert. Daher würde eine einstweilige Verfügung gerichtet auf Beseitigung oder Unterlassen einer Maßnahme über den Hauptanspruch hinausgehen (vgl. nur: Fitting, § 90 BetrVG, Rn. 48).


Den Volltext der Entscheidung finden Sie hier:

EU-Parlament und EU-Rat: Entwurf Artificial Intelligence Act - Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence

EU-Parlament und EU-Rat haben einen Entwurf des Artificial Intelligence Act vorgelegt.

Aus dem Entwurf:
Gründe und Ziele des Vorschlags

Diese Begründung ist dem Vorschlag für eine Verordnung beigefügt, mit der harmonisierte Vorschriften für künstliche Intelligenz festgelegt werden (Gesetz über künstliche Intelligenz). Künstliche Intelligenz (KI) bezeichnet eine Reihe von Technologien, die sich rasant entwickeln und einen vielfältigen Nutzen für Wirtschaft und Gesellschaft über das gesamte Spektrum industrieller und gesellschaftlicher Aktivitäten hinweg hervorbringen können. Der Einsatz künstlicher Intelligenz zur Verbesserung von Prognosen, zur Optimierung von Abläufen und der Ressourcenzuweisung sowie zur Personalisierung der Diensteerbringung kann für die Gesellschaft und die Umwelt von Nutzen sein und Unternehmen sowie der europäischen Wirtschaft Wettbewerbsvorteile verschaffen. Bedarf besteht insbesondere in Sektoren, von denen eine große Wirkung ausgeht, wie Klimaschutz, Umwelt und Gesundheit, öffentlicher Sektor, Finanzen, Mobilität, Inneres und Landwirtschaft. Dieselben Faktoren und Techniken, die für den sozioökonomischen Nutzen der KI sorgen, können aber auch neue Risiken oder Nachteile für den Einzelnen oder die Gesellschaft hervorbringen. Vor dem Hintergrund des rasanten technologischen Wandels und möglicher Herausforderungen ist die EU entschlossen, einen ausgewogenen Ansatz zu erreichen. Es liegt im Interesse der Union, die technische Führungsrolle der EU auszubauen und dafür zu sorgen, dass die Europäerinnen und Europäer von den im Einklang mit den Werten, Grundrechten und Prinzipien der Union entwickelten und funktionierenden neuen Technologien profitieren können.

Dieser Vorschlag geht auf das politische Engagement von Präsidentin von der Leyen zurück, die in ihren politischen Leitlinien für die Kommission (2019-2024) – „Eine Union, die mehr erreichen will“ 1 – ankündigte, dass die Kommission einen Legislativvorschlag für ein koordiniertes europäisches Konzept für die menschlichen und ethischen Aspekte der KI vorlegen wird. Im Nachgang zu dieser Ankündigung veröffentlichte die Kommission am 19. Februar 2020 ihr Weißbuch zur KI – Ein europäisches Konzept für Exzellenz und Vertrauen 2 . In dem Weißbuch legt sie die politischen Optionen dar, wie die Nutzung von KI gefördert und gleichzeitig die mit bestimmten Anwendungen dieser Technologie verbundenen Risiken eingedämmt werden können. Dieser Vorschlag zielt darauf ab, einen Rechtsrahmen für eine vertrauenswürdige KI zu schaffen, damit das zweite Ziel für den Aufbau eines Ökosystems für Vertrauen umgesetzt werden kann. Der Vorschlag beruht auf den Werten und Grundrechten der EU und will erreichen, dass Privatpersonen und andere Nutzer KI-gestützten Lösungen vertrauen und gleichzeitig Unternehmen Anreize erhalten, diese zu entwickeln. KI sollte ein Instrument sein, das als positive Kraft für die Gesellschaft im Dienst der Menschen steht und das letztlich zu einem größeren Wohlbefinden der Menschen beiträgt. Vorschriften für KI, die auf dem Unionsmarkt verfügbar ist oder anderweitig Menschen in der Union beeinflusst, sollten daher auf den Menschen ausgerichtet sein, damit Menschen darauf vertrauen können, dass die Technik sicher angewandt wird und den Gesetzen, auch den Grundrechten, genügt. Nach Veröffentlichung des Weißbuchs leitete die Kommission eine breit angelegte Konsultation der Interessenträger ein, die reges Interesse zeigten und sich in großer Zahl beteiligten und die weitestgehend regulatorische Maßnahmen zur Bewältigung der Herausforderungen und Bedenken, die der zunehmende Einsatz von KI mit sich bringt, befürworteten.

Der Vorschlag ist zudem eine Reaktion auf die vom Europäischen Parlament und dem Europäischen Rat ausdrücklich und wiederholt erhobenen Forderungen nach legislativen Maßnahmen zur Gewährleistung eines reibungslos funktionierenden Binnenmarkts für Systeme der künstlichen Intelligenz (KI-Systeme), mit denen sowohl der Nutzen als auch die Risiken der KI auf Unionsebene angemessen geregelt werden. Er unterstützt das vom Europäischen Rat 3 formulierte Ziel der Union, bei der Entwicklung einer sicheren, vertrauenswürdigen und ethisch vertretbaren künstlichen Intelligenz weltweit eine Führungsrolle einzunehmen, und sorgt für den vom Europäischen Parlament 4 ausdrücklich geforderten Schutz von Ethikgrundsätzen.

2017 forderte der Europäische Rat „ein Bewusstsein für die Dringlichkeit der Auseinandersetzung mit neuen Trends“, auch für „Themen wie künstliche Intelligenz....“, „wobei zugleich ein hohes Niveau in Bezug auf Datenschutz, digitale Rechte und ethische Standards gewahrt werden muss“ 5 . In seinen Schlussfolgerungen von 2019 zu dem koordinierten Plan für künstliche Intelligenz „Made in Europe“ 6 betont der Rat ferner, wie wichtig es ist, die uneingeschränkte Achtung der Rechte der europäischen Bürgerinnen und Bürger zu gewährleisten, und ruft dazu auf, die maßgeblichen geltenden Rechtsvorschriften zu überprüfen, um sicherzustellen, dass sie im Hinblick auf die neuen Chancen und Herausforderungen, die sich durch künstliche Intelligenz ergeben, zweckdienlich sind. Der Europäische Rat forderte zudem eine klare Festlegung von KI-Anwendungen, die als hochriskant eingestuft werden sollten 7 .

In seinen jüngsten Schlussfolgerungen vom 21. Oktober 2020 forderte der Rat zudem, dass Probleme wie Undurchsichtigkeit, Komplexität, der sogenannte „Bias“, ein gewisses Maß an Unberechenbarkeit und teilweise autonomes Verhalten einiger KI-Systeme angegangen werden müssen, um deren Vereinbarkeit mit den Grundrechten sicherzustellen und die Durchsetzung der Rechtsvorschriften zu erleichtern 8 .

Auch das Europäische Parlament hat sich intensiv mit dem Thema der KI befasst. Im Oktober 2020 nahm es eine Reihe von Entschließungen zur KI an, u. a. zur Ethik 9 , zivilrechtlichen Haftung 10 und zum Urheberrecht 11 . 2021 folgten weitere Entschließungen zur KI im Strafrecht 12 sowie in der Bildung, der Kultur und im audiovisuellen Bereich 13 . In seiner Entschließung zu dem Rahmen für die ethischen Aspekte von künstlicher Intelligenz, Robotik und damit zusammenhängenden Technologien empfiehlt das Europäische Parlament der Kommission insbesondere legislative Maßnahmen vorzuschlagen, um so die Chancen und den Nutzen künstlicher Intelligenz auszuschöpfen, aber auch dafür zu sorgen, dass Ethik-Grundsätze geschützt werden. Die Entschließung enthält den Legislativvorschlag für eine Verordnung über Ethik-Grundsätze für die Entwicklung, den Einsatz und die Nutzung von künstlicher Intelligenz, Robotik und damit zusammenhängenden Technologien im Wortlaut. Dieser Vorschlag berücksichtigt die vorstehende Entschließung des Europäischen Parlaments unter uneingeschränkter Wahrung der Grundsätze der Verhältnismäßigkeit, Subsidiarität und besseren Rechtsetzung und steht damit in Einklang mit den von Präsidentin von der Leyen in ihren politischen Leitlinien gemachten politischen Zusagen hinsichtlich der Behandlung der vom Europäischen Parlament angenommenen Entschließungen nach Artikel 225 AEUV.

Vor diesem politischen Hintergrund legt die Kommission ihren Vorschlag für einen Rechtsrahmen zur Künstlichen Intelligenz vor, mit dem konkret die folgenden Ziele angestrebt werden:

·Es muss gewährleistet sein, dass die auf dem Unionsmarkt in Verkehr gebrachten und verwendeten KI-Systeme sicher sind und die bestehenden Grundrechte und die Werte der Union wahren.

·Zur Förderung von Investitionen in KI und innovativen KI muss Rechtssicherheit gewährleistet sein.

·Governance und die wirksame Durchsetzung des geltenden Rechts zur Wahrung der Grundrechte sowie die Sicherheitsanforderungen an KI-Systeme müssen gestärkt werden.

·Die Entwicklung eines Binnenmarkts für rechtskonforme, sichere und vertrauenswürdige KI-Anwendungen muss erleichtert werden und es gilt, eine Marktfragmentierung zu verhindern.

Mit Blick auf diese Ziele enthält dieser Vorschlag einen ausgewogenen horizontalen Regulierungsansatz für KI, der die Verhältnismäßigkeit wahrt und auf die Mindestanforderungen beschränkt ist, die zur Bewältigung der in Verbindung mit KI auftretenden Risiken und Probleme notwendig ist, ohne die technologische Entwicklung übermäßig einzuschränken oder zu behindern oder anderweitig die Kosten für das Inverkehrbringen von KI-Lösungen unverhältnismäßig in die Höhe zu treiben. Der Vorschlag zielt auf einen robusten und flexiblen Rechtsrahmen ab. Einerseits ist der Vorschlag in seinen grundlegenden Regulierungsentscheidungen umfassend und zukunftsorientiert. Dies gilt auch für die von den KI-Systemen zu erfüllenden und auf Grundsätzen beruhenden Anforderungen. Andererseits wird ein Regulierungssystem geschaffen, das die Verhältnismäßigkeit wahrt und auf genau definierte Risiken ausgerichtet ist. Dieser Regulierungsansatz schafft keine unnötigen Handelsbeschränkungen und der Gesetzgeber schreitet nur in solchen konkreten Situationen ein, in denen ein berechtigter Anlass für Bedenken besteht oder in denen vernünftigerweise davon ausgegangen werden kann, dass solche Bedenken in naher Zukunft auftreten werden. Gleichzeitig enthält der Rechtsrahmen Mechanismen, mit denen er flexibel und dynamisch an die technologische Entwicklung und neue bedenkliche Situationen angepasst werden kann.

Der Vorschlag enthält harmonisierte Vorschriften für die Entwicklung, das Inverkehrbringen und die Verwendung von KI-Systemen in der Union, die im Verhältnis zu den Risiken stehen. Die vorgeschlagene Begriffsbestimmung für KI ist zukunftstauglich. Während einige besonders schädliche KI-Praktiken, die gegen die Werte der Union verstoßen, verboten sind, werden für die Zwecke der Strafverfolgung für bestimmte Anwendungen biometrischer Fernidentifizierungssysteme konkrete Beschränkungen und Sicherheitsmaßnahmen vorgeschlagen. Der Vorschlag enthält eine solide Risiko-Methodik zur Einstufung von Hochrisiko-KI-Systemen, d. h. solchen Systemen, die erhebliche Risiken für die Gesundheit und Sicherheit oder die Grundrechte von Personen bergen. Solche KI-Systeme müssen horizontalen Auflagen für vertrauenswürdige KI genügen und Konformitätsbewertungsverfahren unterzogen werden, bevor sie in der Union in Verkehr gebracht werden dürfen. Damit die Sicherheit und die Einhaltung bestehender Rechtsvorschriften zum Schutz der Grundrechte über den gesamten Lebenszyklus von KI-Systemen hinweg gewahrt bleiben, werden Anbietern und Nutzern dieser Systeme berechenbare, verhältnismäßige und klare Pflichten auferlegt. Für einige KI-Systeme werden nur minimale Transparenzpflichten vorgeschlagen, insbesondere für den Einsatz von Chatbots oder „Deepfakes“.

Die vorgeschlagenen Vorschriften werden von den Mitgliedstaaten mittels einer Leitungsstruktur durchgesetzt, die auf bereits vorhandenen Strukturen aufbaut, sowie mittels eines Kooperationsmechanismus auf Unionsebene, auf der ein Europäischer Ausschuss für künstliche Intelligenz eingesetzt wird. Zusätzliche Maßnahmen werden zur Unterstützung von Innovation, vor allem in Form von KI-Reallaboren, sowie zur Verringerung des Verwaltungsaufwands und zur Förderung von kleinen und mittleren Unternehmen (KMU) und Startups vorgeschlagen.