EU-Kommission: Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten
Die EU-Kommission hat einen Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten veröffentlicht.
Die Pressemitteilung der EU-Kommission:
Kommission veröffentlicht Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten
ie Kommission hat heute den endgültigen Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten veröffentlicht. Der Leitfaden ist freiwillig und enthält praktische Schritte, um Anbieter und Betreiber generativer Systeme der künstlichen Intelligenz (KI) bei der Erfüllung der Transparenzpflichten der KI-Verordnung zu unterstützen, die ab dem 2. August 2026 gelten werden.
Ab diesem Datum muss nach der KI-Verordnung in wichtigen Fällen eine klare Kennzeichnung erfolgen. Deepfakes und durch KI erzeugte oder manipulierte Texte, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden, müssen eindeutig gekennzeichnet werden. Die Nutzerinnen und Nutzer müssen auch darüber in Kenntnis gesetzt werden, wenn sie es mit einem interaktiven KI-System wie einem Chatbot zu tun haben. Diese Transparenzanforderung helfen ihnen dabei, zu erkennen, ob Inhalte durch KI erzeugt oder verändert wurden, was das Risko von Täuschung und Manipulation verringert.
Der Leitfaden wurde von sechs unabhängigen Sachverständigen ausgearbeitet, die dabei Beiträge von 180 Interessenträgern berücksichtigten, darunter Anbieter und Betreiber interaktiver und generativer KI-Systeme und -Modelle, Verbände, die Betreiber vertreten, kleine und mittlere Unternehmen, Hochschulen, der öffentliche Sektor und Organisationen der Zivilgesellschaft.
Der Leitfaden besteht aus zwei Abschnitten:
Anbieter
In diesem Abschnitt geht es um die Pflichten der Anbieter generativer KI-Systeme. Es wird dargelegt, wie sichergestellt werden kann, dass durch KI generierte oder manipulierte Audio-, Bild-, Video- oder Textdateien in maschinenlesbarer Form gekennzeichnet werden, sodass sie als künstlich erzeugt oder manipuliert erkennbar sind.
Betreiber
In diesem Abschnitt wird näher auf die Pflichten der Betreiber generativer KI-Systeme eingegangen. Es wird erläutert, wie Deepfakes und von KI erzeugte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ohne dass eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat, eindeutig gekennzeichnet werden müssen.
Diese Transparenzvorschriften ergänzen die Vorschriften der KI-Verordnung für KI-Modelle mit allgemeinem Verwendungszweck und Hochrisikosysteme und unterstützen die verantwortungsvolle Entwicklung und Nutzung von KI in der EU.
Nächste Schritte
Der Leitfaden liegt nun zur Unterzeichnung auf. Die Kommission lädt alle Anbieter und Betreiber zur Unterzeichnung ein. Sobald die Kommission und das KI-Gremium den Leitfaden als angemessen genehmigt haben, können Anbieter und Betreiber mit dessen Unterzeichnung die Einhaltung der einschlägigen Verpflichtungen aus der KI-Verordnung nachweisen, die ab dem 2. August 2026 gelten.
Der Leitfaden wird durch Leitlinien der Kommission ergänzt werden. Die Leitlinien werden den Umfang der rechtlichen Verpflichtungen klarstellen und Aspekten gewidmet sein, die der Leitfaden nicht abdeckt. Sie werden praxisorientiert sein und KI-Anbieter und -Betreiber bei der Erfüllung der Transparenzanforderungen unterstützen.
Die Pressemitteilung der EU-Kommission:
Kommission veröffentlicht Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten
ie Kommission hat heute den endgültigen Praxisleitfaden für die Markierung und Kennzeichnung von KI-generierten Inhalten veröffentlicht. Der Leitfaden ist freiwillig und enthält praktische Schritte, um Anbieter und Betreiber generativer Systeme der künstlichen Intelligenz (KI) bei der Erfüllung der Transparenzpflichten der KI-Verordnung zu unterstützen, die ab dem 2. August 2026 gelten werden.
Ab diesem Datum muss nach der KI-Verordnung in wichtigen Fällen eine klare Kennzeichnung erfolgen. Deepfakes und durch KI erzeugte oder manipulierte Texte, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden, müssen eindeutig gekennzeichnet werden. Die Nutzerinnen und Nutzer müssen auch darüber in Kenntnis gesetzt werden, wenn sie es mit einem interaktiven KI-System wie einem Chatbot zu tun haben. Diese Transparenzanforderung helfen ihnen dabei, zu erkennen, ob Inhalte durch KI erzeugt oder verändert wurden, was das Risko von Täuschung und Manipulation verringert.
Der Leitfaden wurde von sechs unabhängigen Sachverständigen ausgearbeitet, die dabei Beiträge von 180 Interessenträgern berücksichtigten, darunter Anbieter und Betreiber interaktiver und generativer KI-Systeme und -Modelle, Verbände, die Betreiber vertreten, kleine und mittlere Unternehmen, Hochschulen, der öffentliche Sektor und Organisationen der Zivilgesellschaft.
Der Leitfaden besteht aus zwei Abschnitten:
Anbieter
In diesem Abschnitt geht es um die Pflichten der Anbieter generativer KI-Systeme. Es wird dargelegt, wie sichergestellt werden kann, dass durch KI generierte oder manipulierte Audio-, Bild-, Video- oder Textdateien in maschinenlesbarer Form gekennzeichnet werden, sodass sie als künstlich erzeugt oder manipuliert erkennbar sind.
Betreiber
In diesem Abschnitt wird näher auf die Pflichten der Betreiber generativer KI-Systeme eingegangen. Es wird erläutert, wie Deepfakes und von KI erzeugte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ohne dass eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat, eindeutig gekennzeichnet werden müssen.
Diese Transparenzvorschriften ergänzen die Vorschriften der KI-Verordnung für KI-Modelle mit allgemeinem Verwendungszweck und Hochrisikosysteme und unterstützen die verantwortungsvolle Entwicklung und Nutzung von KI in der EU.
Nächste Schritte
Der Leitfaden liegt nun zur Unterzeichnung auf. Die Kommission lädt alle Anbieter und Betreiber zur Unterzeichnung ein. Sobald die Kommission und das KI-Gremium den Leitfaden als angemessen genehmigt haben, können Anbieter und Betreiber mit dessen Unterzeichnung die Einhaltung der einschlägigen Verpflichtungen aus der KI-Verordnung nachweisen, die ab dem 2. August 2026 gelten.
Der Leitfaden wird durch Leitlinien der Kommission ergänzt werden. Die Leitlinien werden den Umfang der rechtlichen Verpflichtungen klarstellen und Aspekten gewidmet sein, die der Leitfaden nicht abdeckt. Sie werden praxisorientiert sein und KI-Anbieter und -Betreiber bei der Erfüllung der Transparenzanforderungen unterstützen.