EU-Kommission leitet Verfahren nach dem DSA gegen X ein - Risiken im Zusammenhang mit der Einführung der Funktionen von Grok in X in der EU
Die EU-Kommission hat ein Verfahren nach dem DSA gegen X eingeleitet. Dabei geht es um die Risiken im Zusammenhang mit der Einführung der Funktionen von Grok in X in der EU.
Die Pressemitteilung der EU-Kommission:
Kommission untersucht Empfehlungssysteme von Grok und X nach dem Gesetz über digitale Dienste
Die Europäische Kommission hat ein neues förmliches Prüfverfahren gegen X im Rahmen des Gesetzes über digitale Dienste eingeleitet. Parallel dazu verlängerte die Kommission ihre laufende Untersuchung, die im Dezember 2023 eingeleitet wurde, um zu prüfen, ob X seinen Verpflichtungen im Bereich des Risikomanagements für Empfehlungssysteme nachkommt.
Im Rahmen der neuen Untersuchung wird bewertet, ob das Unternehmen die Risiken im Zusammenhang mit der Einführung der Funktionen von Grok in X in der EU ordnungsgemäß bewertet und gemindert hat. Dazu gehören Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte in der EU, wie manipulierte sexuell eindeutige Bilder, einschließlich Inhalte, die Material über sexuellen Kindesmissbrauch darstellen können.
Diese Risiken scheinen eingetreten zu sein und den Bürgerinnen und Bürgern in der EU ernsthaften Schaden zuzufügen. Vor diesem Hintergrund wird die Kommission weiter prüfen, ob X seinen Verpflichtungen im Rahmen des Gesetzes über digitale Dienste nachkommt,
- sorgfältige Bewertung und Minderung systemischer Risiken, einschließlich der Verbreitung illegaler Inhalte, negativer Auswirkungen im Zusammenhang mit geschlechtsspezifischer Gewalt und schwerwiegender negativer Folgen für das körperliche und geistige Wohlbefinden, die sich aus der Bereitstellung der Funktionen von Grok auf seiner Plattform ergeben;
- Durchführung und Übermittlung eines Ad-hoc-Risikobewertungsberichts für die Funktionen von Grok im X-Dienst mit kritischen Auswirkungen auf das Risikoprofil von X vor ihrer Einführung an die Kommission.
Unabhängig davon hat die Kommission ihr laufendes förmliches Verfahren gegen X im Dezember 2023 verlängert, um festzustellen, ob X alle Systemrisiken im Sinne des Gesetzes über digitale Dienste, die mit seinen Empfehlungssystemen verbunden sind, ordnungsgemäß bewertet und gemindert hat, einschließlich der Auswirkungen des kürzlich angekündigten Wechsels zu einem auf Grok basierenden Empfehlungssystem.
Wenn diese Versäumnisse nachgewiesen würden, würden sie einen Verstoß gegen Artikel 34 Absätze 1 und 2, Artikel 35 Absatz 1 und Artikel 42 Absatz 2 des Gesetzes über digitale Dienste darstellen. Die Kommission wird nun vorrangig eine eingehende Untersuchung durchführen. Die Eröffnung eines förmlichen Verfahrens greift seinem Ausgang nicht vor.
Bei der Vorbereitung dieser Untersuchung hat die Kommission eng mit Coimisiún na Meán, dem irischen Koordinator für digitale Dienste, zusammengearbeitet. Darüber hinaus wird Coimisiún na Meán gemäß Artikel 66 Absatz 3 als nationaler Koordinator für digitale Dienste im Niederlassungsland der EU an dieser Untersuchung beteiligt sein.
Nächste Schritte
Die Kommission wird weiterhin Beweise sammeln, z. B. durch die Übermittlung zusätzlicher Auskunftsersuchen, die Durchführung von Befragungen oder Inspektionen, und kann einstweilige Maßnahmen verhängen, wenn keine nennenswerten Anpassungen am X-Dienst vorgenommen werden.
Mit der Einleitung eines förmlichen Verfahrens wird die Kommission ermächtigt, weitere Durchsetzungsmaßnahmen zu ergreifen, z. B. den Erlass eines Beschlusses über die Nichteinhaltung der Vorschriften. Die Kommission ist ferner befugt, jede von X eingegangene Verpflichtung zur Behebung der verfahrensgegenständlichen Probleme zu akzeptieren.
Die Einleitung eines förmlichen Verfahrens entbindet die Koordinatoren für digitale Dienste oder jede andere zuständige Behörde der EU-Mitgliedstaaten von ihren Befugnissen zur Überwachung und Durchsetzung des Gesetzes über digitale Dienste in Bezug auf die mutmaßlichen Verstöße.
Hintergrund
Grok ist ein vom Anbieter von X entwickeltes Tool für künstliche Intelligenz („KI“). Seit 2024 setzt X Grok auf verschiedene Weise auf seiner Plattform ein. Diese Bereitstellungen ermöglichen es den Benutzern beispielsweise, Text und Bilder zu generieren und den Beiträgen der Benutzer Kontextinformationen zur Verfügung zu stellen.
Als benannte sehr große Online-Plattform (VLOP) im Rahmen des Gesetzes über digitale Dienste ist X verpflichtet, potenzielle Systemrisiken im Zusammenhang mit seinen Diensten in der EU zu bewerten und zu mindern. Zu diesen Risiken gehören die Verbreitung illegaler Inhalte und potenzielle Bedrohungen der Grundrechte, einschließlich Minderjähriger, die von ihrer Plattform und ihren Funktionen ausgehen.
Diese Untersuchung ergänzt und erweitert die am 18. Dezember 2023 eingeleitete Untersuchung, die sich auf die Funktionsweise des Melde- und Aktionsmechanismus von X, seine Minderungsmaßnahmen gegen illegale Inhalte wie terroristisches Material in der EU und die mit seinen Empfehlungssystemen verbundenen Risiken konzentriert.
Diese Verfahren betrafen auch die Verwendung von irreführendem Design, die mangelnde Werbetransparenz und den unzureichenden Datenzugang für Forscher, für die die Kommission am 5. Dezember 2025 einen Beschluss über die Nichteinhaltung der Vorschriften mit einer Geldbuße von X 120 Mio. EUR erließ. Am 19. September richtete die Kommission an X ein Auskunftsersuchen in Bezug auf Grok, einschließlich Fragen zu den von @grok Mitte 2025 generierten antisemitischen Inhalten.
Auf nationaler Ebene steht Hilfe und Unterstützung für Personen zur Verfügung, die von KIgenerierten Bildern, einschließlich Darstellungen sexuellen Kindesmissbrauchs oder nicht einvernehmlichen intimen Bildern, negativ betroffen sind. Im Rahmen des Gesetzes über digitale Dienste haben die Bürgerinnen und Bürger das Recht, beim Koordinator für digitale Dienste ihres Mitgliedstaats eine Beschwerde über einen Verstoß gegen das Gesetz über digitale Dienste einzureichen.
Die Pressemitteilung der EU-Kommission:
Kommission untersucht Empfehlungssysteme von Grok und X nach dem Gesetz über digitale Dienste
Die Europäische Kommission hat ein neues förmliches Prüfverfahren gegen X im Rahmen des Gesetzes über digitale Dienste eingeleitet. Parallel dazu verlängerte die Kommission ihre laufende Untersuchung, die im Dezember 2023 eingeleitet wurde, um zu prüfen, ob X seinen Verpflichtungen im Bereich des Risikomanagements für Empfehlungssysteme nachkommt.
Im Rahmen der neuen Untersuchung wird bewertet, ob das Unternehmen die Risiken im Zusammenhang mit der Einführung der Funktionen von Grok in X in der EU ordnungsgemäß bewertet und gemindert hat. Dazu gehören Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte in der EU, wie manipulierte sexuell eindeutige Bilder, einschließlich Inhalte, die Material über sexuellen Kindesmissbrauch darstellen können.
Diese Risiken scheinen eingetreten zu sein und den Bürgerinnen und Bürgern in der EU ernsthaften Schaden zuzufügen. Vor diesem Hintergrund wird die Kommission weiter prüfen, ob X seinen Verpflichtungen im Rahmen des Gesetzes über digitale Dienste nachkommt,
- sorgfältige Bewertung und Minderung systemischer Risiken, einschließlich der Verbreitung illegaler Inhalte, negativer Auswirkungen im Zusammenhang mit geschlechtsspezifischer Gewalt und schwerwiegender negativer Folgen für das körperliche und geistige Wohlbefinden, die sich aus der Bereitstellung der Funktionen von Grok auf seiner Plattform ergeben;
- Durchführung und Übermittlung eines Ad-hoc-Risikobewertungsberichts für die Funktionen von Grok im X-Dienst mit kritischen Auswirkungen auf das Risikoprofil von X vor ihrer Einführung an die Kommission.
Unabhängig davon hat die Kommission ihr laufendes förmliches Verfahren gegen X im Dezember 2023 verlängert, um festzustellen, ob X alle Systemrisiken im Sinne des Gesetzes über digitale Dienste, die mit seinen Empfehlungssystemen verbunden sind, ordnungsgemäß bewertet und gemindert hat, einschließlich der Auswirkungen des kürzlich angekündigten Wechsels zu einem auf Grok basierenden Empfehlungssystem.
Wenn diese Versäumnisse nachgewiesen würden, würden sie einen Verstoß gegen Artikel 34 Absätze 1 und 2, Artikel 35 Absatz 1 und Artikel 42 Absatz 2 des Gesetzes über digitale Dienste darstellen. Die Kommission wird nun vorrangig eine eingehende Untersuchung durchführen. Die Eröffnung eines förmlichen Verfahrens greift seinem Ausgang nicht vor.
Bei der Vorbereitung dieser Untersuchung hat die Kommission eng mit Coimisiún na Meán, dem irischen Koordinator für digitale Dienste, zusammengearbeitet. Darüber hinaus wird Coimisiún na Meán gemäß Artikel 66 Absatz 3 als nationaler Koordinator für digitale Dienste im Niederlassungsland der EU an dieser Untersuchung beteiligt sein.
Nächste Schritte
Die Kommission wird weiterhin Beweise sammeln, z. B. durch die Übermittlung zusätzlicher Auskunftsersuchen, die Durchführung von Befragungen oder Inspektionen, und kann einstweilige Maßnahmen verhängen, wenn keine nennenswerten Anpassungen am X-Dienst vorgenommen werden.
Mit der Einleitung eines förmlichen Verfahrens wird die Kommission ermächtigt, weitere Durchsetzungsmaßnahmen zu ergreifen, z. B. den Erlass eines Beschlusses über die Nichteinhaltung der Vorschriften. Die Kommission ist ferner befugt, jede von X eingegangene Verpflichtung zur Behebung der verfahrensgegenständlichen Probleme zu akzeptieren.
Die Einleitung eines förmlichen Verfahrens entbindet die Koordinatoren für digitale Dienste oder jede andere zuständige Behörde der EU-Mitgliedstaaten von ihren Befugnissen zur Überwachung und Durchsetzung des Gesetzes über digitale Dienste in Bezug auf die mutmaßlichen Verstöße.
Hintergrund
Grok ist ein vom Anbieter von X entwickeltes Tool für künstliche Intelligenz („KI“). Seit 2024 setzt X Grok auf verschiedene Weise auf seiner Plattform ein. Diese Bereitstellungen ermöglichen es den Benutzern beispielsweise, Text und Bilder zu generieren und den Beiträgen der Benutzer Kontextinformationen zur Verfügung zu stellen.
Als benannte sehr große Online-Plattform (VLOP) im Rahmen des Gesetzes über digitale Dienste ist X verpflichtet, potenzielle Systemrisiken im Zusammenhang mit seinen Diensten in der EU zu bewerten und zu mindern. Zu diesen Risiken gehören die Verbreitung illegaler Inhalte und potenzielle Bedrohungen der Grundrechte, einschließlich Minderjähriger, die von ihrer Plattform und ihren Funktionen ausgehen.
Diese Untersuchung ergänzt und erweitert die am 18. Dezember 2023 eingeleitete Untersuchung, die sich auf die Funktionsweise des Melde- und Aktionsmechanismus von X, seine Minderungsmaßnahmen gegen illegale Inhalte wie terroristisches Material in der EU und die mit seinen Empfehlungssystemen verbundenen Risiken konzentriert.
Diese Verfahren betrafen auch die Verwendung von irreführendem Design, die mangelnde Werbetransparenz und den unzureichenden Datenzugang für Forscher, für die die Kommission am 5. Dezember 2025 einen Beschluss über die Nichteinhaltung der Vorschriften mit einer Geldbuße von X 120 Mio. EUR erließ. Am 19. September richtete die Kommission an X ein Auskunftsersuchen in Bezug auf Grok, einschließlich Fragen zu den von @grok Mitte 2025 generierten antisemitischen Inhalten.
Auf nationaler Ebene steht Hilfe und Unterstützung für Personen zur Verfügung, die von KIgenerierten Bildern, einschließlich Darstellungen sexuellen Kindesmissbrauchs oder nicht einvernehmlichen intimen Bildern, negativ betroffen sind. Im Rahmen des Gesetzes über digitale Dienste haben die Bürgerinnen und Bürger das Recht, beim Koordinator für digitale Dienste ihres Mitgliedstaats eine Beschwerde über einen Verstoß gegen das Gesetz über digitale Dienste einzureichen.