Sexualisierte KI-Bilder: EU-Kommission geht gegen Musk-Chatbot Grok vor

Die EU-Kommission geht wegen sexualisierter KI-Bilder von Frauen und Kindern gegen den Chatbot Grok von US-Milliardär Elon Musk vor. Die Brüsseler Ermittler prüfen, ob Musks Onlinedienst X streng genug gegen die Verbreitung solcher Bilder durch den Chatbot vorgeht, wie die Kommission am Montag mitteilte. In der Folge kann die Kommission ein hohes Bußgeld verhängen.

EU-Kommissionspräsidentin Ursula von der Leyen erklärte, Europa werde ein "unfassbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren". Die EU werde nicht akzeptieren, dass große Digitalkonzerne an solchen Bildern Geld verdienen.

X-Nutzer hatten mithilfe des Chatbots Anfang des Monats Millionen von KI-Bildern erzeugt und veröffentlicht, auf denen Frauen und Mädchen ohne deren Zustimmung im Bikini, fast nackt oder in sexualisierten Posen zu sehen waren. Nach Schätzungen der britischen Nichtregierungsorganisation CCDH waren darunter 23.000 Bilder von Kindern. X hat die Funktion nach eigenen Angaben seither eingeschränkt.

Die KI-Bilder seien "eine gewaltsame, inakzeptble Form der Erniedrigung", erklärte EU-Digitalkommissarin Henna Virkkunen. Die Kommission werde nun ermitteln, ob sich X mit seinen internen Vorgaben für Grok an die EU-Gesetze halte oder "die Rechte europäischer Bürgerinnen und Bürger - darunter Frauen und Kinder - als Kollateralschaden behandelt hat".

Bestätigen sich die Vorwürfe, wäre das ein Verstoß gegen das EU-Gesetz über digitale Dienste (Digital Services Act, DSA). Mit dem Gesetz nimmt die EU große Internetplattformen in die Pflicht, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole, die im Internet ebenso verboten sind wie auf der Straße.

In Brüssel läuft bereits ein Verfahren gegen X wegen der Verbreitung solcher Inhalte, etwa Gewaltdarstellungen und Hassrede. Die Ermittlungen im Zusammenhang mit dem Chatbot Grok kommen nun dazu. Außerdem will die Kommission die Empfehlungssysteme auf der Plattform überprüfen, die darüber entscheiden, was Nutzern angezeigt wird. Diese basieren inzwischen ebenfalls auf der Künstlichen Intelligenz hinter Grok.

Anfang Dezember hatte die Kommission bereits eine erste Strafe in Höhe von 120 Millionen Euro gegen X verhängt. Damals ging es unter anderem um mangelnde Transparenz bei der Werbung. Die Vorwürfe im Zusammenhang mit Grok wiegen deutlich schwerer. Eine Frist für das laufende Verfahren gibt es nicht.