Sexualisierte KI-Bilder: KommAustria ersucht um Anzeigen

Die EU-Kommission geht wegen sexualisierter KI-Bilder, die insbesondere Frauen und Kinder betreffen, auf Grundlage des Digital Services Act (DSA) gegen den Chatbot Grok von US-Milliardär Elon Musk vor.

Geprüft wird, ob Musks Onlinedienst X genug gegen die Verbreitung der Bilder unternimmt. Die Medienbehörde KommAustria tritt in Österreich koordinierend auf und ersucht nun um Anzeigen derartiger Inhalte.

Betroffene sollten in einem ersten Schritt Fälle direkt bei X unter der Meldemöglichkeit "illegale Inhalte" melden, hieß es in einer Aussendung. Zusätzlich ruft die KommAustria auf, auch das Beschwerdeportal der RTR zu nutzen. Die Beschwerden werden an die EU-Kommission weitergeleitet.

"Beschwerden leisten einen wesentlichen Beitrag zur wirksamen Durchsetzung des DSA. Zudem stellen sie eine zentrale Informationsquelle für die Beurteilung der Einhaltung von gesetzlichen Verpflichtungen durch Onlineplattformen dar", teilte die KommAustria mit.

X-Nutzer und -Nutzerinnen hatten mit Hilfe des Chatbots Anfang des Monats Millionen von KI-Bildern erzeugt und veröffentlicht, auf denen Frauen und Mädchen ohne deren Zustimmung im Bikini, fast nackt oder in sexualisierten Posen zu sehen waren.

Nach Schätzungen der britischen Nichtregierungsorganisation CCDH waren darunter 23.000 Bilder von Kindern. X hat die Funktion nach eigenen Angaben seither eingeschränkt. Die Bilderstellung mit Grok ist nur noch zahlenden Nutzern zugänglich – das reicht aus Sicht der EU-Kommission aber nicht aus.