Deutschland will mit Gesetzen gegen Bildmanipiulation durch KI vorgehen

Das deutsche Justizministerium plant, gesetzliche Maßnahmen zur Bekämpfung des Missbrauchs künstlicher Intelligenz bei der Erstellung sexuell eindeutiger Bilder ohne Zustimmung der betroffenen Personen vorzulegen. Damit reagiert es auf die wachsende Besorgnis über die Verwendung des Tools Grok, einem KI-Chatbot auf der Plattform X von Elon Musk.

Dieses Tool ist in Europa wegen seines sogenannten „Spicy Mode” Gegenstand einer Untersuchung geworden. Es generierte Bilder von Frauen und Kindern in minimaler Bekleidung, oft ohne deren Wissen. Der deutsche Staatsminister für Medien, Wolfram Weimer, forderte die Europäische Kommission auf, diese „Industrialisierung der sexuellen Belästigung” zu stoppen.

Die Sprecherin des Justizministeriums, Anna-Lena Beckfeld, konkretisierte, dass Deutschland einen Gesetzentwurf gegen digitale Gewalt vorbereitet. Ziel sei es, den Opfern eine wirksamere Verteidigung zu ermöglichen und das Strafrecht zur Bekämpfung systematischer Verletzungen der Persönlichkeitsrechte durch KI-Manipulation zu nutzen.

Das Unternehmen xAI hat inzwischen die Bildgenerierung auf zahlende Nutzer beschränkt. Musk kündigte zudem an, dass jeder, der Grok zur Erstellung illegaler Inhalte nutze, ebenso wie beim Hochladen dieser Inhalte zur Verantwortung gezogen werde.

(reuters, max)