Verbot für sexualisierte Deepfakes rückt näher

„Voller Erfolg im Parlament“, schreibt Sergey Lagodinsky auf LinkedIn. Der grüne EU-Abgeordnete feiert die Entscheidung für ein Verbot von sexualisierten Deepfakes. Darauf haben sich die Fraktionen im EU-Parlament gestern geeinigt, als sie den sogenannten KI-Omnibus verhandelt haben. Das Gesetz soll die KI-Verordnung (AI Act) anpassen.

„Die Frage war klar: Wenn der Omnibus Änderungen am KI-Gesetz bringt, warum nicht genau hier ansetzen?“, schreibt Lagodinsky weiter. Mit seinen Fraktionskolleg:innen hat er sich seit Januar für ein Verbot von sexualisierten Deepfakes eingesetzt. Es geht um synthetische Nacktaufnahmen, erzeugt mit Software, die viele als „KI“ bezeichnen.

Die Grünen haben allerdings nicht ganz bekommen, was sie wollten. Sie hatten sich sogar dafür ausgesprochen, sexualisierte Deepfakes grundsätzlich zu verbieten – selbst wenn das Einverständnis der betroffenen Person vorliegt. So wie die Einigung bis jetzt aussieht, soll nur der nicht einvernehmliche oder missbräuchliche Einsatz der Technologie verboten werden. In dieser Form hatten sich Abgeordnete der Sozialdemokraten und der Fraktion Renew für ein Verbot eingesetzt.

Parlament, Rat und Kommission müssen noch verhandeln

Noch sind nicht alle Details geklärt. Nächste Woche sollen die verantwortlichen Ausschüsse im Parlament – Justiz und Binnenmarkt – über den Kompromisstext abstimmen. Damit ist das Verbot allerdings noch nicht beschlossen. Was im KI-Omnibus am Ende steht, werden Parlament, Kommission und Rat im Trilog aushandeln. Besonders kontrovers dürften diese Gespräche jedoch nicht werden. Denn auch die Mitgliedstaaten haben sich in ihren parallelen Verhandlungen mittlerweile auf ein Deepfake-Verbot verständigt. Im vierten Kompromisstext der Ratspräsidentschaft tauchte das Verbot in dieser Woche auf, wie Mlex (Paywall) berichtete.

Im Rat hatte vor allem Spanien auf eine Regelung hingearbeitet. Ein breiteres Interesse an dem Problem gab es dort schon vor dem internationalen Skandal um nicht-einvernehmliche Deepfakes durch den Chatbot Grok. Im Herbst 2023 hatte ein Fall in der spanischen Stadt Almendralejo für Aufsehen gesorgt, als gefälschte Nacktbilder von mehr als 20 Mädchen zirkulierten. Seitdem bemüht sich die spanische Regierung um ein nationales Verbot.

Zu klären bleibt noch, wie das Verbot in die KI-Verordnung integriert werden soll. Das Parlament will die nicht-einvernehmliche Erstellung von sexualisierten Deepfakes in den Artikel 5 aufnehmen, der verbotene KI-Praktiken auflistet. Der Ratsentwurf dagegen sieht vor, zwei Dinge zu verbieten: KI-Systeme, die nicht-einvernehmliche sexualisierte Deepfakes erstellen können und KI-Systeme, die Kindesmissbrauchsmaterial erstellen können.