EU-Parlament will Nudifier-Apps verbieten | heise online

Die Entwicklung im Bereich KI eilt der Gesetzgebung oft voraus. Besonders deutlich zeigt sich das bei sogenannten Nudifier-Apps, die mittels generativer KI aus gewöhnlichen Fotos real wirkende Nacktaufnahmen in Form von Deepfakes erstellen. Das EU-Parlament hat nun am Donnerstag mit überwältigender Mehrheit dafür gestimmt, dass solche Systeme künftig verboten werden sollen, sofern sie ohne Zustimmung der abgebildeten Personen sexuell explizite Inhalte generieren. Dafür sprachen sich 569 Abgeordnete, 45 dagegen, 23 enthielten sich.

Der Vorstoß ist Teil einer umfassenden Positionierung der Abgeordneten zur sogenannten Digital-Omnibus-Verordnung. Dabei geht es den Volksvertretern um eine praxisnahe Anpassung der KI-Verordnung.

Um Unternehmen mehr Planungssicherheit zu geben, schlägt das Parlament eine Anpassung der Fristen im AI Act vor. Hochrisiko-KI-Systeme, die etwa in der Biometrie, im Bildungswesen oder in der Strafverfolgung eingesetzt werden, sollen demnach erst ab dem 2. Dezember 2027 den vollen Anforderungen unterliegen. Für KI-Anwendungen im Bereich der allgemeinen Produktsicherheit ist sogar der August 2028 im Gespräch.

Schutz vor Missbrauch und mehr Transparenz

Bei der digitalen Integrität des Individuums zeigt sich das Parlament dagegen unnachgiebig. Das geplante Verbot der Entkleidungs-KI zielt direkt auf Anbieter wie Elon Musks Grok, deren Software dazu missbraucht wird, Frauen und Kinder digital zu entwürdigen. Ausgenommen von diesem Bann wären lediglich Systeme, die über wirksame technische Sicherheitsbarrieren verfügen, die eine Generierung solcher Deepfakes unterbinden. Zusätzlich streben die Abgeordneten eine Kennzeichnungspflicht für KI-Inhalte bis November 2026 an, um deren Herkunft transparent zu machen.

Die Abgeordneten reagieren mit den skizzierten Verschärfungen auf eine Welle von digitaler sexualisierter Gewalt. Prominente Fälle wie der der Moderatorin Collien Fernandes verdeutlichen die zerstörerische Kraft der Technologie. Sie wurde Opfer solcher KI-Manipulationen und sah sich mit täuschend echten, aber gefälschten Nacktbildern im Netz konfrontiert. Das diente in der parlamentarischen Debatte als Mahnung, wie schnell technologische Spielereien in massive Erpressung und psychische Gewalt umschlagen können.

Trotz viel Zustimmung zu diesen Schutzmaßnahmen regt sich Widerstand gegen andere Teile des Pakets. Der TÜV-Verband etwa warnt vor einem drohenden „Sektor-Exit“. Zentrale Hochrisiko-Bereiche wie Medizinprodukte, Maschinen oder Spielzeuge sollen nämlich aus dem unmittelbaren Anwendungsbereich der KI-Verordnung herausgelöst und stattdessen in sektoralen Einzelgesetzen geregelt werden.

Mit dem Votum des Parlaments im Sinne der Ausschussempfehlung können nun die Trilog-Verhandlungen mit dem Ministerrat beginnen, um die finale Ausgestaltung des Gesetzes festzulegen. Die EU-Staaten haben sich bereits ähnlich positioniert, was eine rasche Einigung ermöglichen dürfte.

(wpl)