Die EU-Institutionen können sich weiter nicht auf eine abgeschwächte Fassung der KI-Verordnung einigen. Medienberichten zufolge sind gut zwölfstündige Trilog-Verhandlungen zwischen dem Europäischen Parlament, dem Rat und der Kommission am Dienstag gescheitert.

Ein zentraler Streitpunkt war offenbar eine vorgeschlagene Ausnahme für risikoreiche KI-Systeme in der Industrie, wie Table Media [€] berichtet. Das Parlament hatte demzufolge vorgeschlagen, die sektorspezifischen Regelungen zu ändern: Industriemaschinen sollten demnach aus der Hochrisiko‑Kategorie herausfallen. Entscheidend für eine Einstufung als Hochrisiko sollte stattdessen die tatsächliche Sicherheitsfunktion der KI werden. Rat und Parlament sind sich in dieser Frage jedoch uneins.

Gestritten wurde dem Bericht zufolge zudem über ein Verbot sogenannte „Nudifier“-Anwendungen. Das sind generative KI‑Systeme, die Menschen auf Foto- oder Videomaterial entkleiden können. Das Parlament möchte nicht‑einvernehmliche intime Inhalte verhindern, es konnte jedoch keine Einigung darüber erzielt werden, welche Körperteile darunterfallen.

Das kritisiert unter anderem Eva Lejla Podgoršek, Senior Policy Managerin bei AlgorithmWatch. Es sei wichtig, „dass die wenigen guten Vorschläge nicht unter die Räder geraten.“ Das geplante Verbot von KI-Systemen, die nicht einvernehmliche sexualisierende Deepfakes ermöglichen, sei ein wichtiger Baustein, um Betroffene wirksam zu schützen.

Wenn drei sich streiten, freut sich niemand

Die Anpassungen der bereits im August 2024 in Kraft getretenen KI-Verordnung sollen im Rahmen des sogenannten Digitalen Omnibus erfolgen. Mit dem von der EU-Kommission vorgeschlagenen Gesetzespaket sollen Vorschriften im digitalen Sektor vereinfacht werden, um bürokratische Hürden für Unternehmen abzubauen und Europas Wettbewerbsfähigkeit zu steigern. Das Paket ist jedoch umstritten. Es enthält auch Lockerungen der Datenschutzgrundverordnung, etwa beim Training von KI mit personenbezogenen Daten oder einer Neudefinition personenbezogener Daten.

Während die Verhandlungen über den Daten-Omnibus sich offenbar länger hinziehen, machten die Beratungen über den KI-Omnibus schnell Fortschritte. Die Zeit drängt: Zentrale Pflichten des AI Acts für besonders risikoreiche KI-Systeme werden ab dem 2. August 2026 wirksam. Diese Fristen sollen mit dem Omnibus aufgeschoben werden. Gestern sind die finalen Verhandlungen allerdings bereits zum zweiten Mal geplatzt.

Laut Table Briefings sieht die zypriotische Ratspräsidentschaft keine Schuld bei sich: „Wir sind mit einer sehr konstruktiven Haltung in die heutige Sitzung gegangen und haben konkrete Vorschläge zur Lösungsfindung unterbreitet“. Man habe während der Verhandlungen ein hohes Maß an Flexibilität gezeigt, aber keine Einigung mit dem Europäischen Parlament erzielen können. Das Ziel der Vereinfachung werde jedoch weiterhin verfolgt.

Stimmen aus dem Parlament sehen dies anders. Es sei „inakzeptabel, dass die Ratspräsidentschaft nicht bereit war, einen substanziellen Kompromiss zu machen, um die Überregulierung von KI zu beenden“, sagte die Europaabgeordnete Svenja Hahn (FDP). Michael McNamara (parteilos), Verhandlungsführer für das EU-Parlament, räumte in einem Interview mit Tech Policy Press jedoch selbst ein, dass die vorgeschlagene Verlagerung in sektorale Gesetze „eher zu Deregulierung als zu einer Vereinfachung führen könnte“.

Schwere Vorwürfe kommen von den Grünen im EU-Parlament, insbesondere gegenüber deutschen Konservativen, wie Euractiv berichtet. Sie werfen der Europäischen Volkspartei vor, das Omnibus-Gesetz bewusst zu verzögern und dabei auch die Hilfe von rechtsextremen Parteien im Parlament in Anspruch zu nehmen. Merz wolle noch weitergehende Lockerungen der KI-Regeln, als sie derzeit verhandelt würden. Das wiederholte Scheitern lassen der Verhandlungen sei ein Schachzug, um Zeit zu gewinnen und so die Positionen der EU-Mitgliedstaaten zu beeinflussen.

Das Bundeskabinett hat am Mittwoch ein Gesetzespaket auf den Weg gebracht, das die Befugnisse der Sicherheitsbehörden im digitalen Raum deutlich ausweitet. Unter der Federführung des Innen- und des Justizministeriums sollen das Bundeskriminalamt (BKA), die Bundespolizei sowie das Bundesamt für Migration und Flüchtlinge künftig Technologien wie Künstliche Intelligenz und automatisierte biometrische Abgleiche nutzen dürfen.

Damit will die Regierung auf die technologische Entwicklung reagieren. Bisher mussten Beamte soziale Netzwerke oft händisch nach Fotos von Tatverdächtigen durchsuchen. Ein mühsamer Prozess, der nun durch Automatisierung ersetzt werden soll.

Im Zentrum der Neuregelungen der drei Entwürfe, die auf umstrittenen Referentenvorlagen der führenden Ressorts aufbauen, stehen Änderungen an der Strafprozessordnung. Der neue Paragraf 98d StPO soll die Basis für einen automatisierten biometrischen Online-Bildabgleich bieten. Erlaubt würde damit eine Rasterfahndung mit biometrischen Daten aus einem laufenden Verfahren und öffentlich zugänglichen Informationen im Internet. Ermittler könnten künftig Fotos von Verdächtigen automatisiert mit Bildern in sozialen Medien abgleichen, um Identität oder Aufenthaltsort festzustellen.

Keine dauerhafte Bilddatenbank?

Die Regierung betont, dass kein Aufbau einer dauerhaften staatlichen Bilddatenbank erfolge und Echtzeit-Überwachungen über öffentliche Webcams ausgeschlossen bleibe. Experten halten diese Einschränkungen für eine Farce: Ein automatisierter Abgleich von Millionen Web-Bildern in Sekundenbruchteilen sei technisch unmöglich, ohne vorher eine strukturierte, durchsuchbare Datenbasis aller verfügbaren Gesichter anzulegen. Die Maßnahme ist an den Verdacht einer Straftat von „erheblicher Bedeutung“ geknüpft, was als dehnbar gilt. Sie bedarf nun einer richterlichen Anordnung, während zunächst eine Ansage eines Staatsanwalts hätte ausreichen sollen.

Zweiter Pfeiler der Reform ist die automatisierte Datenanalyse nach § 98e StPO. Dabei geht es darum, bisher isolierte Polizeidatenbanken miteinander zu vernetzen und mittels Analysesoftware zu durchleuchten, um Querverbindungen zwischen Verfahren schneller zu erkennen.

Justizministerin Stefanie Hubig (SPD) unterstrich: Es wäre fahrlässig, den Behörden solche Instrumente vorzuenthalten. Sie versicherte, dass Entscheidungen weiterhin von Menschen und nicht von KI-Systemen getroffen würden. IT-Systeme dürften künftig aber auch mit Echtdaten aus polizeilichen Beständen trainiert werden, um die Leistungsfähigkeit der Algorithmen zu steigern.

Zweifel an Verfassungsmäßigkeit

Ein Bündnis aus 14 zivilgesellschaftlichen Organisationen wie dem Chaos Computer Club (CCC) und AlgorithmWatch warnte vorab vor einem Paradigmenwechsel hin zur Massenüberwachung. Sie monierten, dass die neuen Befugnisse das Ende der Anonymität im öffentlichen Raum bedeuten könnten. Besonders die Möglichkeit, biometrische Scans im gesamten Internet durchzuführen, wäre ein massiver Grundrechtseingriff. Die Kritiker weisen darauf hin, dass Ermittler Dienste wie Clearview AI oder PimEyes nutzen dürften, was die staatliche Kontrolle über sensible Daten gefährde.

Konstantin von Notz, Vizefraktionschef der Grünen, sieht den Rechtsstaat in Gefahr: Die geplanten Instrumente beträfen „keineswegs nur Personen im direkten Fokus von Sicherheitsbehörden, sondern potenziell alle, auch gänzlich unbescholtene Bürger“. Er wirft dem Innenministerium vor, den Schutz der Bürger zu vernachlässigen, und stellt die Verfassungsmäßigkeit der Entwürfe infrage. Besonders der Versuch, europäische Bürgerrechte durch die Auslagerung von Datenabgleichen ins Ausland zu umgehen, sei ein heikles Manöver.

Lex Palantir und die nationale Sicherheit

Verknüpft mit der Chiffre der automatisierten Datenanalyse ist die Sorge vor einem Lex Palantir. Die Zivilgesellschaft bemängelt, dass die Gesetze die rechtlichen Voraussetzungen für den Einsatz dieser Software schaffen, was zu einer technologischen Abhängigkeit von einem US-Konzern mit „demokratiefeindlicher Agenda“ führe. Von Notz nennt den potenziellen Einsatz von Palantir „maximal fahrlässig“. Statt die föderalen IT-Systeme der Polizei zu modernisieren, würden Rückstände mit intransparenten Algorithmen übertüncht.

Bürgerrechtler halten die Maßnahmen auch für unvereinbar mit der KI-Verordnung der EU, die biometrische Fernidentifizierung streng reglementiert. Es dürfe nicht sein, dass jedes Selfie im Netz potenziell zum Futter für die Analysesoftware der Sicherheitsbehörden wird. Das Paket, gegen das eine Petition mit bereits über 140.000 Unterschriften läuft, wandert nun in Bundestag und Bundesrat.

(dahe)