Fünf Stunden lang besprachen Fachleute vor dem In­nenausschuss des sächsischen Landtags (Aufzeichnung) eine geplante Verschärfung des sächsischen Polizeigesetzes. In der Sachverständigenanhörung wurde deutlich: Es gibt noch viele Baustellen und Jurist:innen sehen Widersprüche zur KI-Verordnung der EU. Bedenken äußerte auch ein Vertreter der Gewerkschaft der Polizei.

In dem Gesetz geht es unter anderem um Gesichtserkennung für Überwachungskamera-Bilder, Gesichtersuche im Internet und automatisierte Datenanalysen bei der Polizei.

„Weitgehend, aber nicht vollständig gelungen“

Gleich fünf Jurist:innen versuchten dem Ausschuss zu erklären, ob der Gesetzentwurf der sächsi­schen Regierung verfassungswidrig ist oder nicht. Umso mehr dürfte der anwesende Innenminister Armin Schuster (CDU) aufgeatmet haben, dass das überwiegende juristische Votum positiv ausfiel. Allerdings wa­ren nur zwei der fünf Rechtswissenschaftler:innen von der Opposition nominiert worden.

Einer von ihnen war Professor Matthias Bäcker von der Universität Mainz. Bäcker lehrt dort nicht nur Öffentliches Recht und Datenschutzrecht, er erstritt als Anwalt auch den Teil-Sieg gegen das aktuelle Sächsische Polizeivollzugsdienstgesetz (SächsPVDG). Grüne und Linke hatten die 2019 verabschiedete Versi­on des Polizeigesetzes vom sächsischen Verfassungsgerichtshof prüfen lassen und im Jahr 2024 mit ihren Zweifeln teilweise Recht bekommen. Aufgrund dieses Ur­teils laufen in etwa drei Monaten einige Befugnisse der Polizei aus – sofern sie nicht bis dahin eine neue rechtliche Grundlage bekommen.

Bäcker, der von den Grünen als Experte benannt wurde, bescheinigte der sächsischen Regierung, die gerichtlich beanstandeten Regelungen „weitgehend, aber nicht vollständig“ repariert zu haben. So seien etwa die Befugnisse zur hypothetischen Datenneuerhebung nicht klar genug ge­regelt. Hypothetische Datenneuerhebung heißt: Die Polizei darf einmal erhobene Daten (etwa durch eine Funkzellenabfrage) für andere Zwecke neu verwenden. So als hätte sie die Informationen neu erhoben.

Zu den neuen Befugnisse aus dem Gesetzentwurf zog Bäcker ebenfalls ein ambivalentes Fazit: „Alles, was der Entwurf macht, kann man im Prinzip machen. Die Probleme stecken mehr im Detail.“ Der Entwurf könnte aber verfassungsrechtlich „überwiegend halten“.

KI-Verordnung als Stolperstein?

Pessimistischer klang das bei dem von der Linken nominierten Experten, Professor Har­mut Aden. Der stellvertretende Direktor des Forschungsinstituts für Öffentliche und Private Sicher­heit (FÖPS Berlin) weckte Zweifel, ob der Entwurf mit dem Grundgesetz und insbesondere der KI-Verordnung vereinbar sei.

Der Gesetzentwurf sieht etwa Gesichtserkennung vor. Damit dürfte die Polizei unter bestimmten Voraussetzungen Bildmaterial aus Überwachungskameras mit eigenen Datenbanken ab­gleichen, zum Teil auch in Echtzeit. Der Fachbegriff dafür lautet „Biometrische Fernidentifizierung“.

„Bei der biometrischen Fernidentifizierung handelt es sich um eine verbotene Praxis der KI-Verord­nung“, stellte Aden klar. Diese lasse nur wenige Ausnahmen zu, was im Gesetzentwurf nicht gewürdigt werde. „Es ist damit zu rechnen, dass solche Vorschriften einer rechtlichen Überprüfung nicht standhalten“, sagte Aden auch mit Blick auf europäisches Recht.

Kein Vorrat von Internet-Gesichtern anlegen

Aden sieht auch eine geplante Befugnis zur Gesichtersuche im Internet in Konflikt mit der KI-Verordnung. Wolle man den KI-Abgleich, müsse man laut Aden präzise Regelungen schaffen, welche Datenbestände wie herangezogen würden. „Ich lese den Entwurf so, dass man die schon irgendwo bereithält.“ Seines Erachtens sei das nur schwer möglich, „weil man diese Daten dann schon vorher irgendwie haben muss und die kann man ja dann quasi nur ungezielt ausgelesen haben.“

Laut Aden müsse man diese Regelung so umformulieren, dass man in einer Gefahrensituation „die Daten ganz gezielt erst in dem Moment online sucht. Das wäre vermutlich gerade so zulässig.“ Tatsächlich ist fraglich, wie groß die Schlupflöcher der KI-Verordnung sind.

Streit über automatisierte Datenanalyse

Besonderes Augenmerk lag im Ausschuss auf der automatisierten Datenanalyse. Der entsprechende Paragraf soll auch Systeme wie Palantirs Software Gotham ermöglichen, auch wenn der US-Anbieter Palantir – im Unterschied zu Baden-Württemberg, Bayern, Hessen und NRW – in Sachsen nicht zum Zuge kommen soll. Einer der Streitpunkte im Sächsischen Landtag: Wie ein solches Datenanalyse-System beschränkt werden soll.

Laut Matthias Friehe, Professor für Staats- und Verwaltungsrecht an der EBS Universität für Wirtschaft und Recht Oestrich-Winkel, könnte der Gesetzentwurf noch viel weiter gehen. „Der Spielraum, den das BVerfG für verfassungsrechtlich möglich hält, ist nicht voll ausgeschöpft“. Aus Friehes Sicht könnte man Beschränkungen abbauen, also mehr Daten miteinbeziehen oder mehr Polizeibediensteten den Zugriff ermöglichen. Alternativ könnte man Eingriffsschwellen herabsetzen und den Katalog der Straftaten erweitern, zu deren Verhinderung die Datenanalyse beitragen soll.

Zu viele Daten für Palantir-artige Programme

Dieser Position widersprachen andere Jurist:innen. Matthias Bäcker sagte, „der Entwurf er­möglicht eher zu viel Einsatz der Datenanalyse als zu wenig.“ Kristin Pfeffer, Professorin für öf­fentliches Recht an der Hochschule der Polizei Hamburg, kritisierte, dass schon im jetzigen Ent­wurf zu viele Daten miteinander verknüpft werden sollen: „Ich habe Zweifel, dass das verfassungskonform ist.“

Eigentlich ermögliche der Entwurf die Einbeziehung aller verfügbaren Daten, führte Pfeffer aus. Diese Datenmenge würde sogar noch dadurch erweitert, dass etwa Europol künftig mehr Daten teile, zudem könne die sächsische Polizei über Umwege auch Internetdaten in das Analysetool einspeisen. „Die Eingrenzung des Umfangs der Da­ten ist nicht gelungen, es passiert einfach keine Eingrenzung“, resümierte die Juristin, die von der SPD für den Ausschuss nominiert wurde.

Gegen eine Eingrenzung der Daten argumentierte wenig überraschend ein Vertreter der Polizei. Torsten Schmortte vom Bund Deutscher Kriminialbeamter (BdK) sagte dem Ausschuss: „Wenn die Polizei erst dann sinnvoll Information verarbeiten oder zusammenführen darf, wenn deren Bedeutung bereits vollständig feststeht, dann kommt sie zu spät.“ Sicherheit scheitere oft nicht daran, dass Informationen nicht vorliegen, sondern dass sie nicht zusammengeführt werden, behauptete Schmortte. Dabei verwies er auf Terror-Fälle wie den Anschlag am Breitscheidplatz oder den „Nationalsozialistischen Untergrund“ (NSU).

Polizeiliche Daten bergen Diskriminierungsgefahr, sagt ein Polizist

Eine völlig andere Schlussfolgerung aus dem jahrelangen NSU-Versagen der Sicherheitsbehörden zog Professor Aden. Für ihn ist der NSU ein Beispiel für Leerstellen in der polizeilichen Praxis. Die würden sich auch in einer KI niederschlagen, wenn man diese mit den verzerrten Polizeidaten trainiere. Aus seiner Sicht braucht es völlig neu zusammengestellte, synthetische Datensätze für das polizeliche KI-Training – ohne Echtdaten, da sonst „begrenzte Sichtweisen“ der Polizei reproduziert werden.

In diese Warnung stimmte ausgerechnet ein Polizeigewerkschafter mit ein. Manuel Barthelmes, Fachverantwortlicher für Digitalisierung bei der GdP, warnte den Ausschuss vor der „Gefahr der Diskriminierung“ durch KI-Systeme. „Es ist fraglich, ob polizeiliche Daten als Trainingsdaten für ein KI-System überhaupt geeignet sind.“ Bei externen Anbietern seien interne Prozesse oft Betriebsgeheim­nisse, eine genauere Prüfung sei schwer umzusetzen.

Mit wem darf die Polizei Daten teilen?

Der Gesetzesentwurf enthält zudem die Möglichkeit, dass die Polizei für Test und Training von KI-Modellen Daten an Dritte weitergibt. Der vom BSW eingeladene Barthelmes kritisierte hier, dass der Entwurf auch die Weitergabe von Klardaten nicht ausschließt. Sitzen externe Anbieter:innen im Ausland, könne man eine Löschung der Daten nicht überprüfen und entsprechende Vorschriften nicht umsetzen.

Kriminalpolizist Schmortte warnte die Abgeordneten hingegen, externe Partner:innen pauschal aus­zuschließen. Er verwies auf Kooperationen mit dem Fraunhofer-Institut und der Technischen Universität Dresden und bilanzierte: „Wir sind gut aufgestellt, aber wir sind nicht NVIDIA“.

Scheitert der Entwurf an der Realität?

Die Anhörung machte deutlich, dass manche Passagen des Gesetzes die Grundrechte eher auf dem Papier schützen als in der Realität.

So schreibt die geplante Novelle an gleich mehreren Stellen in Bezug auf KI vor: „Die Nachvoll­ziehbarkeit des eingesetzten automatisierten Systems muss sichergestellt sein und es muss ausge­schlossen werden, dass diskriminierende Algorithmen herausgebildet oder verwendet werden.“ Auf eine Frage des Abgeordneten Valentin Lippmann (Grüne), ob die Polizei das wirklich überprüfen könne, antwortete der GdP-Landesvorsitzende Jan Krumlovsky darauf, dass man das nicht im Einzel­fall prüfe, sondern auf beschaffende Institutionen wie das Bundesverwaltungsamt oder LKA vertraue. Professor Bäcker bewer­tete die Vorschrift juristisch als „schon in Ordnung“, sie könne aber dazu führen, dass viele Systeme auf dem Markt nicht verwendet werden können.

Sächsische Polizist:innen argumentieren mit Vertrauen

Abgeordnete, die von den vielen neuen Befugnissen noch nicht so überzeugt sind, versuchten die geladenen Polizeigewerkschafter:innen vor allem mit einem Zauberwort zu gewinnen: „Vertrauen“. DPolG-Landesvorsitzende Cathleen Martin appellierte: „Haben Sie Vertrauen in die Polizei“.

Auch ihr Kollege von der GdP, Jan Krumlovsky sieht Vertrauen als wichtigen Grad­messer, wenn Freiheitsrechte des Einzelnen und Sicherheitsbedürfnisse der Allgemeinheit abgewo­gen werden müssten. „Das größte Vertrauen hat die sächsische Bevölkerung im Vergleich mit anderen demokratischen In­stitutionen in ihre Polizei. Damit steht sie indirekt unterstützend hinter ihren Polizistinnen und Poli­zisten, weil diese verantwortungsbewusst und vertrauensvoll mit den ihnen zur Verfügung gestellten Befugnissen umgehen“, sagte Jan Krumlovsky.

Dass die sächsische Polizei in der jüngeren Vergangenheit eine richterliche Anordnung erfunden und in einem anderen Fall eine genehmigte Demo rechtswidrig gewaltsam geräumt haben soll, kam im Innenausschuss nicht zur Sprache.

BSW: „Es braucht noch einige Verhandlungen“

Ob Vertrauen reicht, um die Oppositionsfraktionen von dem Gesetz zu überzeugen, ist nach der Sit­zung mehr als fraglich. Zu Erinnerung: In Sachsen regiert eine schwarz-rote Minderheitskoalition, ihr fehlen 13 Stimmen zur Mehrheit. Mit der AfD will die Regierung nicht kooperieren.

Der innenpolitische Sprecher des BSW, Bernd Rudolph, zog auf Anfrage von netzpolitik.org ein ge­mischtes Fazit. Teilweise hätten sich Sachverständige widersprochen, teilweise gebe es nun mehr Klarheit. „Wir haben festgestellt, dass wir mit unserer eher zurückhaltenden Position vor allem zu den Punkten Vorfeldstraftat, automatische Datenanalyse und KI-Training richtig liegen. Hier bedarf es sicher noch einiger Verhandlungen, um eine trag- und zustimmungsfähige Fassung zu bekom­men. So, wie das jetzt im Entwurf steht, können wir jedenfalls nicht zustimmen.“

Grüne und Linke beklagen Zeitdruck

Für Rico Gebhardt von der Linksfraktion bleibt vor allem hängen, dass Sachverständige Zweifel an der Verfassungskonformität bestimmter KI-Regelungen äußerten. „Auch aus Praxis-Sicht wird nicht deutlich, wie genau diese Befugnisse später technisch umgesetzt werden können, ohne dass sie in rechtliche Grauzonen kippen, technisch unmachbar sind oder einfach ins Leere laufen. Das kommt raus, wenn man alles auf einmal erreichen will, statt das Polizeirecht maßvoll zu entwickeln, näm­lich am Maßstab der Grund- und Freiheitsrechte“, sagte Gebhardt auf netzpolitik.org-Anfrage.

Valentin Lippmann von den Grünen sieht in dem Entwurf einen „Frontalangriff auf unsere Frei­heit“, der in Teilen nicht mal praxistauglich sei. Es sei deutlich geworden, dass die geplanten Befug­nisse zur KI „deutlich über das Ziel hinaus schießen und den Boden unserer freiheitlichen Verfas­sung verlassen“. Um rechtssichere KI-Regeln zu schaffen, brauche der Landtag Zeit. Diese haben man angesichts der Frist des Verfassungsgerichtshofs und des Agieren des Ministeriums nicht. Lippmann warnt: „Wenn die Minderheitskoalition an ihrem Hauruck-Verfahren festhält, droht dem Freistaat ein weiteres verfassungswidriges Polizeigesetz und der Polizei fehlen weiterhin die Grund­lagen, um auf die modernen Bedrohungen wie Drohnen zu reagieren.“

Diese Verfassungsmäßigkeit gerichtlich zu prüfen, ist mittlerweile nicht mehr so leicht möglich wie noch 2019. Für eine erneute Normenkontrollklage haben Grüne und Linke inzwischen zu wenig Abgeordnete. Das heißt: Es müssten sich vom Gesetz Betroffene finden, die einzelne Befugnisse gerichtlich überprüfen lassen.