Heute wird das niedersächsische Polizeigesetz im Innenausschuss des Landtages diskutiert. Der Entwurf soll zahlreiche hochinvasive KI-gestützte Überwachungsinstrumente erlauben, unter anderem Datenanalyse nach Palantir-Art, die Suche nach biometrischen Daten im Internet sowie Videoüberwachung mit automatisierter Verhaltenskontrolle und Echtzeit-Gesichtserkennung – möglich auch von Videodrohnen aus.

Die Verhaltenserkennung dürfte sogar bei Mustern Alarm schlagen, die auf den „Eintritt eines Unglücksfalles“ hinweisen. Die entsprechende Erfassung von liegenden Personen kann zur Diskriminierung von Obdachlosen genutzt werden.

Keine Opposition zur Überwachung im Landtag

Außer den Regierungsparteien SPD und Grüne sind im Landtag nur CDU und AfD vertreten. Deren Kritik an dem Entwurf besagt vor allem, dass dieser nicht weit genug gehe. Die CDU hat Gegen-Gesetzentwürfe eingebracht, die beispielsweise die Einsatzschwelle für die Live-Gesichtserkennung deutlich niedriger ansetzen – diese soll schon zur Verhinderung von Straftaten möglich sein, nicht erst bei einer „gegenwärtigen Gefahr für Leib oder Leben einer Person“. Auch die AfD begrüßt die neuen Befugnisse, fordert allerdings, für die Datenanalyse den Anbieter Palantir zu nutzen, der für seinen Beitrag zu Menschenrechtsverletzungen bekannt ist. Rot-Grün schließt diesen aktuell aus.

Im Landtag finden sich also keine Stimmen, die den massiven Ausbau der Überwachungsbefugnisse hinterfragen. Doch nun bildet sich Gegenwehr aus der Zivilgesellschaft. Das überwachungskritische Bündnis NoNPOG2 wurde erst vor kurzem ins Leben gerufen – das Gründungstreffen fand am 9. August statt – doch die Initiative vereint bereits eine ganze Reihe von Gruppen aus verschiedenen gesellschaftlichen Bereichen.

Hacker*innen, Klimakids und Fußballfans

Im dem Bündnis finden sich neben IT-affinen Menschen zum Beispiel aus dem CCC Hannover, dem kleindatenverein, von Anarch-IT, einem Tech-Support für Aktivist*innen, den Hackspaces Chaostreff Osnabrück und Stratum 0 oder der Gruppe freiheitsfoo, auch andere gesellschaftliche Gruppe. Si etwa Fußballfans aus der Blau-Gelben Hilfe, die andere Fußballfans bei Problemen mit Polizei und Justiz unterstützen.

Daneben haben sich auch einige Partei-Gliederungen dem Bündnis angeschlossen: Die PARTEI Niedersachsen und Die Linke und Jusos aus Braunschweig. Außerdem gibt es im Bündnis die grenzkritischen Gruppierungen Flüchtlingsrat Niedersachsen und Seebrücke Braunschweig, das Team des Universum Filmtheater, die jungen Klimaaktivist*innen der Hildesheimer Ortsgruppe von Fridays for Future, sowie die Rote Hilfe Hannover, die linken und linksextremen Menschen Rechtshilfe anbietet. Weiterer juristischer Sachverstand kommt von der Antirepressionsgruppe Lüneburg und dem Anwalt Sven Adam. Die Aktivist*innen betonen, dass sie für weitere Gruppen und Einzelpersonen aus einem breiten gesellschaftlichen Spektrum offenstehen.

Der Widerstand gegen Überwachungsmaßnahmen hat in Niedersachsen bereits Tradition. Die vorhergehende Verschärfung des Polizeigesetzes von 2019, die unter anderem Kennzeichenscanner einführte und Videoüberwachung vereinfachte, wurde von einem Bündnis unter dem Akronym NoNPOG (kurz für: Nein zum niedersächsischen Polizeigesetz) mit einer Reihe von Demonstrationen begleitet. Einige der heute beteiligten Menschen waren auch 2019 schon dabei.

„Wie viele Leute das scheiße finden“

Laura und Sebastian waren damals noch nicht gegen Überwachung aktiv. Heute sind sie Teil des Widerstands. Sebastian sagt, er finde es erschreckend, dass es im Landtag keinen Widerspruch gegen die aktuell geplanten Überwachungsmaßnahmen gibt. „Die, von denen man erwarten würde, dass sie verstehen, wie problematisch die Befugnisse sind, planen deren Einführung und dahinter sitzt eine Opposition, die noch weitergehenden Druck macht“, fasst er die Lage zusammen. Deshalb müsse die Opposition von außen kommen.

Laura hofft darauf, dass sich zumindest die Grünen vom zivilgesellschaftlichen Widerstand beeindrucken lassen. „Wenn die mitbekommen, wie viele Leute das scheiße finden, dann werden die zurückrudern“, sagt sie.

Von der ersten eigenen Demonstration sind Laura, Sebastian und ihr Bündnis aktuell noch ein Stück entfernt. Sie fokussieren sich aktuell darauf, Informationsmaterialien zu den geplanten Überwachungsmaßnahmen zusammenzustellen und in verschiedenen Lokalitäten Vorträge dazu zu halten.

Laura stört vor allem die Befangenheit der Algorithmen, die bei der Überwachung zum Einsatz kommen sollen. „Da ist immer eine Tendenz mit drin und das lässt sich auch nicht abschalten. Das ist mein größtes Bedenken“, sagt sie. So sei beispielsweise schon die Datenlage der Polizei, mit der die Software arbeitet, rassistisch gefärbt. Und auch die Trainingsdaten der sogenannten KI seien, weil von Menschen zusammengestellt, nie neutral.

Sebastian sagt, dass die Algorithmen diskriminierend wirken können, sei der Landesregierung offensichtlich bewusst. Laut Gesetzentwurf soll die Polizei nämlich verhindern, dass diskriminierende Algorithmen verwendet werden. Wie das möglich sein soll, lässt sie allerdings offen.

Magisches Denken

Laura und Sebastian haben sich das geplante Polizeigesetz gründlich angesehen und an weiteren Positionen Hinweise darauf gefunden, dass die Landesregierung durchaus auf dem Schirm hat, wie problematisch der Entwurf ist. So habe diese beispielsweise eine Umgehungslösung im Text verankert, der verhindern soll, dass mit der Datenanalyse nach Palantir-Art – und der dafür nötigen Meta-Datenbank – die Zweckbindung der erhobenen Daten verloren geht. Damit würden Zusammenlegung der Daten und die algorithmische Analyse in zwei Schritte aufgeteilt. „Und dann soll das auf zauberhafte Weise kein Problem mehr sein“, sagt Sebastian.

Auch das die Entscheidungen von KI grundsätzlich erst einmal nicht nachvollziehbar sind, sei der Landesregierung bewusst. Im Entwurf schreibt diese, dass die Nachvollziehbarkeit sichergestellt werden müsse – soweit das technisch möglich sei. „Da gibt es also ein Problembewusstsein, aber gleichzeitig auch den Versuch, das mit magischem Denken zu lösen“, sagt Sebastian.

Er kritisiert auch die geplante Videoüberwachung mit automatisierter Verhaltenskontrolle. „Das Gruseligste ist, dass die behaupten, dass das ein weniger starker Privatsphäreneingriff sei, als wenn Menschen die Videos schauen. Das finde ich so ein perfides Argument. Weil wenn man durchgehend unter Beobachtung eines Algorithmus steht, ist das, was Chilling-Effekte angeht, viel drastischer, als wenn da ab und zu mal ein Mensch draufschaut.“

Deutlich stärkerer Grundrechtseingriff

Verfechter*innen der Technologie behaupten, mit dem System sei es möglich, die Privatsphäre der Betroffenen zu schützen. Wissenschaftler wie Edzard Schmidt-Jortzig, Professor für öffentliches Recht an der Uni Kiel, oder Felix Ruppert, der an der Uni München unter anderem Strafrecht lehrt, stützen hingegen die Annahme, dass die automatisierte Videoüberwachung ein deutlich stärkerer Grundrechtseingriff ist als die herkömmliche.

Sebastian vom Bündnis NoNPOG2 fürchtet zudem, dass mit der automatisierten Kontrolle die Hürden sinken, die Videoüberwachung weiter auszudehnen. Denn diese soll ja ungewöhnliches Verhalten detektieren, ohne dass ständig Menschen auf die Bildschirme schauen müssen. „Ich finde es wahnsinnig gruselig, wenn Algorithmen definieren, was normal ist – und Menschen dann Angst haben müssen, in irgendeiner Form von der Norm abweichend aufzufallen“, sagt Sebastian.

Ebenfalls besorgniserregend ist für Sebastian die Erlaubnis, auf Livestreams von Überwachungskameras, oder auch retrograd anhand von Bildern aus dem Internet, Gesichtserkennungstechnologie einzusetzen. Denn das sorge für präventiven Gehorsam. „Ich möchte nicht in einer Demo überlegen müssen, ob ich mein Gesicht zeige oder mir immer, wenn jemand ein Smartphone zückt, überlegen, wo das Bild landet. Das vergiftet alles, wenn solche Aufnahmen Teil von Ermittlungen sein können. Und es unterdrückt politische Äußerungen in der Öffentlichkeit“, sagt er.

Angesichts der Tatsache, dass die Polizei künftig auch Videodrohnen einsetzen soll, verschärfe sich die Bedrohungslage. „Damit ist eine massive Ausweitung des Videoüberwachten Bereichs möglich“, sagt Sebastian.

„Da wird’s mir ganz grausig“

Laura gibt zudem das Missbrauchspotenzial der Befugnisse zu bedenken. „Viele Frauen wurden bereits von Polizisten gestalkt. Die haben zum Beispiel ihre Telefonnummern aus Polizei-Akten rausgesucht.“ Und mit den neuen Machtmitteln stünden noch viel drastischere Eingriffe in die informationelle Selbstbestimmung zur Verfügung. „Da wird’s mir ganz grausig, wenn ich daran denke, was damit möglich ist“, sagt sie.

Harte Kritik kommt auch vom Landesbeauftragten für den Datenschutz Niedersachsen (LfD) Denis Lehmkemper. Eine Woche vor der Diskussion im Innenausschuss hat die ihm unterstellte Datenschutzaufsicht ihren Jahresbericht veröffentlicht. Die Stellungnahme zum Polizeigesetz, die Lehmkemper im Rahmen der Verbandsanhörung abgegeben hatte, hat er nicht veröffentlicht, doch mit dem Jahresbericht machte er nun eine Zusammenfassung seiner Kritik publik.

In seiner Stellungnahme habe er gefordert, so der LfD im Jahresbericht, die „intelligente“ Videoüberwachung besser zu rechtfertigen. Und bei der Echtzeit-Fernidentifizierung habe er einen engeren Anwendungsbereich angemahnt, „insbesondere mit Blick auf die Vielzahl der von der Maßnahme betroffenen Personen“. Zur Internet-Suche nach biometrischen Informationen habe er bekanntgegeben, dass diese womöglich mit der KI-Verordnung der EU kollidiert.

Hinweise zur technischen Umsetzung, die erklären könnten, wie diese Kollision vermieden werden soll, vermisst Lehmkemper im Entwurf. „Diese sind allerdings entscheidend, da sich die Maßnahmen auf der Grenze zwischen Hochrisiko-KI-Systemen und in der KI-Verordnung geregelten Verboten von KI-Praktiken bewegen“, schreibt der LfD. Bei der Datenanalyse nach Palantir-Art seien die Datenbestände, die für den automatisierten Abgleich herangezogen werden sollen, „zu ungenau definiert und damit zu unbestimmt und zu weitreichend.“ Die „schwerwiegende Kritik“ aus seiner Stellungnahme sei allerdings weitestgehend unberücksichtigt geblieben.

Der Datenschutzbeauftragte sieht in der Datenanalyse nach Palantir-Art einen „Paradigmenwechsel in der Polizeiarbeit“. Sie setze voraus, dass alle bisher vorgangsbezogen gespeicherten Daten der Polizei auf einer Analyseplattform zusammengeführt werden. „Damit würde die Zweckbindung aufgehoben.“ Verfassungsrechtlich höchst problematisch sei auch die Einbeziehung von Telekommunikationsdaten, damit wären auch die Inhalte von Gesprächen umfasst.