Vor der Tür des Landtages von Thüringen verteilen Menschen Flyer. Sie haben einen Pavillon und darunter einen Info-Stand aufgebaut und weisen Passant*innen darauf hin, dass im Landtag an diesem Tag, dem vergangenen Donnerstag, ein massiver Ausbau des Polizeiaufgabengesetzes, kurz PAG, besprochen wird. Die Protestbewegung „ThürPAG stoppen“, zu der die Aktivist*innen gehören, ist noch ganz jung, aber bereits hochaktiv. Sie sammelt auch Unterschriften, um die Abgeordneten dazu zu bringen, den Gesetzentwurf abzulehnen, über 3.400 Menschen haben die Petition bereits signiert.

David Sommer, der „ThürPAG stoppen“ mit gegründet hat, sagt: „Auf den Veranstaltungen, die wir in den letzten Monaten durchgeführt haben, stellen wir immer wieder fest: Viele Menschen wollen keinen schleichenden Ausbau staatlicher Überwachung und machen sich große Sorgen.“

Alexis Wagenfeld, Mitinitiatorin der Protestbewegung, fürchtet, dass die neuen High-Tech-Überwachungswerkzeuge in die Hände einer rechtsextremen Regierung fallen könnten. „Deshalb brauchen wir rechtsstaatliche Zurückhaltung statt immer neuer Eingriffsbefugnisse“, sagt sie. Sommer und Wagenfeld sind allerdings durchaus optimistisch, dass sich der Entwurf noch aufhalten oder zumindest entschärfen lässt.

Datenanalyse, Verhaltensscanner, Gesichtersuchmaschine und vieles mehr

Das geplante Gesetz soll verschiedene Überwachungsmaßnahmen erlauben: Eine Meta-Datenbank mit KI-Analyse nach Palantir-Art, Videoüberwachung mit automatisierter Verhaltenskontrolle, das automatisierte Tracking von Personen im Kameranetzwerk, die Suche nach biometrischen Daten im Internet, Kennzeichenscanner, Videodrohnen und elektronische Fußfesseln. Doch zur Verabschiedung des Gesetzes ist die Minderheitsregierung, eine Koalition aus CDU, SPD und BSW, auf Stimmen aus der Opposition angewiesen. Die besteht im Landtag nur aus der Linken und der AfD.

Die Linke hat ebenfalls substanzielle Kritik an den geplanten KI-Überwachungsmaßnahmen und hält den Entwurf in der aktuellen Form für nicht zustimmungsfähig. Laut einer Pressemitteilung, die sie vor der Ausschusssitzung herausgegeben hat, will sie gegen das Gesetz klagen, sollte es in dieser Form verabschiedet werden. Es sei „sehr wahrscheinlich verfassungswidrig“. Ronald Hande, innenpolitischer Sprecher der Fraktion Die Linke im Thüringer Landtag sagt: „Das hier vorgelegte Polizeigesetz schafft eine verfassungsrechtlich hochriskante Überwachungsarchitektur.“ Die Landesregierung greife damit nach Werkzeugen, „die auch in autoritären und demokratiefeindlichen Regimen Anwendung finden, um die eigene Bevölkerung zu überwachen.“

Zahlreiche Expert*innen hatten den Gesetzentwurf in schriftlichen Stellungnahmen massiv kritisiert. Auch bei der mündlichen Sachverständigen-Anhörung, die im Landtag läuft, während die Aktivist*innen vor der Tür protestieren, werden elementare Bedenken formuliert.

„Eine ganz neue Dimension“

Im ersten Block spricht der Landesdatenschutzbeauftragte Tino Melzer. Er hält die automatische Auswertung von Videostreams für eine „ganz neue Dimension“ der Polizeiarbeit. Er sieht eine Intensivierung des Grundrechtseingriffs für eine Vielzahl von Personen, die keinen Anlass dazu geben.

Melzer verweist auf die Fehleranfälligkeit der Systeme. „Eine Umarmung kann als ein Schlag gedeutet werden.“ So könnten unbescholtene Personen von weitergehenden Maßnahmen beeinträchtigt werden. Besonders problematisch an der Videoanalyse sei, dass sie unbemerkt erfolgt. Die Betroffenen könnten sich somit nicht dagegen wehren.

Nach dem Gesetzentwurf sollen – wenn die automatisierte Verhaltenskontrolle Alarm schlägt, Menschen auch automatisch über ein Kameranetzwerk hinweg verfolgt werden. Zuvor allerdings soll ein Mensch die mutmaßliche Risikosituation begutachten. Melzer kritisiert, dass dieser Zwischenschritt in unübersichtlichen Lagen regelmäßig ausfallen könnte.

Landesdatenschutzbeauftragter fordert ersatzlose Streichung der Video-KI

Betrachtet man dazu die Möglichkeit, die Videoanalyse auch auf den Bildern von Drohnen laufen zu lassen, „bekommen sie eine Vollbebilderung des Freistaats“, sagt Melzer. Er spricht sich für eine ersatzlose Streichung der Video-KI-Regelung aus.

Auch in der elektronischen Fußfessel, die mit dem Entwurf auch für nicht näher spezifizierte „Gefährder“ eingeführt werden soll, sieht Melzer einen schwerwiegenden Eingriff in informationelle Selbstbestimmung. Er moniert, dass es noch keine wissenschaftlichen Erkenntnisse zur Wirksamkeit gäbe, diese aber Teil der Begründung sein müssten.

Bei der automatisierten Datenanalyse verweist der Datenschutzbeauftragte auf das Urteil des Bundesverfassungsgerichts zu derartigen Systemen in Hessen und Hamburg. Das erlegt der Technologie enge Grenzen auf. Melzer zufolge entsprechen die Formulierungen im thüringischen Gesetz den diesbezüglichen Vorgaben nicht.

Erfahrungswerte fehlen weltweit

„Das geht ja in Richtung Vorratsdatenspeicherung: Haben, haben, haben – und dann schauen was passiert“, sagt Melzer. Er fordert die Pflicht zur Evaluierung der Befugnis. „Erfahrungswerte fehlen uns als Gesellschaft, auch weltweit. Das fährt hoch, das fährt an, aus der Warte müsste man dringend evaluieren“, sagt er. Zudem sieht er einen Richtervorbehalt vor dem Einsatz für erforderlich.

Die Internetsuche nach biometrischen Daten bestimmter Person birgt laut Melzer die Gefahr, dass sich Menschen aus der öffentlichen Kommunikation zurückziehen. Aufgrund der Vielzahl der Bilder, die sich von vielen Menschen im Netz finden lassen, sei damit die Bildung umfassender Profile möglich. Und auch hier könnten „aufgrund von Fehlern, Menschen irrtümlich von weiteren polizeilichen Handlungen in Anspruch genommen werden.“ Kritisch sei zudem, dass der Entwurf mit der KI-Verordnung der EU kollidiert, wenn dafür Daten ungezielt aus dem Netz ausgelesen werden. Melzer spricht sich dafür aus, auch diesen Paragrafen ersatzlos zu streichen.

Mandy Koch, Landesvorsitzende der Gewerkschaft der Polizei (GdP), fürchtet, dass mit dem neuen Polizeigesetz eine präventive Überwachung von Versammlungen möglich wird. Die Stellungnahme der GdP umfasst weitere Kritik. Diese ist für eine Polizeigewerkschaft so ungewöhnlich deutlich, dass wir ihr einen eigenen Beitrag gewidmet haben.

„Die Grundrechtsintensität wird teils überhaupt nicht eruiert“

Felix Ruppert, Jurist von der Uni München, beschreibt den Entwurf als eine beispiellose Sammlung an Maßnahmen zur Datensammlung und ‑analyse. Er sieht erheblichen Überarbeitungsbedarf, „ansonsten droht Verfassungswidrigkeit weiter Teile des Gesetzentwurfs.“ Die Verhältnismäßigkeitsprüfung komme zu kurz, Geeignetheit, Erforderlichkeit und Angemessenheit seien nicht hinreichend geklärt. Ruppert sagt: „Die Grundrechtsintensität wird teils überhaupt nicht eruiert.“

Die Erforderlichkeit werde in einigen Fällen einfach unterstellt. „Das ist dann befremdlich wenn es sich gegen eigene ministeriale Erkenntnisse richtet, wie zum Beispiel bei Videoüberwachung im öffentlichen Raum. Wenn man 2020 noch davon ausgeht, dass diese überhaupt nicht geeignet sei, die Sicherheit zu verstärken, wirft das schon Fragen auf, wenn jetzt die Erforderlichkeit einfach thesenartig unterstellt wird“, sagt er.

Problematisch sei auch die Loslösung von der Voraussetzung einer konkreten Gefahr in weiten Teilen der Maßnahmen. Klare Eingriffsvoraussetzungen würden fehlen, die Eingriffsschwellen seien vielfach niedrig oder gar nicht vorhanden, der Einsatz der Software sei weitgehend unbegrenzt. Damit beschreite der Entwurf den „Weg in Richtung eines präventiven Sicherheitsrechts.“ Dorothea Marx von der SPD, Teil der angeschossenen Regierungskoalition, nennt Rupperts Rede danach „Salve eines Vernichtungsfeuerwerks“.

„Die Streubreite wird enorm sein

Constanze Kurz, die ein Teil der Redaktion von netzpolitik.org ist und für den Chaos Computer Club im Innenausschuss spricht, referiert eine Technikfolgenabschätzung ausgewählter Befugnisse. Bezüglich der automatisierten Datenanalyse gibt sie zu Protokoll, dass dafür eine dauerhafte Zusammenführung heterogener Daten unvermeidlich sei. „Egal wie man es ausgestaltet: Die Streubreite wird enorm sein.“ Wenn schon Datenanalyse, dann empfiehlt sie eher eine deterministische und damit auch nachvollziehbare Software. „Man braucht keine KI, um Querverbindungen zu finden“, sagt sie. Grundsätzlich fragt sie sich angesichts des Entwurfs „ob man immer an die äußerste verfassungsrechtliche Grenze gehen muss.“

Die Internetsuche nach biometrischen Daten von bestimmten Personen sieht Kurz ebenfalls kritisch. Die Streubreite sei auch dabei enorm und es seien Körperdaten betroffen, „die man nicht wechseln kann und die besonders geschützt sind.“ Zudem sieht sie keine legale Möglichkeit, diese Befugnis anzuwenden. „Es ist unmöglich, solche Abgleiche zu machen, wenn man nicht vorher eine Datenbank bildet“, sagt sie. Man müsse die Daten vereinheitlichen, um sie durchsuchbar zu machen. Das Anlegen einer Datenbank stünde aber, wie schon der Landesdatenschutzbeauftragte konstatierte, im klaren Widerspruch zur KI-Verordnung.

Auch die Videoüberwachung mit angeschlossener Verhaltenskontrolle kommt bei Kurz nicht gut weg. „Es gibt in Deutschland kein einziges Projekt, das gezeigt hätte, dass das funktioniert“, sagt sie. Ihre größte Besorgnis dabei ist, „dass durch permanente Videoüberwachung und Auswertung eine Normalisierung von Dauerbeobachtung stattfindet.“

„Gefährlich ist, was nach einem Fehler passiert“

padeluun vom Verein Digitalcourage sagt zu der algorithmisch analysierten Videoüberwachung: „Gefährlich ist, was nach einem Fehler passiert. Ein falscher Treffer kann eine Kontrolle, eine Durchsuchung oder eine ziemlich unangenehme Begegnung mit bewaffneten Beamt*innen bedeuten.“ Die Befugnis ermögliche eine Infrastruktur automatisierter Kontrolle. Dabei verhindere Videoüberwachung keine Straftaten. „Das einzige, das man damit machen kann, ist Wahlkampf“, sagt er.

Die geplante Fotofahndung im Internet bringe eine elementare Veränderung: „Menschen konnten bislang öffentlich sichtbar sein, ohne deshalb jederzeit maschinell identifizierbar zu sein“, sagt er.

An der automatisierten Datenanalyse stört ihn vor allem, dass auch Daten von Zeug*innen und Opfern darin einbezogen sind. Wenn man diverse Datenbestände mit einem Mausklick verbinden könne, verändere sich zudem die Qualität staatlicher Macht. „Einer Überwachungsinfrastruktur können sie keinen demokratischen Charakter geben“, sagt er. Was heute als eng begrenzte Ausnahme eingeführt werde, sei morgen schon vorhandene Technik. Die zentrale Frage müsse sein: „Würden wir dieses Instrument einer Regierung an die Hand geben, der wir überhaupt nicht vertrauen?“

Der Verein Digitalcourage empfehle, die drei Paragrafen komplett zu streichen. „Polizisten sollen Ermittler sein, keine Überwacher“, sagt padeluun.

Potenziell jede*r betroffen

Kilian Vieht-Ditlmann von der gemeinnützigen Organisation AlgorithmWatch sagt zur biometrischen Internetsuche: „Stellen sie sich vor, Sie posten ein Bild von der Hochzeit ihrer Schwester, einem Kindergeburtstag oder einer Chorprobe – dann soll die Polizei daraus biometrische Daten extrahieren und in einer Datenbank ablegen können.“ Von dem Eingriff seien nicht nur Verdächtige betroffen, „sondern potenziell jeder von uns“. Zudem seien womöglich sensible Kontexte betroffen, Bilder von Demos, aus Gay-Bars oder Gottesdiensten zum Beispiel. Er verweist auch darauf, dass die Technologie in anderen Ländern genutzt wird, um auf Demonstrationen Regime-Gegner*innen zu identifizieren.

Vieth-Ditlmann sagt, er habe mal eine kommerzielle Gesichtersuchmaschine ausprobiert und sei erstaunt gewesen, dass diese auch Bilder fand, die er gar nicht auf dem Schirm hatte. Zudem seien auch Bilder anderer Menschen in der Ergebnisliste gewesen. Derartige Fehlidentifikation könne im polizeilichen Kontext den Betroffenen deutliche Nachteile bringen.

Bei der Videoüberwachung, die automatisch verdächtiges Verhalten markiert, sieht Vieth-Ditlmann ein großes Problem in der Umsetzbarkeit: „Polizistinnen müssen eine Flut von Fehlalarmen manuell prüfen.“ Die Befugnis solle zwar nur an sogenannten gefährlichen Orten eingesetzt werden, „aber die werden von Beamt*innen teils flexibel festgelegt, das ist keine feste Grenze, sondern eher so ein Gummiband.“

Die Möglichkeit, sich frei und unbeobachtet im öffentlichen Raum zu bewegen, sei keine Nebensache, sondern „Grundvoraussetzung, dass Demokratie überhaupt funktioniert“, sagt Vieth-Ditlmann. Die beiden genannten Befugnisse sollten deshalb aus der Sicht von AlgorithmWatch komplett gestrichen werden. „Wir bitten Sie darum, diesen Weg gar nicht erst einzuschlagen“, sagt er.

„Das Sicherheitsgefühl ist kein polizeiliches Schutzgut“

Alexis Wagenfeld und David Sommer, die eben noch vor der Tür protestierten, sind jetzt im Landtag und sprechen dort für das „Auf die Plätze“-Bündnis, das sich rechtsextremen Raumnahmen entgegenstellt.

Wagenfeld verweist zunächst auf die Polizeistatistiken, die in Thüringen einen kontinuierlichen Rückgang erfasster Straftaten zeigen. Es ginge bei der Einführung der neuen Befugnisse also nicht um tatsächliche Sicherheit, sondern um ein Sicherheitsgefühl. Sie sagt: “Das Sicherheitsgefühl der Bevölkerung ist kein polizeiliches Schutzgut.“

Sommer erklärt, dass polizeiliche Daten die Kontrollpraxis der Polizei widerspiegeln, die überdurchschnittlich oft zu Lasten von armen und migrantisierten Menschen gehe. „Aus diesen verzerrten Trainingsdaten ergibt sich ein hohes Diskriminierungspotential“, sagt er. Daraus ergebe sich eine selbsterfüllende Prophezeiung – die Vorverurteilung führe zu verstärkten Kontrollen, die wiederum die Vorverurteilung bestätigen.

Der Grundrechtseingriff wird zum Mausklick

Wagenfeld fügt hinzu: „Der Entwurf treibt eine schleichende Normalisierung autoritärer Werkzeuge und entgrenzter Polizeiarbeit voran.“ Auch wenn Technologien wie die automatisierte Datenanalyse, die elektronische Fußfessel oder der biometrische Abgleich noch über gewisse Eingriffsschwellen verfügen, werde die Polizei an den Einsatz der Technologien gewöhnt. „Was in der Theorie ein schwerer Grundrechtseingriff ist, wird in der Polizeiarbeit schnell zur Routine, zum Mausklick“, sagt sie.

Sie nehme wahr, dass Grundrechte oftmals als Hindernis auf dem Weg zu mehr Sicherheit betrachtet würden. Das verkenne ihre Rolle für eine Demokratie in fundamentaler Weise. „Grundrechte sind Abwehrrechte gerade gegen den – auch liberalen – Staat, und stellen herausragende historische wie gesellschaftliche Errungenschaften dar.“

In Demokratien solle die Exekutive der Bevölkerung ein hohes Maß an Vertrauen entgegenbringen. Der aktuelle Gesetzesentwurf stelle jedoch zahlreiche Menschen unter Generalverdacht, und entfalte an vielen Stellen eine hohe abschreckende Wirkung auf die Ausübung von Grundrechten. „Wir lehnen ihn deshalb in weiten Teilen ab“, sagt sie.