Studie: Live-Gesichtserkennung durch Polizei nur rechtswidrig möglich

Darf die deutsche Polizei Datenbanken mit Personenbildern aufbauen, um damit eine Live-Gesichtserkennung etwa bei Videokameraaufnahmen zu ermöglichen? Dieser politische Wunsch einer weitgehend automatisierten Suche nach Gefährdern, Straftätern und polizeilich Gesuchten ist nicht ganz neu. Immerhin enthält der Koalitionsvertrag zwischen CDU, CSU und SPD eine Formulierung, nach der Sicherheitsbehörden „unter Berücksichtigung verfassungsrechtlicher Vorgaben und digitaler Souveränität, die automatisierte Datenrecherche und -analyse sowie den nachträglichen biometrischen Abgleich mit öffentlich zugänglichen Internetdaten, auch mittels Künstlicher Intelligenz“ erlaubt werden soll.

Doch neben sehr viel Science Fiction spielt vor allem eine Frage eine Rolle: Was sind die technischen Voraussetzungen, damit diese Kriterien erfüllt werden könnten? Denn davon hängen die politischen und rechtlichen Antworten maßgeblich ab. Die Organisation Algorithmwatch hat beim Hamburger Informationswissenschaftler Dirk Lewandowski eine Studie in Auftrag gegeben, um die technischen und rechtlichen Grenzen solcher Planspiele auszuloten.

Live-Suche „nur theoretisch möglich“

Lewandowski untersucht verschiedene Ansätze, wie ein Echtzeitabgleich von Gesichtsaufnahmen mit dem öffentlich zugänglichen Internet oder mit gänzlich eigenen Datenbanken technisch organisiert sein kann. Der Wissenschaftler beschreibt unter anderem, wie die in der EU unzulässige, aber bekannte Bildersuchmaschine PimEyes vorgeht: Sie speichert nicht nur die Bilder und ihre Eigenschaften, sondern auch ein Template mit wesentlichen Merkmalen der abgebildeten Person. Das führt zu schnelleren und genaueren Sucheergebnissen. „Die Überlegenheit in der Suche liegt darin, dass die biometrischen Gesichtsmerkmale für die Suche verwendet werden und nicht nur Low-Level-Features wie Formen und Farbverteilungen oder Umgebungstexte“, heißt es in der Studie.

Was aber nicht funktioniert, ist eine reine Livesuche: „Ohne eine Datenbank aufzubauen, kann kein ‚One to many‘-Abgleich durchgeführt werden, sondern nur ein ‚One to One‘-Vergleich.“ Dieser direkte Vergleich zweier Bilddateien müsste dann wiederum massenhaft stattfinden, um die Notwendigkeit einer Datenbank zu umgehen – aus informationswissenschaftlicher Perspektive sei eine „Live-Suche“ im Web daher „nur theoretisch möglich“, meint Lewandowski.

Doch was bedeutet das für die Pläne der Bundesregierung, hier weitere Möglichkeiten zu schaffen? Bei einer gemeinsamen Pressekonferenz am Vormittag in Berlin betonten Vertreter verschiedener Organisationen, die Bundesregierung müsse daraus Konsequenzen ziehen. Die Regierung könne diese technischen Tatsachen nicht ignorieren, meint Algorithmwatch-Geschäftsführer Matthias Spielkamp – und fordert, die Vorbereitungen im Bundeskabinett abzubrechen. „Die angestrebten biometrischen Erkennungsverfahren würden zwangsläufig gegen EU-Recht verstoßen, weil sie ohne den Einsatz von Datenbanken nicht umsetzbar sind.“ Die KI-Verordnung der EU verbiete genau solche Datenbanken.

Tatsächlich enthält die KI-Verordnung zahlreiche Vorschriften für „biometrische Echtzeit-Fernidentifizierung“, verbietet diese jedoch für Strafverfolgungszwecke nicht grundsätzlich. Allerdings verbietet Artikel 5 der Verordnung ausdrücklich „das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern“. Lewandowskis Gutachten dürfte die Debatte darum, ob die Verbotstatbestände und die Erlaubnisausnahmen technisch überhaupt sinnvoll miteinander vereinbar sind, erneut anfeuern.

Der ehemalige Bundesdatenschutzbeauftragte Ulrich Kelber warnt Bundesinnenminister Alexander Dobrindt (CSU) denn auch unverblümt davor, dass die Gesetzgebung wieder vor dem Verfassungsgericht landen dürfte: „Das Bundesinnenministerium hat daraus nicht gelernt und will erneut gesetzliche Regelungen, die erkennbar gegen Vorgaben der Verfassung, des Datenschutzes und der KI-Regulierung verstoßen.“ Kelber hatte bereits während seiner Amtszeit bis 2024 deutliche Kritik an entsprechenden Plänen geäußert.

Simone Ruf von der Gesellschaft für Freiheitsrechte (GFF) sieht wenig Spielraum für den Gesetzgeber: „Aus unserer Perspektive sehr wahrscheinlich, dass der Abgleich mit einer Referenzdatenbank vor dem Verfassungsgericht nicht standhalten.“ Bei einer bereits existierenden, entsprechenden Befugnis beim Bundesamt für Migration und Flüchtlinge würde zudem im Raum stehen, sämtliche Sicherungsmechanismen zu streichen. Risiko und Erfolg stünden in keinem Verhältnis.

Amnesty: Palantir von öffentlichen Aufträgen ausschließen

Körperdaten von Menschen dürften keine freie Verfügungsmasse sein, betonte Matthias Marx vom Chaos Computer Club (CCC). Bereits existierende Anbieter wären aus gutem Grund in der EU illegal. „Egal, wer sie betreibt: Biometrische Massenüberwachung ist rechtswidrig. Die Polizei darf auch nicht auf kriminelle private Gesichter-Suchmaschinen wie Pimeyes oder ClearviewAI ausweichen, schon gar nicht, um sie durch die Hintertür zu legitimieren“, warnt Marx vor der Versuchung, die sich aus dem Fall der früheren RAF-Terroristin Daniela Klette ergeben hätten. Die kommerziellen Dienste müssten von deutschen Datenschutzbehörden mit allen Mitteln des Rechts aktiv bekämpft werden.

Julia Duchrow von Amnesty International warnt vor Missbrauchspotenzialen sowie der einschüchternden Wirkung von KI und biometrischen Abgleichmethoden, die zudem eine erhebliche Diskriminierungsgefahr darstellten. Sie warnt explizit davor, Software des US-Anbieters Palantir einzusetzen und fordert, das Unternehmen von öffentlichen Aufträgen auszuschließen.

Dass die EU im Rahmen derzeitiger Reformbemühungen unter dem Stichwort „Digitaler Omnibus“ möglicherweise auch die entsprechenden Einschränkungen der KI-Verordnung ändern könnte, erwarten die Akteure der Zivilgesellschaft und der ehemalige Bundesdatenschutzbeauftragte derzeit nicht. Damit bleibt das Kabinettsvorhaben von Schwarz-Rot aus Sicht von Matthias Spielkamp sinnlos: „Wenn man keine Datenbank aufbaut, hat man nichts davon, aber eine Datenbank aufbauen darf man nicht.“

(afl)