39C3: Vom interessanten Rechtsverständnis des „Wurstkönigs“ bei Palantir & mehr

Beim Einsatz automatisierter Datenanalyse durch die Polizei geraten nach Einschätzung der Gesellschaft für Freiheitsrechte (GFF) zunehmend unbeteiligte Menschen ins Visier der Sicherheitsbehörden. „In Polizeidatenbanken landen Menschen ganz schön schnell“, sagte Franziska Görlitz von der GFF. Darunter auch Whistleblower und Zeigen. Würden diese Daten zusammengeführt und analysiert, könnten „Menschen allein durch so ein Tool ins Visier rutschen“.

Besonders problematisch seien komplexe Analyse-Systeme wie Palantir Gotham. „Das ist keine Datenabgleich-Möglichkeit, sondern da geht es wirklich um extrem komplexe Predicted-Policing- beziehungsweise Voraussage- und Analysesysteme“, so Görlitz. Die Nachvollziehbarkeit der Ergebnisse gehe dabei verloren: „Dann stellt sich am Ende die Frage: Ist der Computer jetzt zu dem Ergebnis gekommen, dass da eine Verbindung besteht oder dass die Person gefährlich sein könnte?“

Bayern als Türöffner

Kritisch hervorgehoben wurde in diesem Zusammenhang primär Bayern. Dort habe die Staatsregierung unter Ministerpräsident Markus Söder eine Vorreiterrolle beim Einsatz von Palantir eingenommen und früh Fakten geschaffen – inklusive Tests mit Echtdaten, noch bevor eine tragfähige Rechtsgrundlage bestand. Kurz sprach dabei von einem „interessanten Rechtsverständnis“ des „Wurstkönigs“ – gemeint ist der bayerische Ministerpräsident Markus Söder. Bayern habe damit eine Tür geöffnet, über die auch andere Bundesländer leichter einsteigen könnten, etwa über Rahmenverträge, ohne eigene Ausschreibungen durchführen zu müssen.

Die haben wirklich monatelang Echtdaten von richtigen Menschen aus Bayern und weiteren Bundesländern. In vielen Polizei-internen Datenbanken lande man auch, wenn man mit dem Bundesland nicht viel zu tun habe. Nichtmal der Bayerische Datenschutzbeauftragte Thomas Petri sei informiert worden. Er habe erst aus der Presse darüber erfahren.

Je tiefgreifender die Analyse, desto strenger die Voraussetzungen

Das Bundesverfassungsgericht habe 2023 zwar klargestellt, dass automatisierte Datenanalysen grundsätzlich möglich seien, zugleich aber strenge Maßstäbe gesetzt. „Je weitergehend die Analyse, desto strenger müssen die Voraussetzungen sein“, betonte Görlitz. In Hessen, Nordrhein-Westfalen und Bayern seien diese Vorgaben aus Sicht der GFF weiterhin nicht eingehalten, weshalb mehrere Verfassungsbeschwerden anhängig sind.

Kritik gibt es zudem an der wachsenden Abhängigkeit von privaten Anbietern. „Wenn man sich abhängig macht von Software-Tools von anderen Staaten oder von privaten Unternehmen, dann droht, dass man die dann halt auch braucht für die eigene Arbeit“, warnte Görlitz. Übergangslösungen würden schnell zur Dauerlösung: „Wenn man das Tool erst mal hat und dafür wahnsinnig viel Geld ausgibt, wie viel Anreiz besteht dann, sich um eine Eigenentwicklung zu kümmern?“ Preise könnten aufgrund der Abhängigkeiten ebenfalls schnell angehoben werden.

Aus Sicht der GFF unterschätzt die Politik die Tragweite massiv. „Massenhafte Datenanalysen gerade durch künstliche Intelligenz sind fehlerbehaftet und führen zu diskriminierenden Ergebnissen – sie sind deswegen eine große Gefahr für die Grundrechte.“

Abschließend verwies Kurz auf eine Recherche des Schweizer Magazins Republik, die detailliert zeigte, wie Palantir sich „über Jahre an die Behörden herangewanzt hat“ und welche technologischen, geopolitischen, juristischen und ethischen Risiken damit verbunden sind. Besonders hervorgehoben wurde ein öffentlich zugänglicher Bericht der Schweizer Armee, dessen Gutachter ausdrücklich empfehlen, „auf Lösungen des Unternehmens Palantir zu verzichten“.

Palantir fühlt sich missverstanden

Bemerkenswert sei zudem Palantirs Reaktion: Erstmals habe der Konzern in einem Blogbleitrag auf die Kritik reagiert, sich als „missverstanden“ dargestellt und ausgewählten Akteuren Gespräche angeboten – „mit NDA“, wie Konstanze betonte. Gleichzeitig habe Palantir sich im Sommer auch aktiv an Landes- und Bundesinnenministerien gewandt, um erneut für seine Produkte zu werben. Für Konstanze zeigt das: Die öffentliche Debatte wirkt – und zwingt den Konzern zumindest punktuell aus seiner bisherigen Kommunikationsverweigerung heraus.

(mack)