Was ist der Stand der automatisierten Verhaltensanalyse in Berlin?

Hier wird die Technologie zunächst mit etwa 30 Kameras am Kottbusser Tor genutzt. Die Kalibrierungsphase, in der Kamerawinkel und Abdeckungsbereiche eingerichtet wurden, ist abgeschlossen. Seit 6. Oktober laufen Kameras und Software immer mal wieder im Testbetrieb. Ein rotes Licht an den Kamera-Sträußen zeigt an, wenn aufgezeichnet wird.

Wie geht es weiter?

Nach dem Test- folgt der „Probeechtbetrieb“, in dem das System 24 Stunden am Tag aufzeichnet und analysiert. Auf die Frage, wann dieser beginnt, hat die Polizei nicht geantwortet. Er endet vermutlich 2028. Für dann haben die potenziellen Koalitionäre Berlins (Linke, Grüne, SPD) eine Evaluation der Videoüberwachung verabredet, „unter Einbeziehung der Polizei“, so das Sondierungspapier.

Demnach rechnen sie anscheinend damit, dass 2028 in Berlin noch KI-gestützte Videoüberwachung des öffentlichen Raums stattfindet. Konkret sei über die Zukunft der KI-Kameras noch nicht gesprochen worden, heißt es von Verhandler*innen. Diese seien ein Thema für die Koalitionsverhandlungen, die Anfang November beginnen sollen. Die SPD, die sie mit eingeführt hat, wird sie verteidigen, die Linken wollen sie zurückbauen lassen, die Grünen halten ihre Position noch bedeckt.

Wie funktioniert die automatisierte Verhaltensanalyse?

Sie analysiert permament, was videoüberwachte Personen gerade tun. Software legt dafür eine Art Strichmännchen über die abgebildeten Menschen – sie beschreibt ihre Posen und Bewegungen mit Vektoren in einem mathematischen Raum. Dann vergleicht sie das Ergebnis mit ihren Trainingsdaten. Zudem betrachtet sie das gesamte Videobild und versucht den Kontext der Bewegung einzuschätzen. Wenn sie feststellt, dass etwas mit hinreichend großer Wahrscheinlichkeit polizeilich relevant aussieht, gibt sie eine Meldung aus. Dann geht in der Videoleitstelle ein Monitor an, auf dem die Situation zu sehen ist. Und die wachhabende Polizist*in entscheidet, was dann weiter passiert.

Welche Möglichkeiten hat die Polizist*in in der Videoleitstelle?

Sie kann die Situation als harmlos einordnen und ignorieren – oder zum Beispiel eine Streife losschicken, die Ausweise kontrolliert oder sogar Personen durchsucht. Vermutlich eher letzteres: Ein gut untersuchter psychologischer Effekt namens automation bias sorgt dafür, dass Menschen dazu neigen, den Ergebnissen von Software zu vertrauen. Am Kottbusser Tor – einer ausgewiesenen Messer- und Waffenverbotszone – darf die Polizei zudem anlassunabhängig kontrollieren. Es ist also gar nicht nötig, dass die Person am Bildschirm eine Straftat erkennt, sie kann die Kontrolle auch prophylaktisch anordnen.

Was passiert im Fall einer Kontrolle?

Von der Polizei, womöglich ohne Anlass dazu gegeben zu haben, kontrolliert zu werden, ist potenziell erniedrigend und kann sogar traumatisierend wirken. Immer wieder eskalieren solche Kontrollen, zum Teil übt die Polizei dabei massive Gewalt aus. In dem Fall ist es auch möglich, dass sie das Gegenüber wegen Widerstand anzeigt, woraufhin eine Verurteilung droht.

Nach welchen Bewegungen wird konkret gesucht?

In Mannheim, wo derartige Technologie bereits seit 2018 eingesetzt wird, gibt es eine Liste von 15 Verhaltenskategorien, die die KI unterscheiden soll. Darunter sind beispielsweise: Schlagen, Treten, Schubsen, Würgen – die Erkennung von Gewalt ist der rechtliche Auftrag an die Software. Daneben identifiziert sie aber auch Tätigkeiten wie Tanzen, Umarmen, Fahrradfahren. Das ist nötig, damit sie harmlose Situationen von den gesuchten abgrenzen kann. In Berlin hingegen gibt es so eine Liste gar nicht. Welche Bewegungen dort gesucht werden, ist eine Black Box.

Weil die Software mit „Strichmännchen“ arbeitet, gilt sie als privatsphäreschonend. Was ist da dran?

Die Software ignoriert durch die Abstraktion wohl tatsächlich Identifikatoren wie Gesicht, Hautfarbe oder Tattoos. Allerdings ist das Bewegungsmuster eines Menschen absolut einzigartig, Menschen können darüber identifiziert werden. Zudem ist die Datenschutzbehauptung schon deshalb irreführend, weil gleichzeitig das voll auflösende Videobild mindestens 28 Tage gespeichert wird. Wenn die Software also eine Situation markiert und die Polizei will wissen, wer da als Täter*in oder Zeug*in vor Ort war, macht sie einen Screenshot und wirft den ins Gesichtserkennungssystem des BKA.

Wenn die betroffene Person etwa schon einmal erkennungsdienstlich behandelt wurde oder in Deutschland Asyl beantragt hat, fallen da Name, Geburtsdatum, Adresse raus. Und mit der Verhaltensanalyse hat Schwarz-Rot der Berliner Polizei zusätzlich eine Gesichtersuchmaschine erlaubt. Damit könnte sie herausfinden, wo die Person überall im Netz zu finden ist – sobald Bund und Länder einen Workaround gefunden haben, um die EU-rechtlichen Vorgaben beim Einsatz dieser Technologie einzuhalten. Letztlich ist der Eingriff also nicht kleiner als bei der herkömmlichen Videoüberwachung, sondern es kommt im Zweifel ein zweiter, ebenso massiver Privatsphäreneingriff zur klassischen Videoüberwachung dazu.

Bringt die Verhaltensanalyse überhaupt etwas?

Das weiß kein Mensch. In keiner der deutschen Städte, in denen das System bislang läuft, ist eine unabhängige Evaluation durchgeführt worden. In Hamburg ergab eine von der Polizei veröffentlichte Zählung, dass etwa 99 Prozent der Situationen, die die KI markiert, sich als Fehlalarm erweisen. In Mannheim kann die Polizei auch nach acht Jahren KI-Einsatz keine einzige Situation nennen, in der die Verhaltensanalyse zur Verhinderung oder zumindest Aufklärung einer Straftat beigetragen hat. Der erhoffte Abschreckungseffekt funktioniert bei Gewalttaten im Affekt und potenziellen Terrorist*innen eher nicht, bei rationalen Straftaten wie Drogenhandel oder Taschendiebstahl ist eine Verdrängung zum Beispiel in Nebenstraßen anzunehmen.

Woher kommen die Trainingsdaten?

In freier Wildbahn gibt es – aus KI-Trainer*innen-Sicht – viel zu wenig Kriminalität. In Mannheim ist KI-Training deshalb Handarbeit. Dort mussten Polizist*innen bislang 2.000 Show-Kämpfe unter den Kameras absolvieren. Die Software ist dennoch nicht im Praxisbetrieb. Die Mannheimer Polizei geht davon aus, dass 10.000 Show-Kämpfe nötig sind, bis sie verlässlich läuft. Berlin spart sich diesen Aufwand. Die Software die hier genutzt wird, wurde mit KI-generierten Szenen trainiert. Eine Software, die schätzt, wie Straftaten aussehen könnten, brachte einer anderen Software bei, wie angeblich eine Straftat aussieht. Rechtlich gesehen darf Berlin KI mit personenbezogenen Daten von Bürger*innen trainieren, auch ohne deren Einwilligung. Die Polizei darf die Daten sogar zum Training an die KI-Herstellerfirmen weitergeben.

Werden mit dieser Technologie Menschen diskriminiert?

Wenn ein Mensch sich beispielsweise aufgrund von körperlichen Einschränkungen ungewöhnlich bewegt, fällt es der Software schwerer, einzuschätzen, was diese Person tut. Und da die Software tendenziell wohl eher zu viele falsche Alarme produziert, weil sonst die Polizei das Risiko eingeht, eine Straftat zu verpassen, wird sie, wenn sie eine Situation nicht einschätzen kann, vermutlich einen Alarm ausgeben. Damit werden Menschen mit ungewöhnlichen Bewegungsmustern diskriminiert, weil sie erhöhtem Überwachungs- und womöglich auch Kontrolldruck unterliegen. Und wer noch viel direkter diskriminiert wird, das sind wohnungslose Menschen. Denn die Berliner Software schlägt auch bei liegenden Personen Alarm – offiziell um „Unglücksfälle“ zu detektieren. Tatsächlich werden damit wohnungslose Menschen ebenfalls erhöhtem Überwachungs- und Kontrolldruck ausgesetzt. Zudem trifft diese Form der Überwachung vor allem marginalisierte Menschen. Sie wird dort eingesetzt, wo sich Szenen von Trinker*innen oder Drogenkonsument*innen treffen. Menschen mit Geld können sich der Überwachung entziehen. Sie trinken ihr Bier in der verpixelten Gastronomie statt offen gefilmt auf der Parkbank, oder sie fahren Auto, statt sich an zentralen Umsteigebahnhöfen der automatisierten Überwachung aussetzen zu müssen.

Wer hat die Verhaltensanalyse-Software entwickelt?

Die Staige GmbH. Die ist eine Tochter der Adesso SE, einer internationalen IT-Holding mit Sitz in Dortmund. Die ist so etwas wie der Generaldienstleister für das Projekt und vergibt Subaufträge an Staige für die Software und an Axis, ein schwedisches Unternehmen, für die Kameras. Adesso ist dafür bekannt, dass 2022/23 Angreifer*innen relativ umfassenden Zugang zum IT-System der Firma hatten. Dass ein privates Unternehmen zum Zug kommt, ist ungewöhnlich. Die Verhaltensanalyse in Mannheim und Hamburg wurde noch mit einem Fraunhofer-Institut realisiert, einem gemeinnützigen Verein.

Wo läuft das schon?

In Mannheim seit 2018 am Bahnhofsvorplatz und auf der zentralen Einkaufsmeile. 2023 kam Hamburg dazu, dort arbeitet sie inzwischen auf zwei Plätzen in Bahnhofsnähe. Vergangenes Jahr hat dann Bremen automatisierte Verhaltensanalyse in Trams installiert, seit diesem Jahr gibt es sie auch im ÖPNV von Dortmund und Düsseldorf.

Wo kommt das noch?

Automatisierte Überwachung wird das neue Normal. Ende September hat der Bundestag das Bundespolizeigesetz verabschiedet. Damit darf die Bundespolizei an allen deutschen Bahnhöfen Verhaltensscanner einsetzen. Zahlreiche Bundesländer haben den Einsatz auf öffentlichen Plätzen bereits erlaubt oder arbeiten daran. In Berlin sollen, so war zumindest der Plan von Schwarz-Rot, nach dem Kottbusser Tor die Warschauer Brücke folgen, ebenfalls dieses Jahr dann Rotes Rathaus, Innenverwaltung, Jüdisches Museum, nächstes Jahr dann Alexanderplatz und der Görlitzer Park samt Kiez drumherum. Erlaubt ist der Einsatz an allen mutmaßlich „kriminalitätsbelasteten Orten“ und „gefährdeten Einrichtungen“. Was davon tatsächlich realisiert wird, werden die Koalitionsverhandlungen ab Ende Oktober zeigen.

Was ist das größte Risiko dieser Form der Überwachung?

Der Konformitätsdruck. Gerade wenn man gar nicht genau weiß, wonach die KI sucht, werden sich Menschen angepasster verhalten. Dabei ist doch die Diversität auch des Ausdrucks Grundlage der freien und offenen Gesellschaft – und damit letztlich der Demokratie. Ungewöhnliches Verhalten erweitert den Denk- und den Möglichkeitsraum, wird aber mit dieser Technologie zum Verdachtsmoment. Automatisierte Überwachung bedeutet eine Entmenschlichung der Kontrolle.

In welchem Kontext wird diese Technologie eingeführt?

Ein Überwachungs-KI-Tool kommt selten allein: Gemeinsam mit dem Verhaltensscanner hat Schwarz-Rot im Dezember 2025 auch eine Gesichtersuchmaschine erlaubt, außerdem Megadatenbanken mit automatisierter Analyse à la Palantir und Videodrohnen, die Berlin ebenfalls automatisiert überwachen dürften. Ähnliche Bestrebungen gibt es im Bund und in vielen Ländern. Gleichzeitig sollen die Geheimdienste Zugriff auf Videoüberwachungsanlagen erhalten. Und in Baden-Württemberg überlegt man jetzt schon Verhaltensanalyse mit Echtzeit-Gesichtserkennung zu koppeln.

Was kann man gegen Verhaltensscanner tun?

Neben Protestformen wie Demo, Infostand oder performativem Theater im überwachten Areal, gibt es auch die Möglichkeit, Kameras straffrei zu verdecken, so lange man sie nicht in der Funktion einschränkt. Wer sich im Überwachungsbereich bewegt, darf sich zudem in der Regel straffrei vermummen.