Connect with us

Datenschutz & Sicherheit

Kameras und Drohnen in Berlin: Was Verhaltensscanner erkennen sollen


Der IT-Angriff von Anfang August auf die Berliner Verwaltung und die nachfolgende Veröffentlichung von knapp anderthalb Millionen Dateien liefert auch Einblicke in Überwachungsprojekte der Polizei mit Objekterkennung und Verhaltensscannern. Denn unter den von den Angreifern veröffentlichten Dokumenten ist das Leistungsverzeichnis zum „Projekt zur Erprobung KI-gestützter Videotechnik“ (pdf). Darin sind die technischen Anforderungen detailliert formuliert, die der Auftragnehmer für das gewünschte Computersystem der Berliner Polizei zu erfüllen hat.

Vereinfacht gesprochen soll das Überwachungssystem Aufzeichnungen von Kameras in vorab festlegten Bereichen des öffentlichen Raums und nach vordefinierten Kriterien durchforsten und Alarm schlagen, wenn es auffällige Objekte oder Bewegungsmuster erkennt. Die Leistungsbeschreibung listet auf, welches auffällige Verhalten und welche Bewegungen zu einer Alarmierung führen sollen.

Bei allen Verdachtssituationen soll ein Polizist auf die Aufzeichnungen der automatischen Mustererkennung schauen und entscheiden, was danach passiert. Eine solche Anschlussmaßnahme kann beispielsweise das rechtssichere Speichern der Aufzeichnung sein oder das Hinschicken von Polizeikollegen zur Festnahme eines aufgezeichneten Menschen.

Es geht nicht um die Verhaltensscanner an den sogenannten „kriminalitätsbelasteten Orten“, sondern diesmal um den polizeilichen Objektschutz, konkret um das Berliner Rote Rathaus, das Abgeordnetenhaus und den Sitz der Senatsverwaltung für Inneres und Sport. Dort will die Polizei „KI-gestützte“ Überwachungssysteme testen, bevor sie in den Regelbetrieb gehen.

Rund um diese Gebäude werden in der Leistungsbeschreibung die gewünschten Details der automatisierten Auswertung der Videoaufnahmen aufgelistet. Dass auch das Abgeordnetenhaus zur Überwachungsliste gehört, blieb nicht ohne Kritik: Niklas Schrader von der Fraktion der Linken nannte das einen „Affront gegen das Parlament“, wenn die Abgeordneten „Versuchskaninchen für die KI-Experimente der Polizei“ würden.

Mobile Kamerasysteme und Drohnen mit Verhaltensscannern

Eine selbstlernende Software ist in der Leistungsbeschreibung nicht vorgesehen, sondern das „Human-in-the-Loop-Prinzip“. Soll heißen: Eigenständig sollen die Systeme aus bereits gemachten Aufnahmen keine Schlüsse ziehen können. Die Einschränkung dürfte den hohen Anforderungen geschuldet sein, die das Bundesverfassungsgericht an den Schutz der Grundrechte bei selbstlernenden Systemen gestellt hat. Wahrscheinlich ist auch die hohe Eingriffstiefe in die Grundrechte aller Passanten der Grund, warum biometrische Gesichtserfassung ebenfalls nicht zum Einsatz kommen soll.

Im Herbst 2025 wurde seitens der Polizei das Gespräch mit den Verantwortlichen für die Gebäude gesucht, da Denkmalschutzfragen bei der Anbringung von Videokameras zu beachten sind, wenn sie an der Gebäudehülle befestigt werden. Zugleich sind in der Leistungsbeschreibung aber auch mobile Kamerasysteme für die Überwachung des Berliner Abgeordnetenhauses vorgesehen. Selbst Drohnen sind schon mitgeplant, werden im Dokument allerdings als „optional“ bezeichnet.

Aus der Leistungsbeschreibung geht hervor, dass die Aufzeichnungen der mobilen Kameras in das Gesamtsystem integrierbar sein und „mit identischen Alarmierungsregeln“ arbeiten sollen. Auch der Video-Stream von Drohnen soll mit den gleichen Funktionen wie bei den stationären Lösungen arbeiten.

Technisch dürfte das Erkennen der Verhaltensmuster für die Alarme bei mobilen Kameras und bei Drohnenaufnahmen von oben oder von schräg oben neue Anforderungen an die Software bringen. Denn bewegliche Kamerasysteme oder die Draufsicht verändern natürlich die Muster, die zu bewerten sind. Zudem sollen auch „temporäre oder ad-hoc-Kameras“ integriert werden.

Als geplanter Baubeginn an den Gebäuden war der 1. September 2026 vorgesehen. Für Ende 2026 ist das Anlaufen des Systems geplant, in „Kooperation mit dem Fraunhofer-Institut“. Damit dürfte das Fraunhofer IOSB (Optronik, Systemtechnik und Bildauswertung) aus Karlsruhe gemeint sein, das bereits seit fast einem Jahrzehnt mit der Mannheimer Polizei Verhaltensscanner testet. Wie erfolgreich das dortige Langzeitprojekt ist und mit welchen Fehlerraten die Polizisten umgehen müssen, ist öffentlich nicht bekannt.

10.000 Filme für ein Hallelujah

Was soll das System erkennen?

Welche beweglichen Objekte mit welchen Parametern das System in Berlin erkennen und bewerten soll, ist nicht abschließend definiert. Lediglich Beispiele wie Personen, Fahrzeugarten, Farben, Kopfbedeckungen oder Taschen und Rucksäcke listet die Leistungsbeschreibung auf.

Jedoch sind darin die Szenarien verzeichnet, die erkannt werden sollen. Zwingend erkannt werden müssen demnach diejenigen zurückgelassenen Gegenstände, die größer als 30 Zentimeter sind und länger als 30 Sekunden herumliegen. Auch unzulässig abgestellte Objekte in zuvor definierten Sicherheitsbereichen muss das System erkennen können. Zudem soll es verpflichtend Beschädigungen von Zäunen oder Toren erkennen.

Weitere in der Leistungsbeschreibung angegebene Erkennungsleistungen sind nicht als Muss-Eigenschaften definiert, aber gewünscht. Alarm auslösen soll das Betreten gesperrter Bereiche, das Überschreiten virtueller Linien, das Klettern auf Zäune und Mauern und das „Tailgating“, wenn also ein Mensch oder Objekt sich dicht hinter einem anderen hinterherbewegt.

Daneben wäre es wünschenswert, dass auch laute Geräusche detektiert werden, die mehr als zehn Sekunden über 85 dB(A) liegen. Ebenso soll das System möglichst alarmieren, wenn bestimmte akustische Muster auf einen Schusswaffengebrauch oder Detonationen weisen.

Was das Verhalten von Menschen im Bereich der Überwachung angeht, soll das Werfen von Gegenständen und Sprüh-/Schmierhandlungen erkannt werden. Auch Lichtprojektionen sollen einen Alarm auslösen.

Die zu erkennenden Verhaltensauffälligkeiten bei Menschen sind abschließend aufgelistet, aber nicht als Muss-Eigenschaften des Systems markiert:

  • Langes Verharren/Umhergehen ohne Anlass,
  • Langanhaltendes Fotografieren,
  • Anbringen/Entwenden von Objekten,
  • Diebstahlhandlungen […],
  • Wiederholtes Erscheinen (ohne biometrische Identifikation).

Fehlalarme unvermeidlich

Da solche Verhaltens- und Mustererkennung immer fehlerbehaftet ist, sollen die aufgezeichneten Fehlalarme aus einer anfänglichen dreimonatigen Erprobungsphase dazu genutzt werden, das System möglichst zu verbessern. Das sieht die Leistungsbeschreibung explizit vor. Erst danach soll der neunmonatige „Probeechtbetrieb“ starten.

Das Nachlernen ist jedoch kein einfaches Unterfangen, da dazu echte Aufnahmen von Menschen herangezogen werden würden. Deren Grundrechte müssen beachtet werden, sie können nicht ungefragt als Eingangsmaterial für KI-Training herhalten.

Zudem muss dabei das Diskriminierungverbot beachtet werden. Beispielsweise bewegen sich Menschen mit physischen Störungen, Autismus oder körperlichen Behinderungen oft anders und damit auffällig im Sinne einer technischen Mustererkennung. Sie dürfen dennoch nicht diskriminiert werden.

Das Problem löst die Polizei dadurch, dass sie einfach die „Sicherstellung diskriminierungsfreier Algorithmen“ festlegt. Angefügt ist daran eine Fußnote: „Es ist darzulegen, wie dies erreicht wird.“

Bei den Fehlerraten wird es hingegen genauer: „Die KI-gestützte Videoanalyse muss mit einer Gesamterkennungsgenauigkeit von mindestens ≥ 95 % operieren.“ Das bezieht sich auf alle Arten der Objekt- und Mustererkennung der Software. Weiter schreibt die Leistungsbeschreibung vor: „Die maximale durchschnittliche Fehlalarmrate soll nicht höher als 25 % über alle Szenarien liegen.“

Diese Vorgaben sind für Systeme der Mustererkennung erstaunlich gering. Denn praktisch bedeutet das: Die Software darf sich viele Fehler leisten und damit ständig zahlreiche Fehlalarme ausgeben, aber auch zu detektierende Objekte oder Verhaltensweisen unerkannt lassen. Für einzelne Szenarien dürfen auch über ein Viertel aller Alarme falsch sein, nur durchschnittlich darf die Fehlalarmrate 25 % nicht überschreiten.

Ob das erklärte Ziel, die Polizei beim Objektschutz zu entlasten, mit der Software erreicht werden kann, hängt natürlich von diesen Vorgaben ab. Die eingangs vorgegebene Fehlalarmquote soll nach dem dreimonatigen Test und dem „Nachtrainieren“ möglichst noch sinken.

Was jedoch nicht sinken soll, ist die Anzahl der Gebäude, bei denen die Kameras mit Verhaltensscanner eingesetzt werden können. Denn der Berliner Innenstaatssekretär Christian Hochgrebe (SPD) hat bereits angekündigt, auch Botschaften und andere gefährdete Orte in den Blick zu nehmen.

Wie gut das System nach einem Jahr Test und „Probeechtbetrieb“ wirklich arbeitet, das dürfte die Öffentlichkeit schon wegen der bereits vorgesehenen Ausweitung der Überwachung interessieren. Aber die Wahrscheinlichkeit ist hoch, dass die Ergebnisse verheimlicht werden. Denn aus dem Langzeittest der Polizei in Mannheim ist bereits bekannt, dass einmal in Betrieb genommene Systeme jahrelang weiterlaufen, ohne dass die Ergebnisse veröffentlicht oder sie gar unabhängig evaluiert werden.

Vielleicht könnte aber die anstehende Wahl in Berlin die Weichen noch anders stellen: Grüne, Linke und FDP wollen die Videoüberwachung begrenzen. Wie das BSW zeigt sich die SPD im Wahlprogramm auch eher moderat bei dem Thema. Indes hat die SPD aber als derzeitige Regierungspartei die Ausweitung der gesetzlichen Befugnisse in der Novelle des Allgemeinen Sicherheits- und Ordnungsgesetzes (ASOG) und damit die Verhaltensscanner im Polizeigesetz erst ermöglicht. Gewönnen hingegen die CDU und die AfD viele Stimmen, wäre es deren erklärter Willen, die Videoüberwachung quantitativ und qualitativ auszubauen.

Der Ausgang der Wahl und die nachfolgende Regierungsbildung ist noch ungewiss. Nach dem IT-Angriff auf die Berliner Verwaltung ist es ebenfalls ungewiss, ob die IT-Sicherheit in der Hauptstadt auf die Schnelle von mangelhaft auf vorzeigbar umgestellt werden kann. Das könnte dazu beitragen, dass irgendwann auch die Ergebnisse der Verhaltensscanner-Test ungewollt öffentlich werden.



Source link

Verwandte Themen:
Weiterlesen

Datenschutz & Sicherheit

KW 46: Die Woche, in der wir Richtung Geheimpolizei gehen


Liebe Leser*innen,

Deutschland ist auf dem Weg, eine Art Geheimpolizei zu schaffen. Und gemessen daran, was die schwarz-rote Koalition am gestrigen Freitag erfolgreich durch den Bundestag gebracht hat, sind die Reaktionen bisher erstaunlich zurückhaltend. Kaum jemand protestiert dagegen, dabei ist diese Reform aus dem Hause Dobrindt (CSU) wirklich ein Umbruch.

Agent*innen des Verfassungsschutzes sollen etwa das Recht bekommen, heimlich Wohnungen von Bürger*innen betreten zu dürfen. Sie sollen sogar Datenträger heimlich zerstören oder manipulieren dürfen, Informationen löschen.

Wer aus welchen Gründen auch immer auf dem Radar des Verfassungsschutzes landet, wird womöglich nie erfahren, wer in der Wohnung war und warum. Denn anders als die Polizei, die bisher erst nach richterlicher Anordnung eine Wohnung durchsuchen und dabei viele Regeln befolgen muss, müssen „echte Geheimdienste“, wie Dobrindt sie jetzt nennt, kaum Rechenschaft ablegen.

Das ist eine ganz schön harte Gangart für einen Rechtsstaat. Besonders für einen Rechtsstaat wie Deutschland, wo die Aufgaben von Geheimdiensten und Polizei ganz bewusst getrennt wurden, als Lehre aus dem Nationalsozialismus und der Brutalität, mit der die Geheime Staatspolizei damals gegen Jüd*innen und politisch Andersdenkende vorging. Das Trennungsgebot war ein wichtiger Pfeiler der Vorsicht, um den Sicherheitsapparat einzuhegen und Menschen vor Übergriffen des Staates zu schützen.

Das heimliche Betreten von Wohnungen ist nur eine von vielen problematischen neuen Befugnissen. Meine Kollegin Anna Biselli hat sie nochmal hier aufgezählt. Die Linken-Abgeordnete Clara Bünger hielt gestern im Bundestag eine flammende Gegenrede. Flankiert wurde sie von den Warnrufen vieler Menschenrechtsorganisationen. Konstantin von Notz von den oppositionellen Grünen lobte hingegen die Arbeit der Koalition: „Heute ist ein guter Tag für die Sicherheit der Bundesrepublik Deutschland“.

Öl ins Feuer

Die Bundesregierung gießt mit dieser Reform Öl ins Feuer: Sie rüstet den Überwachungsstaat auf und beschneidet Grundrechte. Das ist besonders gefährlich in einer Zeit, in der Rechtsextreme in Richtung Regierung drängen. Denn der Schutz demokratischer Werte und Errungenschaften beginnt schon, bevor die Rechtsradikalen an den Hebeln der Macht sitzen.

Auch deswegen haben wir eng und detailliert über dieses Gesetz berichtet. Wie so oft haben wir es nicht verhindern können. Doch wir wollen wenigstens, dass die kritischen Stimmen so laut wie möglich sind und dass das historische Ausmaß klar wird, in dem diese Reform unsere Demokratie verändert. Es ist wahrlich eine „Jahrhundertreform“, wie Alexander Dobrindt sagt – nur nicht im guten Sinne.

Wir sagen nicht nur laut, was schief läuft und gefährlich für unsere Verfassung ist. Wir denken Sicherheit auch anders und neu. Als echte Sicherheit, die schon bei unseren Lebensgrundlagen anfängt, bei Bildung, sozialer Sicherung oder Klimaschutz.

Damit Grund- und Freiheitsrechte eine hörbare Stimme haben, suchen wir derzeit Unterstützung. Bis Sonntag läuft noch unsere Suche nach Brandschutzhelfer*innen: Menschen, die uns mit einem monatlichen Betrag unterstützen.

Für uns macht das einen großen Unterschied, denn regelmäßige Unterstützung wirkt nachhaltiger als eine Einzelspende.Wir können damit Recherchen langfristig anlegen und zugleich in die Tiefe gehen. Wir müssen seltener um Unterstützung bitten und können mehr Energie in die redaktionelle Arbeit stecken.

Wenn du unsere Arbeit mit einer Dauerspende unterstützt, können wir dranbleiben – an der Geheimdienstreform, an dieser Bundesregierung und an allen Versuchen, die unsere Verfassung gefährden. Wir wühlen uns durch die Bleiwüsten von Gesetzen, um klar und deutlich zu sagen, was passiert.

Das geht nur mit Deiner Hilfe.

Chris



Source link

Weiterlesen

Datenschutz & Sicherheit

Amazon Ring rüstet auf: Endlich autonome Drohnen für die Heimüberwachung!


Es gibt solche Meldungen, wo man einfach nur noch den Kopf schütteln kann. Also einerseits darüber, wie man als Journalist eine Drohne zur Heimüberwachung so genügsam heruntererzählen kann, als habe irgendwer gerade ein neues Druckermodell oder eine elektrische Zahnbürste herausgebracht.

Andererseits über das Produkt selbst: Wir sind jetzt also bei autonomen Überwachungsdrohnen für den Heimgebrauch angekommen. Fliegende Kameras, die mit der notorischen Amazon-Videoüberwachung gekoppelt das Eigenheim absichern sollen.

Zunächst soll die Drohne nur in den USA verkauft werden. Bei Heise heißt es dazu nüchtern:

Sie harrt in ihrer Ladestation aus und startet ihre Kontrollflüge anhand zuvor festgelegter Routen und Zeitpläne. Zudem kann die Drohne in ein bestehendes Ring-Ökosystem eingebunden werden. Dann führt die Ring Drone automatisch einen Kontrollflug in Innenbereichen zu festgelegten Punkten durch, wenn ein Alarm von einer Ring-Kamera, einem Sensor oder einem Alarmsystem ausgelöst wird. Dort erfasst die Drohne dann die Umgebung durch eine 360-Grad-Flugbewegung und sendet die Bilder an Smartphones von Nutzerinnen und Nutzern.

Schöne neue Welt.

 

Wie die Polizei mit vernetzten privaten Kameras amerikanische Kleinstädte überwacht

Eigentlich ist Sarkasmus fehl am Platze. Denn Amazon Ring rüstet seit Jahren private Haushalte mit Überwachungs-Gagdets aller Art auf – und erweitert dadurch die Überwachungssphäre des Staates massiv.

Behörden bekommen zum Nulltarif eine Überwachung von Wohnungen, Vorgärten und Straßen aufgebaut.
Sie können die Aufnahmen per Knopfdruck beim Bürger anfragen oder sie von Amazon bekommen, manchmal ohne richterlichen Beschluss und machmal auch mit. Schon vor fünf Jahren arbeiteten 2.000 US-Behörden mit Amazon bei dieser Form der Überwachung zusammen.

Nie war der Ausbau der Videoüberwachung so billig. Die Bürger:innen protestieren nicht dagegen. Sie schrauben die Kameras selbst an die Wand. Sie zahlen sie sogar mit Freude.

Win Win Win für den Überwachungsstaat – und für Amazon.



Source link

Weiterlesen

Datenschutz & Sicherheit

Operation Endgame: Weltweiter Schlag gegen Cybercrime


In einer international von Europol koordinierten Aktion aus dem Umfeld der „Operation Endgame“ sind Strafverfolger gegen 235 Server und 257 Domains aus dem Malware-Umfeld von Gootloader, CastleRAT und StealC vorgegangen. Die Malware-Verteilungsnetzwerke seien dadurch empfindlich gestört, teilt Europol zur jüngsten Runde der Operation mit.

Weiterlesen nach der Anzeige

Europol erklärt in der Mitteilung, dass sie mit „Operation Endgame“ insbesondere „Cybercrime-as-a-Service“-Geschäftsmodelle im Visier haben. Die dabei eingesetzten Tools ermöglichten weitere Straftaten wie Ransomware-Angriffe und Datendiebstahl. Die Strafverfolger haben zudem mit Unternehmen aus der Wirtschaft zusammengearbeitet. Sie sind gegen drei bösartige Toolkits vorgegangen: Bei Gootloader handelt es sich um einen Dropper/Loader, der unbefugten Zugriff auf Computer ermöglicht. Er kommt üblicherweise in Form gefälschter juristischer Dokumente auf kompromittierten Webseiten – oftmals geknackte WordPress-Seiten – auf die Rechner der Opfer. Die Täter setzen oft auf Erpressung durch Installation von Ransomware. Allein zu Gootloader haben die Ermittler 14 Server und 218 Domains vom Netz genommen, 681 infizierte Webseiten wurden bereinigt.

Der Remote-Access-Trojan (RAT) CastleRAT ist demnach seit dem Jahr 2025 bekannt. Er ermöglicht den Missbrauch infizierter Computer aus der Ferne. CastleRAT liefere eine moderne technische Architektur, erörtern die Ermittler. Er lasse sich flexibel verteilen und nutze Mechanismen, die die Erkennung erschweren. Auch mit CastleRAT haben die Angreifer zahlreiche Daten verschlüsselt und ganze IT-Systeme lahmgelegt, um die Betroffenen um Lösegeld zu erpressen. 120 der Server betrafen das RAT, dazu gehören zudem 39 der beschlagnahmten Domains. Die Daten von Opfern wurden zudem weitergegeben, um sie zu warnen. Außerdem waren 102 der Server für den Infostealer StealC zuständig. Der wurde über zahlreiche Angriffsvektoren verteilt und dient dazu, sensible Informationen wie Zugangsdaten und Passwörter, digitale Identitäten und mehr von infizierten Computern auszuleiten. Die Täter missbrauchen die Daten dann etwa für Handel und Betrügereien.

Millionen Datensätze

Mehr als 6 Millionen Zugangsdaten von Opfern haben die Ermittler in der kriminellen Infrastruktur ausfindig gemacht. Die Angreifer hätten die Daten verkauft, sodass sie später auch für Cyberangriffe etwa mit Ransomware missbraucht werden können. Die Daten der Opfer haben die Ermittler etwa mit dem Have-I-Been-Pwned-Projekt, DIVD, CheckjeHack, NoMoreLeaks, Sekoia, der Shadowserver Foundation und dem NL-NCSC geteilt, damit diese die Opfer über den Diebstahl durch die CastleRAT-Malware informieren können. Europol rät WordPress-Nutzerinnen und -Nutzern, ihre Zugangsdaten zu erneuern und Mehr-Faktor-Authentifizierung einzusetzen – außerdem sollen sie Schwachstellen in ihren Installationen patchen.

An der Aktion waren zahlreiche internationale Strafverfolgungsbehörden aus Europa, Kanada und den USA beteiligt. Aus Deutschland wirkte das Bundeskriminalamt mit. Beim Infostealer StealC knüpft die jetzige Aktion an die Juni-Runde an, in der die Ermittler auch gegen die Malware „SocGholish“ vorgegangen waren.


(dmk)



Source link

Weiterlesen

Beliebt