Connect with us

Datenschutz & Sicherheit

Trainingsvideos für Verhaltensanalyse: Für die Überwachungs-KI gibt es nie genug Gewalt


Das Kottbusser Tor an einem Nachmittag unter der Woche: Menschen begutachten die Auslagen des Gemüsestandes. Aus dem Rewe kommt vorsichtig eine Frau gewackelt, sie trägt zwei Einkaufstüten in jeder Hand. Eine kleine Gruppe diskutiert erhitzt, während einer mit einem beschrifteten Papier wedelt. Polizist*innen in stichsicheren Westen patroullieren über den Platz.

Alle diese Menschen werden gerade von einer Software analysiert. 30 Kameras filmen das Geschehen auf der Nordhälfte des Platzes und sogenannte KI prüft, wer was tut und ob das Geschehen Hinweise auf eine Straftat gibt. Die automatisierte Dauerüberwachung soll Kontrolle auf einem bis dahin unbekannten Effizienz-Niveau ermöglichen.

Damit die Software erkennt, bei welcher Art von Szenen sie Alarm schlagen soll, wurden zuvor viele Clips eingespeist. In diesem Trainingsmaterial muss jeweils markiert sein, ob die Szene ein Beispiel für zu tolerierendes Verhalten sein soll oder für einen auszulösenden Alarm.

Nicht genug Gewalt

Die Menge und Qualität der Trainingsdaten hat große Auswirkungen darauf, wie gut das System am Ende funktioniert. Das zentrale Problem an dieser Stelle: Wie es aussieht, wenn ein Mensch geht, kann die Verhaltenserkennung anhand von Bildern aus dem öffentlichen Raum sehr gut lernen – da gibt es viel Anschauungsmaterial. Aber an welchen Faktoren sich ein Kampf erkennen lässt, ist anhand des Geschehens vor Ort schwierig zu kategorisieren. Aus Sicht von KI-Trainer*innen gibt es einfach nicht genug Gewalt im öffentlichen Raum. „Wie sich im Verlauf des Projektes zeigte, stehen leider nur sehr begrenzt öffentliche Daten zur Verfügung“, schrieb die Mannheimer Polizei.

Deshalb arbeiten die KI-Entwickler*innen mit Bildmaterial von nicht-authentischen körperlichen Auseinandersetzungen. In Mannheim etwa haben Polizist*innen bereits 2.000 Show-Kämpfe für das KI-Training veranstaltet, die Mannheimer Polizei geht davon aus, dass noch weitere 8.000 Kämpfe nötig sind, bis die Software praxistauglich ist.

Die Mannheimer Trainingsvideos sind als „Verschlusssachen“ eingestuft und unterliegen zudem persönlichkeitsrechtlichen Bestimmungen, deshalb will die Mannheimer Polizei diese nicht herausgeben. Ein Clip ist jedoch öffentlich, er wird im Mannheimer Technoseum als Beispiel für die Trainingsvideos gezeigt. Wir haben ihn dort abgefilmt.

Die Polizisten, die zu sehen sind, wirken behäbig, die angedeuteten Schläge und Tritte zurückhaltend. Im Bild sieht man auch die strichmännchenförmige Abstraktion der Bewegungen, anhand derer die KI sie kategorisiert.

KI lehrt KI, wie sich Menschen prügeln

Die Entwickler*innen der Software, die am Kottbusser Tor in Berlin die Passant*innen scannt, gehen einen anderen Weg. In Berlin sollen keine Polizist*innen zu Show-Kämpfen verpflichtet werden. Stattdessen wurden – neben einigen realen Szenen – zum großen Teil KI-generierte Videos zum KI-Training genutzt. Wie Gewalt aussieht, soll die Überwachungssoftware also von einem Videogenerator lernen, der dafür mutmaßlich gewalthaltige Szenen imaginiert. „Auf diese Weise lässt sich die Trainingsmenge systematisch und datenschutzkonform vergrößern, ohne auf ortsspezifische Daten angewiesen zu sein“, schreibt ein PR-Mensch im Auftrag von Staige, dem Hersteller der Überwachungssoftware.

Wir haben eine IFG-Anfrage nach dem kompletten Trainingsdatensatz gestellt und hoffen darauf, damit bald einen Kinoabend bestreiten zu können. Bis dahin müssen wir uns mit einem Trailer begnügen: Auf der Website von Staige sind unter „Gewalterkennung“ drei KI-generierte Clips zu sehen, auf denen KI anscheinend Gewalt detektiert hat. Tatsächlich scheinen sich die abgebildeten Figuren aber gar nicht zu berühren. Weitere Merkwürdigkeiten fallen ins Auge: Trambahntüren öffnen sich in voller Fahrt. Menschen lächeln und winken in Überwachungskameras oder hoppeln hasenartig. Bunte Strichmännchen gibt es nicht zu sehen, die mathematische Abstraktion, mit der die Software das Geschehen analysiert, bleibt verborgen.

Heiko Paulheim ist Professor für Datenwissenschaften in Mannheim, wo schon seit 2008 ein Verhaltensscanner den öffentlichen Raum durch unzählige Kameras erfasst. Wie gut solche Systeme seien, sagt Paulheim, hänge stark von den Trainingsdaten ab. Wenn die nicht authentisch seien, wirke sich das auf die Qualität der Software aus.

„Wie Kinderzeichnungen von Katzen“

„Man kann sich das ein wenig vorstellen wie eine Bilderkennung für Katzenbilder, die auf Kinderzeichnungen trainiert, aber auf Fotos angewendet wird. Die Performance wird immer hinter einem Modell zurückbleiben, das auf Fotos trainiert wurde“, sagt Paulheim. Dazu könne der Videogenerator Verzerrungen in die Trainingsdaten einschreiben: „Modelle, die auf YouTube-Videos trainiert sind, produzieren Material, das YouTube ähnelt, womöglich mit einer Tendenz zu viel Action, guter Ausleuchtung, Fokus auf jüngeren Darsteller*innen mit gefragten Körperformen – und vielleicht auch vermehrt auftretenden Stereotypen wie dem des dunkelhäutigen Angreifers im schwarzen Kapuzenpullover.“

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Das könne, so Paulheim zu zwei Arten von Fehlern führen. Erstens: Probleme werden nicht erkannt. „Wenn ich nur actionreiche Kämpfe zwischen jungen Männern habe, werde ich das vergleichsweise actionarme Entreißen der Handtasche einer älteren Frau unter Umständen nicht erkennen“, sagt Paulheim.

Die andere Fehlerart ist das false positive. „Die Software erkennt eine Szene mit einer dunkelhäutigen Person im Kapuzenpulli als problematisch, auch wenn diese Person sich nicht problematisch verhält, sondern zum Beispiel nur durchs Bild joggt.“

Berliner*innen liefern gratis Trainingsdaten

Ein PR-Mensch, der für Staige arbeitet, nennt uns noch weitere Details zum Training der Überwachungssoftware. „Das Trainingsmaterial umfasst Szenen zu Schlagabtauschen, Tritten, gewaltsamen Schub- oder Zerrbewegungen mit Bodenkontakt sowie Rangelei auf Bodenebene“, schreibt er zum Beispiel. Dafür seien zum Teil die Bewegungen tatsächlicher Menschen mit der Motion-Capture-Technik aufgenommen worden. Der Videogenerator habe aus dem abstrahierten Geschehen anschließend eine Vielzahl von Clips erstellt, die den Vorgang mit unterschiedlichen Personen zu unterschiedlichen Tageszeiten zeigen. Dem Staige-Sprecher zufolge werden die KI-Clips „am Einsatzort“ erstellt, also in einer Liegenschaft der Berliner Polizei.

Zudem wird das Berliner Modell mit den Bewegungsdaten der Menschen, die sich am Kottbusser Tor aufhalten, „weiter optimiert“, so der PR-Mensch. Die Polizist*innen, die die Videos beobachten, vermerken dann jeweils, ob ein Alarm der Überwachungs-KI gerechtfertigt war oder nicht. Und die Software nimmt auch diese Szene dann als Beispiel für „ignore“ oder „alarm“.

Die Software wird also mit den Bewegungen von Menschen am Kottbusser Tor gefüttert. Dabei sind die Bewegungen – zum Beispiel der Gang – ja ein unique identifier, so einmalig wie ein Fingerabdruck. Doch mit der Verhaltensanalyse hat die scheidende schwarz-rote Berliner Landesregierung im vergangenen Dezember auch erlaubt, Überwachungs-KI mit personenbezogenen Daten zu trainieren – und diese Daten auch an die Software-Hersteller weiterzugeben.



Source link

Datenschutz & Sicherheit

KW 46: Die Woche, in der wir Richtung Geheimpolizei gehen


Liebe Leser*innen,

Deutschland ist auf dem Weg, eine Art Geheimpolizei zu schaffen. Und gemessen daran, was die schwarz-rote Koalition am gestrigen Freitag erfolgreich durch den Bundestag gebracht hat, sind die Reaktionen bisher erstaunlich zurückhaltend. Kaum jemand protestiert dagegen, dabei ist diese Reform aus dem Hause Dobrindt (CSU) wirklich ein Umbruch.

Agent*innen des Verfassungsschutzes sollen etwa das Recht bekommen, heimlich Wohnungen von Bürger*innen betreten zu dürfen. Sie sollen sogar Datenträger heimlich zerstören oder manipulieren dürfen, Informationen löschen.

Wer aus welchen Gründen auch immer auf dem Radar des Verfassungsschutzes landet, wird womöglich nie erfahren, wer in der Wohnung war und warum. Denn anders als die Polizei, die bisher erst nach richterlicher Anordnung eine Wohnung durchsuchen und dabei viele Regeln befolgen muss, müssen „echte Geheimdienste“, wie Dobrindt sie jetzt nennt, kaum Rechenschaft ablegen.

Das ist eine ganz schön harte Gangart für einen Rechtsstaat. Besonders für einen Rechtsstaat wie Deutschland, wo die Aufgaben von Geheimdiensten und Polizei ganz bewusst getrennt wurden, als Lehre aus dem Nationalsozialismus und der Brutalität, mit der die Geheime Staatspolizei damals gegen Jüd*innen und politisch Andersdenkende vorging. Das Trennungsgebot war ein wichtiger Pfeiler der Vorsicht, um den Sicherheitsapparat einzuhegen und Menschen vor Übergriffen des Staates zu schützen.

Das heimliche Betreten von Wohnungen ist nur eine von vielen problematischen neuen Befugnissen. Meine Kollegin Anna Biselli hat sie nochmal hier aufgezählt. Die Linken-Abgeordnete Clara Bünger hielt gestern im Bundestag eine flammende Gegenrede. Flankiert wurde sie von den Warnrufen vieler Menschenrechtsorganisationen. Konstantin von Notz von den oppositionellen Grünen lobte hingegen die Arbeit der Koalition: „Heute ist ein guter Tag für die Sicherheit der Bundesrepublik Deutschland“.

Öl ins Feuer

Die Bundesregierung gießt mit dieser Reform Öl ins Feuer: Sie rüstet den Überwachungsstaat auf und beschneidet Grundrechte. Das ist besonders gefährlich in einer Zeit, in der Rechtsextreme in Richtung Regierung drängen. Denn der Schutz demokratischer Werte und Errungenschaften beginnt schon, bevor die Rechtsradikalen an den Hebeln der Macht sitzen.

Auch deswegen haben wir eng und detailliert über dieses Gesetz berichtet. Wie so oft haben wir es nicht verhindern können. Doch wir wollen wenigstens, dass die kritischen Stimmen so laut wie möglich sind und dass das historische Ausmaß klar wird, in dem diese Reform unsere Demokratie verändert. Es ist wahrlich eine „Jahrhundertreform“, wie Alexander Dobrindt sagt – nur nicht im guten Sinne.

Wir sagen nicht nur laut, was schief läuft und gefährlich für unsere Verfassung ist. Wir denken Sicherheit auch anders und neu. Als echte Sicherheit, die schon bei unseren Lebensgrundlagen anfängt, bei Bildung, sozialer Sicherung oder Klimaschutz.

Damit Grund- und Freiheitsrechte eine hörbare Stimme haben, suchen wir derzeit Unterstützung. Bis Sonntag läuft noch unsere Suche nach Brandschutzhelfer*innen: Menschen, die uns mit einem monatlichen Betrag unterstützen.

Für uns macht das einen großen Unterschied, denn regelmäßige Unterstützung wirkt nachhaltiger als eine Einzelspende.Wir können damit Recherchen langfristig anlegen und zugleich in die Tiefe gehen. Wir müssen seltener um Unterstützung bitten und können mehr Energie in die redaktionelle Arbeit stecken.

Wenn du unsere Arbeit mit einer Dauerspende unterstützt, können wir dranbleiben – an der Geheimdienstreform, an dieser Bundesregierung und an allen Versuchen, die unsere Verfassung gefährden. Wir wühlen uns durch die Bleiwüsten von Gesetzen, um klar und deutlich zu sagen, was passiert.

Das geht nur mit Deiner Hilfe.

Chris



Source link

Weiterlesen

Datenschutz & Sicherheit

Amazon Ring rüstet auf: Endlich autonome Drohnen für die Heimüberwachung!


Es gibt solche Meldungen, wo man einfach nur noch den Kopf schütteln kann. Also einerseits darüber, wie man als Journalist eine Drohne zur Heimüberwachung so genügsam heruntererzählen kann, als habe irgendwer gerade ein neues Druckermodell oder eine elektrische Zahnbürste herausgebracht.

Andererseits über das Produkt selbst: Wir sind jetzt also bei autonomen Überwachungsdrohnen für den Heimgebrauch angekommen. Fliegende Kameras, die mit der notorischen Amazon-Videoüberwachung gekoppelt das Eigenheim absichern sollen.

Zunächst soll die Drohne nur in den USA verkauft werden. Bei Heise heißt es dazu nüchtern:

Sie harrt in ihrer Ladestation aus und startet ihre Kontrollflüge anhand zuvor festgelegter Routen und Zeitpläne. Zudem kann die Drohne in ein bestehendes Ring-Ökosystem eingebunden werden. Dann führt die Ring Drone automatisch einen Kontrollflug in Innenbereichen zu festgelegten Punkten durch, wenn ein Alarm von einer Ring-Kamera, einem Sensor oder einem Alarmsystem ausgelöst wird. Dort erfasst die Drohne dann die Umgebung durch eine 360-Grad-Flugbewegung und sendet die Bilder an Smartphones von Nutzerinnen und Nutzern.

Schöne neue Welt.

 

Wie die Polizei mit vernetzten privaten Kameras amerikanische Kleinstädte überwacht

Eigentlich ist Sarkasmus fehl am Platze. Denn Amazon Ring rüstet seit Jahren private Haushalte mit Überwachungs-Gagdets aller Art auf – und erweitert dadurch die Überwachungssphäre des Staates massiv.

Behörden bekommen zum Nulltarif eine Überwachung von Wohnungen, Vorgärten und Straßen aufgebaut.
Sie können die Aufnahmen per Knopfdruck beim Bürger anfragen oder sie von Amazon bekommen, manchmal ohne richterlichen Beschluss und machmal auch mit. Schon vor fünf Jahren arbeiteten 2.000 US-Behörden mit Amazon bei dieser Form der Überwachung zusammen.

Nie war der Ausbau der Videoüberwachung so billig. Die Bürger:innen protestieren nicht dagegen. Sie schrauben die Kameras selbst an die Wand. Sie zahlen sie sogar mit Freude.

Win Win Win für den Überwachungsstaat – und für Amazon.



Source link

Weiterlesen

Datenschutz & Sicherheit

Operation Endgame: Weltweiter Schlag gegen Cybercrime


In einer international von Europol koordinierten Aktion aus dem Umfeld der „Operation Endgame“ sind Strafverfolger gegen 235 Server und 257 Domains aus dem Malware-Umfeld von Gootloader, CastleRAT und StealC vorgegangen. Die Malware-Verteilungsnetzwerke seien dadurch empfindlich gestört, teilt Europol zur jüngsten Runde der Operation mit.

Weiterlesen nach der Anzeige

Europol erklärt in der Mitteilung, dass sie mit „Operation Endgame“ insbesondere „Cybercrime-as-a-Service“-Geschäftsmodelle im Visier haben. Die dabei eingesetzten Tools ermöglichten weitere Straftaten wie Ransomware-Angriffe und Datendiebstahl. Die Strafverfolger haben zudem mit Unternehmen aus der Wirtschaft zusammengearbeitet. Sie sind gegen drei bösartige Toolkits vorgegangen: Bei Gootloader handelt es sich um einen Dropper/Loader, der unbefugten Zugriff auf Computer ermöglicht. Er kommt üblicherweise in Form gefälschter juristischer Dokumente auf kompromittierten Webseiten – oftmals geknackte WordPress-Seiten – auf die Rechner der Opfer. Die Täter setzen oft auf Erpressung durch Installation von Ransomware. Allein zu Gootloader haben die Ermittler 14 Server und 218 Domains vom Netz genommen, 681 infizierte Webseiten wurden bereinigt.

Der Remote-Access-Trojan (RAT) CastleRAT ist demnach seit dem Jahr 2025 bekannt. Er ermöglicht den Missbrauch infizierter Computer aus der Ferne. CastleRAT liefere eine moderne technische Architektur, erörtern die Ermittler. Er lasse sich flexibel verteilen und nutze Mechanismen, die die Erkennung erschweren. Auch mit CastleRAT haben die Angreifer zahlreiche Daten verschlüsselt und ganze IT-Systeme lahmgelegt, um die Betroffenen um Lösegeld zu erpressen. 120 der Server betrafen das RAT, dazu gehören zudem 39 der beschlagnahmten Domains. Die Daten von Opfern wurden zudem weitergegeben, um sie zu warnen. Außerdem waren 102 der Server für den Infostealer StealC zuständig. Der wurde über zahlreiche Angriffsvektoren verteilt und dient dazu, sensible Informationen wie Zugangsdaten und Passwörter, digitale Identitäten und mehr von infizierten Computern auszuleiten. Die Täter missbrauchen die Daten dann etwa für Handel und Betrügereien.

Mehr als 6 Millionen Zugangsdaten von Opfern haben die Ermittler in der kriminellen Infrastruktur ausfindig gemacht. Die Angreifer hätten die Daten verkauft, sodass sie später auch für Cyberangriffe etwa mit Ransomware missbraucht werden können. Die Daten der Opfer haben die Ermittler etwa mit dem Have-I-Been-Pwned-Projekt, DIVD, CheckjeHack, NoMoreLeaks, Sekoia, der Shadowserver Foundation und dem NL-NCSC geteilt, damit diese die Opfer über den Diebstahl durch die CastleRAT-Malware informieren können. Europol rät WordPress-Nutzerinnen und -Nutzern, ihre Zugangsdaten zu erneuern und Mehr-Faktor-Authentifizierung einzusetzen – außerdem sollen sie Schwachstellen in ihren Installationen patchen.

An der Aktion waren zahlreiche internationale Strafverfolgungsbehörden aus Europa, Kanada und den USA beteiligt. Aus Deutschland wirkte das Bundeskriminalamt mit. Beim Infostealer StealC knüpft die jetzige Aktion an die Juni-Runde an, in der die Ermittler auch gegen die Malware „SocGholish“ vorgegangen waren.


(dmk)



Source link

Weiterlesen

Beliebt