Eine Pappmaché-Version von CSU-Innenminister Alexander Dobrindt springt aus einem Pappkarton, begleitet von einer riesigen Überwachungskamera. Diese Szene hat die NGO AlgorithmWatch vorbereitet, als sie am gestrigen Mittwoch eine Petition gegen das Überwachungspaket übergeben hat, pünktlich zur ersten Lesung der Gesetzentwürfe im Bundestag. Vor Ort waren die Bundestagsabgeordneten Konstantin von Notz (Grüne), Clara Bünger (Linke) und Maja Wallstein (SPD).

Durch die Reformen dürfte die Polizei automatisiert etwa Fahndungsfotos mit Social-Media-Beiträgen abgleichen und über Datenbanken hinweg Analysen durchführen. Mehrere zivilgesellschaftliche Organisationen kritisieren das Paket scharf, unter anderem weil Behörden die Daten zum biometrischen Abgleich sogar an private Firmen im Ausland übermitteln könnten. Außerdem mache der Gesetzentwurf nicht klar, wie der Abgleich von Bildern gesuchter Personen mit im Netz verfügbaren Fotos funktionieren soll, ohne gegen die KI-Verordnung der EU zu verstoßen.

AlgorithmWatch hat die Petition Mitte April gestartet, nachdem Innen- und Justizministerium die drei Gesetzentwürfe zur Stärkung digitaler Ermittlungsbefugnisse vorlegt hatten. Fast drei Monate später überweist der Bundestag die Gesetzentwürfe nun in die Ausschüsse – und die Petition zählt mehr als 167.000 Unterschriften. Zusätzlich hat die Organisation eine E‑Mail-Vorlage eingerichtet, mit der sich Interessierte in wenigen Klicks persönlich an Mitglieder des Bundestags wenden können.

„Genau das Werkzeug, von dem Autoritäre träumen“

Vor fast leeren Reihen hielten die Abgeordneten am Mittwoch ihre Reden zu den Entwürfen. Eine halbe Stunde Aussprache gab es für das umfangreiche Paket. Der Entwurf „zur Änderung der Strafprozessordnung“ soll nun im Ausschuss für Recht und Verbraucherschutz beraten werden. Die Gesetzentwürfe „zur Stärkung digitaler Ermittlungsbefugnisse in der Polizeiarbeit“ und „zur Stärkung digitaler Ermittlungsbefugnisse zur Abwehr von Gefahren des internationalen Terrorismus“ wandern in den Innenausschuss.

Die Opposition hatte Anfang Juli Anträge vorgelegt. „Nein zu biometrischen Massenerkennungssystemen“, schreibt etwa die Linksfraktion. „Sie bauen eine autoritäre Infrastruktur, und diese Infrastruktur bleibt“, sagt Clara Bünger in ihrer Rede im Bundestag. „Eine biometrische Kartei von Millionen Menschen ist genau das Werkzeug, von dem Autoritäre träumen.“

Die Grünen kritisieren, dass die Regierung die Befugnisse für digitale Ermittlungen pauschal ausweiten will. „Wenn Sie das so verabschieden, sind Sie einmal mehr vor dem Bundesverfassungsgericht“, sagt Konstantin von Notz. Die Grünen fordern, die automatisierte Datenanalyse sowie die Fotofahndung im Netz solle stattdessen nur unter bestimmten Voraussetzungen möglich sein.

AlgorithmWatch sieht keine Spielräume. „Die vorgeschlagenen Befugnisse sind europarechtswidrig, verletzen verfassungsrechtliche Mindestanforderungen und widersprechen datenschutzrechtlichen Grundsätzen“, schreibt die Organisation mit Blick auf den automatisierten biometrischen Abgleich mit öffentlich verfügbaren Daten aus dem Internet. Die Regierung solle die Entwürfe zurückziehen. In der E‑Mail-Vorlage an Bundestagsabgeordnete heißt es deshalb: „Stoppen Sie diese Überwachungspläne!“

Meta arbeitet einem Bericht der Financial Times zufolge an einer Überwachungsbrille („smart glasses“), welche permanent Audioaufnahmen und alle paar Sekunden Fotos der Umgebung machen soll. Die Technologie wird euphemistisch „Super Sensing“ genannt, Nutzer:innen sollen dann die Meta-KI zu den Aufzeichnungen ihres Geräts befragen können.

Laut dem Tech-Medium The Verge sollen die Aufnahmen weder den Nutzer:innen noch Meta direkt zugänglich sein, sondern Metadaten aus diesen extrahiert werden und auf die Server des Unternehmens geladen werden.

Meta selbst wollte zwar gegenüber der Financial Times nichts zu „internen Prototypen“ sagen, verwies aber auf ein KI-Forschungsprojekt namens „Aria“, das angeblich Privatsphäre schützende Technologien entwickle. Dem Bericht zufolge verkauft Meta die Entwicklung der permanenten Überwachungsbrille offenbar als datenschutzfreundlich.

Dieser Logik entsprechend plane Meta, dass die Brille die permanenten Aufnahmen auch nicht durch eine Warnleuchte anzeigt, denn diese sei für „aktive Aufnahmeszenarien“ reserviert, heißt es in einem Whitepaper aus dem Jahr 2025, den The Verde verlinkt.

Schon aktuelle Generation ist gefährlich

Die beständige unkontrollierte Weiterentwicklung der Brillen zeigt, dass die existierenden Datenschutz- und Privatsphäre-Bedenken von der Industrie ignoriert werden. Zuletzt war Meta dabei aufgeflogen, in die existierende Brillengeneration Gesichtserkennung einbauen zu wollen. Nachdem WIRED darüber berichtet hatte, nahm der Konzern die Funktion vorerst aus der Programmierung.

Ich sehe was, was du nicht siehst

Doch schon die jetzt verfügbaren Überwachungsbrillen von Meta stehen massiv in der Kritik – und das nicht nur, weil sie für digitale Gewalt und unerlaubte Aufnahmen genutzt werden. Eine umfassende rechtswissenschaftliche Betrachtung stellte schon vor Jahren fest: „Smart Glasses bergen aufgrund fehlender Transparenz der Informationserfassung sowie mangelnder Kontrolle anschließender Informationsverarbeitung eine erhebliche Gefahr der Beeinträchtigung der Privatsphäre und damit rechtlich verbürgter Persönlichkeitsrechte der von ihnen erfassten Personen.“

Dabei gingen die Gefahren „weit über die bisher verwendeten Arten der optischen, akustischen und elektronischen Informationserfassung“ wie bei Videoüberwachung oder Smartphones mit Kameras hinaus. Problematisch ist dabei nicht nur die Tiefe des technischen Eingriffs, sondern auch die absehbare Breite ihrer Anwendung, wenn immer mehr Menschen die Brillen nutzen.

Proteste gegen die Brillen

Unterdessen gibt es aber auch immer mehr Protest gegen die Überwachungsbrillen. Eine britische Gruppe mit den Namen „Everyone hates Elon“ beispielsweise hängt falsche Werbe-Plakate im Namen von Meta auf. Darauf steht: „Der größte Fortschritt in Technologie für Perverse seit dem Trenchcoat“. Angespielt wird hier auf die Nutzer:innen der Brille, die heimlich Frauen aufnehmen und deren Bilder im Netz verbreiten.

Neben Aktivist:innen und Digital-Rights-Organisationen bringen sich auch die Datenschutzbehörden gegen die Überwachungsbrillen in Stellung.

Die französische Behörde CNIL hat im Mai eine Warnung vor den Brillen ausgesprochen. Sie stellten ein „erhebliches Risiko“ für die Normalisierung von Überwachung dar und könnten „zu einem tiefgreifenden Wandel unserer Gesellschaften führen“.

Auch der Europäische Datenschutzausschuss (EDPD) hat eine Arbeitsgruppe zum Thema eingerichtet. Ein Bericht soll diesen Sommer erscheinen. Nachdem Whistleblower:innen berichtet hatten, dass intime Aufnahmen aus Smart Glasses bei Datenarbeiter:innen landen, haben sich auch Abgeordnete des EU-Parlaments eingeschaltet und fordern Aufklärung.

Der Knackpunkt aus Sicht der Datenschutzgrundverordnung (DSGVO) ist die Frage, ob die kleine LED an der Brille den Anforderungen eines Hinweises genügt. Denn laut DSGVO darf nur gefilmt werden, wer erkennbar darauf hingewiesen wurde und zugestimmt hat („notice and consent“), egal ob das in der U‑Bahn oder auf einem Konzert geschieht. Verbraucherschützer:innen warnen, eine solche Einwilligung sei im Fall von Smart Glasses realistischerweise gar nicht möglich.

Über seinen Warn- und Informationsdienst hat das CERT-Bund des BSI einen aktuellen Sicherheitshinweis zu n8n, einer quelloffenen Plattform zur Workflow-Automatisierung, veröffentlicht. Es verweist darin auf n8n-Advisories zu insgesamt 14 Schwachstellen, die in frisch veröffentlichten Versionen geschlossen wurden. Wer n8n selbst hostet, dürfte die Advisories schon vorab als Service per E-Mail erhalten haben.

In seinem Sicherheitshinweis bewertet das CERT die von den Schwachstellen ausgehende Gefahr in ihrer Gesamtheit als „kritisch“ mit dem CVSS-Base-Score 9.9 von 10.0 . Obwohl in den Einzelbeschreibungen der Lücken bei GitHub maximal Scores von 8.9 (“High“) auftauchen, sollte der CERT-Hinweis ausreichend Anlass bieten, verwundbare n8n-Instanzen auf den neuesten Stand zu bringen. Hinweise auf aktive Angriffe in freier Wildbahn umfasst die Veröffentlichung nicht.

Je nach Schwachstelle können die verwundbaren Versionen variieren. Deshalb ist es ratsam, direkt auf die aktuellsten, abgesicherten Releases 2.29, 2.30.2 (Pre-Release) beziehungsweise 1.123.64 umzusteigen.

Details zu den Schwachstellen

Sieben Advisories befassen sich mit Lücken mit „High“, die übrigen mit „Moderate“-Einstufungen. Mit 8.9 am höchsten bewertet wurden dabei

Die übrigen „High“-Lücken umfassen Fehler im AI-Agent-Feature, zwei Cross-Site-Scripting-Angriffsmöglichkeiten (1 / 2) sowie eine Rechteausweitung auf Basis fehlerbehafteten Enterprise Single Sign-Ons (SSO).

Die CERT-Bund-Veröffentlichung beziehungsweise die Advisory-Übersicht im n8n-Repository liefern bei Bedarf einen Gesamtüberblick.

(ovw)