Connect with us

Datenschutz & Sicherheit

Kein Nachweis, dass Massen-Scans verhältnismäßig sind


Heimlich, still und leise hat die EU-Kommission nun doch ihren Bericht zur freiwilligen Chatkontrolle veröffentlicht. Dazu ist sie gesetzlich verpflichtet, um die Verhältnismäßigkeit der freiwilligen Massen-Scans zu untersuchen.

Seit Anfang September stand der Bericht bereits aus. Die EU-Kommission zögerte ihn monatelang hinaus und veröffentlichte ihn dann genau am Tag nach der Einigung zur Chatkontrolle im EU-Rat.

Der Kommissionsbericht kann auch nach mehreren Monaten Verzögerung wieder keine ausreichenden Fakten und Statistiken liefern, um ein Urteil über die Verhältnismäßigkeit der freiwilligen Chatkontrolle zu treffen. Die aufgelisteten Zahlen von Dienste-Anbietern und Mitgliedstaaten sind nach wie vor unvollständig und nicht hinreichend. Die EU-Kommission schlussfolgert daher zur Verhältnismäßigkeit: „Die verfügbaren Daten reichen nicht aus, um diese Frage eindeutig zu beantworten.“

Konstantin Macher von der Digitalen Gesellschaft kommt in der Frage die Verhältnismäßigkeit zu dem Ergebnis: „Es gibt auch über vier Jahre nach dem ersten Beschluss zur freiwilligen Chatkontrolle keine Evidenz, dass diese Form der Massenüberwachung funktionieren würde. Die freiwillige Chatkontrolle ist ein massiver Grundrechtseingriff, dessen Verhältnismäßigkeit nicht nachgewiesen werden kann. Sie ist unverhältnismäßig.“

Kommentieren oder Einordnen will die EU-Kommission selbst ihren Bericht offenbar nicht. Auf Nachfrage von netzpolitik.org sagte eine Sprecherin, dass „keine weitere Kommunikation“ zu dem Bericht geplant sei. Angesichts der Tatsache, dass die Chatkontrolle zumindest in einigen EU-Ländern ein breit diskutiertes Thema ist und von Experten und aus der Wissenschaft jahrelang sehr kritisch bewertet wurde, überrascht die Funkstille.

Freiwillige Chatkontrolle nur als Ausnahme erlaubt

Die freiwillige Chatkontrolle ist kaum weniger umstritten als der verpflichtende anlasslose Zwang zum Scannen, über den drei Jahre verhandelt wurde. Denn in Europa muss die Vertraulichkeit der Kommunikation von den Mitgliedstaaten sichergestellt werden. So schreibt es die EU-Datenschutzrichtlinie für elektronische Kommunikation schon seit 2002 vor.

Es ist also in Europa grundsätzlich nicht erlaubt, massenhaft Inhalte von Nachrichten freiwillig zu durchleuchten. Denn derartige Grundrechtseingriffe müssten gesetzlich geregelt werden. Doch das bisherige freiwillige Scannen beruht auf keiner expliziten Rechtsgrundlage und wäre damit schlicht rechtswidrig. Allerdings besteht seit 2021 eine vorübergehende Ausnahme, die nochmal verlängert wurde. Diese temporäre Ausnahme endet im April 2026.

Weil auch nach Jahren des Bestehens dieser Ausnahmeregelung keine wirksamen Schutzmaßnahmen oder einschränkende Regeln vorgesehen wurden, hat der Europäische Datenschutzbeauftragte, Wojciech Wiewiórowski, die Verlängerung kritisiert. Sie dürfe nicht einfach durchgewunken werden. Wiewiórowski hatte schon zu Beginn der Ausnahme im Jahr 2021 gewarnt, dass man keinen „Präzedenzfall“ schaffen dürfe.

Die EU-Kommission konnte bisher keinen Nachweis erbringen, dass die „freiwillige“ Massenüberwachung der privaten Kommunikation verhältnismäßig oder auch nur signifikant wirksam wäre. Auch der aktuelle Bericht kann das nicht leisten, wie die Kommission selbst einräumt.

In welchen Größenordnungen wird gescannt?

Dienste-Anbieter haben zwar keine Verpflichtung, massenhaft Inhalte zu scannen. Dennoch führen Konzerne wie Google, Microsoft oder Meta, beispielsweise bei Facebook oder WhatsApp, diese sogenannten CSAM-Scans seit Jahren durch. Sie sollen aufdecken, wenn Nutzer Inhalte verschicken, die sexuellen Kindesmissbrauch (child sexual abuse material, CSAM) zeigen. Genaue Vorschriften, welche Nutzernachrichten wie und wann durchleuchtet werden, macht ihnen dabei niemand.

CSAM

Wir berichten seit Jahren unter dem Stichwort CSAM (Child Sexual Abuse Material) über politische Vorhaben im Kampf gegen Missbrauchsdarstellungen von Kindern. Unterstütze unsere Arbeit!

Nur zwei Dienste-Anbieter übermittelten der EU-Kommission Angaben zur Größenordnung der freiwillig gescannten Bilder und Filme. Microsoft wertete im Jahr 2023 weltweit über 11,7 Milliarden Inhalte und im Jahr 2024 etwas unter 10 Milliarden Inhalte aus. Wie viele dieser gescannten Bilder oder Filme in der EU anfielen, ist dabei nicht spezifiziert.

Im Jahr 2023 wurden im Fall von Microsoft weltweit über 32.000 Inhalte als möglicher CSAM identifiziert, davon über 9.000 aus der EU. Berechnet man aus den milliardenfachen weltweiten Scans den Prozentsatz, kommt man bei 32.000 Inhalten auf 0,0002735 Prozent. Anders ausgedrückt schlagen die Scans bei einem von 365.000 Inhalten an. Für das Jahr 2024 sind weltweit 26.000 CSAM-Inhalte angegeben, davon 5.800 Inhalte in der EU. Das ergibt für 26.000 Inhalte 0,00027083 Prozent.

Bei LinkedIn sind die Zahlen deutlich geringer: Das Unternehmen gab für 2023 den Scan von über 24 Millionen Bildern und über einer Million Filme und für 2024 von über 22 Millionen Bildern und über zwei Millionen Filmen an. In beiden Jahren stammten diese Inhalte aus der EU. Für das Jahr 2023 meldete LinkedIn zwei Bilder (und keinerlei Filme), die Kindesmissbrauch darstellen könnten, und für 2024 dann ein Bild. Berechnet man aus den millionenfachen Scans den Prozentsatz, kommt man im Jahr 2023 auf 0,00000833 Prozent. Die massenhaften Scans brachten sowohl bei Microsoft als auch bei LinkedIn also nur minimale Ergebnisse.

Bei Google hingegen fehlte die Datenbasis, nur die Ergebnisse sind im Bericht hinterlegt: Demnach wurden im Jahr 2023 1.558 Inhalte als möglicher CSAM identifiziert, im Jahr 2024 dann 1.824 Inhalte. Der Konzern dürfte aufgrund seiner populären Dienste bei der Anzahl der Scans in eine ähnliche Größenordnung fallen wie Microsoft. Entsprechend dürften auch hier die Ergebnisse nicht einmal im Promillebereich liegen.

Anders sieht es bei Meta aus, die völlig andere Zahlen melden: Im Jahr 2023 gibt der Konzern 3,6 Millionen Inhalte an, die als möglicher CSAM identifiziert worden sind, die alle in der EU anfielen. Die Millionenzahlen setzen sich im Jahr 2024 fort: 1,5 Millionen Inhalte in der EU sind als möglicher CSAM gemeldet worden.

Diese enorm große Diskrepanz setzt sich bei den Nutzermeldungen an die Dienste-Anbieter fort: Google meldet 297 und 216 Nutzerbeschwerden für die Jahre 2023 und 2024, Meta hingegen 254.500 und 76.900. Wie diese erheblichen Unterschiede in den Größenordnungen zustandekommen, wird nicht erklärt.

Technisch sind die Massen-Scans als fehleranfällig bekannt. Das wird dann gefährlich für Nutzer, wenn Bilder oder Filme einen falschen Verdacht auslösen. Wie häufig das vorkommt, bleibt jedoch unklar. Denn miteinander vergleichbare Falsch-Positiv-Fehlerraten kann der Bericht nicht liefern, so dass die Anzahl von Falschmeldungen und Fehlerquoten vage bleibt. Laut Bundeskriminalamt ist fast die Hälfte der Verdachtsmeldungen aus den Vereinigten Staaten nach deutschem Recht strafrechtlich nicht relevant.

Wie geht es weiter mit der Chatkontrolle?

Datenmaterial weiter zu dünn

Schon im Dezember 2023 hatte die EU-Kommission eine Evaluierung der freiwilligen Chatkontrolle versucht. Die Verhältnismäßigkeit zu belegen, gelang ihr damals nicht, weil das Datenmaterial zu dünn war: Man könne keine „endgültigen Schlussfolgerungen ziehen“. Gleichwohl blieb die Ausnahme für die freiwillige Chatkontrolle weiter bestehen.

Die EU-Kommission verweist nun in ihrem Fazit wieder auf die Unzulänglichkeiten des Zahlenmaterials: Die Berichte aus den Mitgliedstaaten würden „nach wie vor ähnliche Probleme wie im ersten Bericht“ zur Chatkontrolle-Ausnahmeregelung aufweisen, nämlich auf nur „unvollständigen und fragmentierten“ Daten beruhen. Es sei daher weiter „nicht möglich, einen umfassenden und zuverlässigen Überblick“ zur Anzahl der gemeldeten Fälle von aufgedeckter sexueller Ausbeutung von Kindern oder zur die Anzahl identifizierter Kinder oder zur Anzahl von verurteilten Tätern zu geben. Die Datenerhebung und Berichterstattung der Mitgliedstaaten habe „nach wie vor erhebliche Mängel“.

Dennoch will die EU-Kommission an der freiwilligen Chatkontrolle festhalten, weil ein „numerischer Maßstab“ angesichts der „Anzahl der geretteten Kinder“ nicht der einzige Anhaltspunkt sein könne. In der Anhörung im EU-Ausschuss für Bürgerliche Freiheiten, Justiz und Inneres (LIBE) hatte eine Abgeordnete wissen wollen, wie viele Kinder denn durch freiwillige Massen-Scans gerettet worden wären. Eine Antwort blieb die Kommission schuldig.

Obwohl auch der Bericht wieder keine handfesten Aussagen über tatsächlich gerettete Kinder machen kann, bleibt die Kommission bei der fast wortgleichen Schlussfolgerung wie schon in der ersten Evaluation: Es gebe „keine Anhaltspunkte dafür, dass die Ausnahmeregelung nicht verhältnismäßig ist“. Sie versucht also, den Spieß umzudrehen und damit den Verhältnismäßigkeitsgrundsatz auf den Kopf zu stellen.

Es ist keine Kleinigkeit, die Verhältnismäßigkeit einer Maßnahme zu zeigen. Denn Grundrechtseingriffe – erst recht massenhafte – müssen notwendig und verhältnismäßig sein. Das hat die Kommission zu beweisen. Das misslang jedoch anhand der Zahlen.

Stattdessen versucht sie es mit einer Verdrehung der Tatsachen: Die Kommission hat zwar keine ausreichenden Daten, um zu belegen, dass die Chatkontrolle verhältnismäßig ist, aber auch keine Hinweise, dass sie unverhältnismäßig ist. Als würde das als Nachweis genügen. Patrick Breyer, ehemaliger EU-Abgeordneter und Jurist, der sich seit Jahren dem Thema widmet, bezeichnet diese Beweislastumkehr als „juristischen Unsinn“.



Source link

Datenschutz & Sicherheit

BSW auf Zustimmungskurs zu massiver Verschärfung


Stell dir vor, Du machst ein Polizeigesetz – und keiner macht mit. Vor diesem Szenario, so schien es auf den ersten Blick, stand die sächsische Regierung im vergangenen Herbst. Damals stellte sie ihren Entwurf für die Novelle des Polizeivollzugsdienstgesetzes (SächsPVDG) vor, der die Polizeibefugnisse auf Kosten der Grundrechte erheblich erweitern würde.

Die Liste der geplanten Maßnahmen ist lang und enthält unter anderem:

  • Verhaltensscanner,
  • automatisierte Datenanalyse durch eine Plattform wie Palantir,
  • Staatstrojaner zur Gefahrenabwehr (Quellen-TKÜ),
  • der Abgleich von Gesichtern und Stimmen mit dem Internet,
  • die Ausweitung der automatisierten Kennzeichenerfassung,
  • das Filmen in Autos (auch mit Drohnen), um gegen „Handy-Sünder:innen“ am Steuer vorzugehen.

Da die schwarz-rote Regierung in Sachsen keine eigene Mehrheit hat, ist sie auf Stimmen aus der Opposition angewiesen. Dafür hat die sächsische Regierung einen sogenannten Konsultationsmechanismus etabliert. In diesem Verfahren schicken die Fraktionen sowie einige Interessengruppen ihre Position zu einem geplanten Gesetz an die Regierung. Diese überlegt dann, was sie davon übernimmt – auch mit Blick auf die Mehrheitssuche im Landtag.

Das Bündnis Sahra Wagenknecht (BSW) in Sachsen hat kaum Einwände gegen die deutliche Verschärfung des SächsPVDG. Das geht aus einer Stellungnahme der Fraktion hervor, die netzpolitik.org durch des Sächsische Transparenzgesetzes erhalten hat. Damit wird immer wahrscheinlicher, dass das BSW der sächsischen Minderheitskoalition zur Mehrheit verhilft.

Bisher schwieg das BSW zu seiner Position

Über das Sächsische Transparenzgesetz haben wir 24 der 26 abgegebenen Stellungnahmen erhalten. Wir veröffentlichen die Dokumente auf der Plattform FragDenStaat.

Enthalten sind alle Stellungnahmen fast aller Fraktionen im Landtag. Die AFD-Fraktion hat keine Stellungnahme abgegeben; sie hat sich öffentlich gegen den Konsultationsmechanismus ausgesprochen. Bei zwei Stellungnahmen verweigerten laut Bescheid die Urheber:innen „aus dem Bereich der wissenschaftlichen Forschung“ die Veröffentlichung zum „Schutz ihres geistigen Eigentums“.

Die Stellungnahme der BSW-Fraktion zeigt erstmals öffentlich die Position des Bündnisses zur SächsPVDG-Novelle. Nachdem Grüne und Linke frühzeitig harsche Kritik an dem Entwurf der Staatsregierung geübt hatten – und bereits gegen das bisher geltende SächsPVDG geklagt hatten –, rückten Beobachter:innen das BSW als potenzielle Mehrheitsbeschafferin in den Fokus.

Was das BSW Sachsen über den Entwurf denkt, war bisher allerdings unklar. In der Vergangenheit kündigte das Bündnis lediglich an, den Entwurf zu prüfen. Inhaltliche Nachfragen von netzpolitik.org beantwortete das BSW in der Vergangenheit nicht. Seine Stellungnahme bestätigt jetzt, dass es zwischen Schwarz-Rot und den Wagenknecht-Anhänger:innen erhebliche Schnittmengen gibt.

Im Unterschied zu anderen Fraktionen hat das Bündnis Sahra Wagenknecht eine eher kurze Stellungnahme abgegeben. Auf nicht mal vier vollen Seiten kritisiert die BSW-Fraktion lediglich sieben Punkte des weitreichenden Vorschlags des Sächsischen Innenministeriums. Sie bleibt damit nicht nur hinter den ebenfalls oppositionellen Grünen und Linken zurück, sondern sieht den Gesetzentwurf sogar weniger kritisch als die mitregierende SPD-Fraktion.

BSW kritisiert „Vorfeldstraftat“

Doch welche Punkte will das BSW abändern? In ihrer Stellungnahme wendet sich die Fraktion gegen das Konzept der „Vorfeldstraftat“, die in der SächsPVDG-Novelle eingeführt wurde. Eine Vorfeldstraftat ist laut Gesetzentwurf ein Straftatbestand,

der Verhaltensweisen erfasst, die vom Gesetzgeber als generell gefährlich für Individualrechtsgüter oder Kollektivrechtsgüter bewertet werden, aber als einzelne Handlungen in räumlicher oder zeitlicher Hinsicht noch vor einer konkreten oder konkretisierten Gefährdung oder gar Verletzung solcher Rechtsgüter liegen können und damit strafbewehrte Vorbereitungshandlungen darstellen.

Der Begriff ist wichtig, weil an ihn eine Vielzahl alter und neuer Polizeibefugnisse im SächsPVDG-Entwurf geknüpft ist.

Das BSW sieht in der „Vorfeldstraftat“ eine „fragwürdige Vorverlagerung polizeilicher Eingriffsbefugnisse“. Es drohe „eine Kriminalisierung von bloßen Verdachtsmomenten oder sozial auffälligem Verhalten sowie die Verwischung der Grenze zwischen Gefahrenabwehr und Strafverfolgung“. Nicht nur das BSW hatte hier Bedenken, selbst die Deutsche Polizeigewerkschaft (DPolG) sieht die entworfene Definition als zu weit gefasst an.

Nein zur Echtzeit-Identifizierung, Ja zum Verhaltensscanner

Das BSW lehnt auch einen Teil der KI-gestützten Videoüberwachung ab, die sogenannte biometrische Echtzeit-Fernidentifizierung. Dabei sollen Polizist:innen unter bestimmten Voraussetzungen einen Echtzeitabgleich von „live“ gefilmten Menschen mit ihren eigenen Datenbeständen vornehmen. Das ist laut BSW ein „besonders schwerwiegender Eingriff in die Grundrechte“ und „eröffnet die Gefahr einer faktischen Massenüberwachung im öffentlichen Raum“.

Die im gleichen Paragrafen eingeführten Verhaltensscanner begrüßt die BSW-Fraktion hingegen. Man erkenne die „Notwendigkeit und Sinnhaftigkeit“ dieser Regelung an und teile sie, heißt es in der Stellungnahme.

Nur anonyme Polizeidaten fürs KI-Training

Dass KI-Modelle mit Daten der Polizei trainiert werden können, will das BSW nur dann erlauben, wenn diese Daten anonymisiert sind. Der Entwurf hatte auch personenbezogene Daten für das KI-Training freigegeben, wenn eine Pseudonymisierung oder Anonymisierung nicht möglich gewesen wäre.

Außerdem möchte das BSW die Schwelle für Öffentlichkeitsfahndungen erhöhen (von einer „Gefahr“ zu einer „dringenden Gefahr“ für Leib, Leben oder Freiheit eines Menschen) sowie die automatisierte Erfassung von Nummernschildern auf die Verhinderung von Straftaten mit Grenzbezug beschränken.

Nach dem Willen der BSW-Abgeordneten soll das Filmen von Bodycams in Wohnungen auf drei Jahre befristet und umfassend evaluiert werden. Ebenfalls evaluiert werden soll der Einsatz von Tasern. Hier spricht sich das BSW gegen einen flächendeckenden Roll-out aus. Stattdessen sollen Polizist*innen zunächst nur in einem Revier im ländlichen Raum sowie in einem „Großstadtrevier“ Taser bekommen. Auch die SPD-Fraktion hatte sich für eine Erprobung in lediglich zwei Polizeidirektionen ausgesprochen, bevor alle Polizist:innen im Land Taser erhalten.

Kein Änderungsbedarf bei Palantir-Paragrafen

Spannender als die Punkte, die das BSW abgeändert sehen will, sind jene Teile des Entwurfs, auf die das BSW nicht eingeht. Bei diesen sehe man keinen Änderungsbedarf, bestätigt die Pressesprecherin der Fraktion auf Anfrage von netzpolitik.org. Die Stellungnahme sei auch heute noch aktuell, so die Sprecherin.

Ein Streitpunkt ist Palantir. Der Entwurf der SächsPVDG-Novelle sieht die Einführung einer Plattform zur automatisierten Datenanalyse vor. Baden-Württemberg, Bayern, Hessen und NRW setzen hier auf Produkte der Firma Palantir.

Während eine solche Plattform für automatisierte Datenanalyse für grundsätzliche Kritik von Datenschützer:innen sorgt – der IT-Sicherheitsexperte Manuel Atug spricht von „Rasterfahndung by design“ – richtet sich die Kritik auch konkret gegen Palantir.

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

So hilft die Firma der Abschiebehörde ICE in den USA bei der Jagd auf Migrant*innen. Laut einem Bericht der Schweizer Armee ist es zudem möglich, dass die US-Regierung und die Geheimdienste die Daten einsehen können. Außerdem ist Palantir Mit-Gründer Peter Thiel ein Unterstützer Donald Trumps und glaubt nach eigener Aussage nicht daran, „dass Demokratie und Freiheit noch kompatibel sind“.

Die SPD in Sachsen hat sich mehrfach gegen die Beschaffung einer Palantir-Software ausgesprochen, zuletzt in ihrer Stellungnahme zum Konsultationsverfahren. Das BSW springt den Sozialdemokrat:innen hier offenbar nicht bei, sie müssen sich also in den Verhandlungen selbst durchsetzen.

Mit Drohnen auf Spatzen schießen

Ebenso ignoriert das BSW die Kritik an der Videoüberwachung von Autofahrer:innen. Nach dem Entwurf der SächsPVDG-Novelle soll die Polizei auch in Autos filmen dürfen, um Handy-Nutzer:innen am Steuer zu erwischen. Dafür sollen auch Drohnen eingesetzt werden können. Die Nutzung eines Handys beim Fahren ist eine Ordnungswidrigkeit, dementsprechend unverhältnismäßig ist der Einsatz von Drohnen und anderen Videokameras.

Nicht nur die SPD kritisiert diesen Teil des Gesetzentwurfs, auch die sächsische Datenschutzbeauftragte Juliane Hundert äußert sich deutlich: „Angesichts der auf der Hand liegenden Unverhältnismäßigkeit der Befugnis sei nur am Rande erwähnt, dass die vorgesehene Offenheit, also Erkennbarkeit der Videoüberwachung des fließenden Straßenverkehrs dann kaum umzusetzen wäre, wenn sie mittels Drohnen erfolgen soll.“ Die Vorschrift sei „offensichtlich verfassungswidrig und sollte ersatzlos gestrichen werden“, schreibt Hundert in ihrer Stellungnahme.

Kein kritisches Wort zu Staatstrojanern

Ebenfalls keine Probleme hat das BSW mit dem erweiterten Einsatz von Staatstrojanern. Die sächsische Regierung will die Quellen-TKÜ auch zur Gefahrenabwehr ermöglichen. Ginge es nach der CDU, soll das gleiche auch für die Online-Durchsuchung gehen.

Auch zur Erkennung von Gesichtern und Stimmen mit Internet-Daten formuliert das BSW keine Position, obwohl es Zweifel daran gibt, dass diese Befugnis rechtlich haltbar wäre. Laut einem Gutachten von AlgorithmWatch ist es technisch nicht umsetzbar, frei verfügbare Bilder aus dem Internet für einen Abgleich praktikabel durchsuchbar zu machen, ohne eine Datenbank dieser Bilder zu erstellen. Das wiederum verbietet die KI-Verordnung der EU.

Wie es weitergeht

Was heißt das alles für das finale Gesetz? Zwar sieht das BSW ebenfalls Änderungsbedarf bei einzelnen problematischen Paragrafen, es positioniert sich aber etwas weniger kritisch als die mitregierende SPD-Fraktion und ist noch weiter entfernt von der umfassenden Kritik von Grünen und Linken. Das erleichtert die Kompromissfindung mit der CDU und dem von ihr geführten Innenministerium, macht allerdings ein SächsPVDG unwahrscheinlicher, das die Grundrechte schont.

Inwiefern das Innenministerium auf die Wünsche des BSW, aber auch der Regierungsfraktionen eingehen wird, ist aktuell unklar. Daher verspricht das BSW auch noch keine Zustimmung zum Gesetz. „Es hängt davon ab, ob wir uns hinsichtlich der abweichenden Auffassungen annähern können“, schreibt eine Pressesprecherin der BSW-Fraktion gegenüber netzpolitik.org.

Das sächsische Innenministerium erklärt auf Anfrage, dass das Konsultationsverfahren abgeschlossen sei. Bisher wurde der überarbeitete Entwurf dem Parlament aber noch nicht übermittelt. „Voraussetzung für die Zuleitung des Gesetzesentwurfs an den Sächsischen Landtag ist die zweite Kabinettsbefassung“, teilt das Innenministerium auf Anfrage von netzpolitik.org mit.

Die nächste reguläre Sitzung des Innenausschusses ist am 12. März. Dann könnten die Abgeordneten eine Sachverständigenanhörung im Landtag ansetzen. Insgesamt haben Regierung und Parlament bis Ende Juni Zeit, dass SächsPVDG abzuändern. Andernfalls verliert die Polizei einige ihrer Befugnisse, weil der sächsische Verfassungsgerichtshof das aktuelle Polizeigesetz an einigen Stellen für verfassungswidrig erklärt hatte.



Source link

Weiterlesen

Datenschutz & Sicherheit

KW 5: Die Woche, als die Regierung sich an Automatisierung berauschte


Die 5. Kalenderwoche geht zu Ende. Wir haben 16 neue Texte mit insgesamt 117.090 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

– Fraktal, generiert mit MandelBrowser von Tomasz Śmigielski

Liebe Leser:innen,

eine Kommission hat in dieser Woche Arbeitsministerin Bärbel Bas Empfehlungen übergeben, wie der Sozialstaat „modernisiert“ werden könnte.

Digitalisierung spielt darin eine zentrale Rolle: Behörden sollen untereinander mehr Daten austauschen, dafür soll der komplexe Datenschutz weg und eine Personenkennziffer her. Verfassungsrechtlich ist das höchst fragwürdig.

Außerdem schlägt die Kommission vor, Verwaltungsvorgänge mit sogenannter Künstlicher Intelligenz zu automatisieren. Auch bei Ermessensspielräumen – also wenn es etwa darum geht, wie viel Unterstützung eine Person vom Amt bekommt. Und weil bei „KI“ bekanntlich immer Wahres, Schönes, Gutes rauskommt, sollen die Ergebnisse weniger gegengeprüft werden. Die Wohlfahrtsverbände halten davon herzlich wenig, sondern befürchten zusätzliche Diskriminierung.

Auch Bundesdigitalminister Karsten Wildberger sieht es buchstäblich als seine Mission an, tausende „outdated“ Fachverfahren in der Verwaltung zu automatisieren. Helfen soll dabei Agentische Künstliche Intelligenz, die so eine Art KI-Heinzelmännchen für Behördenprozesse antreiben soll.

Dafür brachte das Digitalministerium in dieser Woche den Agentic AI Hub an den Start. Man habe „eine große Tasche“, versicherte Wildberger den anwesenden „Start-up- und Scale-up-Vertreter:innen“ bei der Auftaktveranstaltung. Und man wolle Pilotprojekte möglichst schnell skalieren, sekundierte sein Staatssekretär Thomas Jarzombek.

Bei allem Automatisierungsrausch fehlte auch hier der Raum, um über Risiken, Kontrolle und – ja – Ethik zu sprechen. Dabei haben andere Länder KI-Systemen bereits das Steuer in der Verwaltung überlassen und sind damit alles andere als gut gefahren. Vielleicht skalieren wir das mal.

Habt ein schönes Wochenende!

Daniel


Breakpoint: Grundrechte sind nicht FSK 16

Kinder und Jugendliche haben ein Recht auf Information und Teilhabe – auch auf sozialen Medien. Wenn Erwachsene sie per Social-Media-Verbot von solchen Orten der Meinungsbildung ausschließen, werden sie ihrer Verpflichtung nicht gerecht. Von Carla Siepmann –
Artikel lesen

Deepfake-Skandal: EU-Kommission leitet Untersuchung gegen Grok und X ein

Nach einer Flut sexualisierter Grok-Deepfakes auf X prüft nun die EU-Kommission, ob Elon Musks Unternehmen gegen den Digital Services Act verstoßen haben. Erste Studien liefern derweil Details über das Ausmaß der produzierten sexualisierten Bilder. Von Laura Jaruszewski –
Artikel lesen

ADINT: Überwachungsfirmen können Menschen mit „anonymen“ Werbe-IDs ausspionieren

Meist im Verborgenen bereiten Unternehmen Daten aus der Online-Werbung für Geheimdienste auf. Manche prahlen damit, praktisch jedes Handy verfolgen zu können. Eine Recherche von Le Monde gewährt seltene Einblicke in eine Branche, die auch europäische Sicherheitsbehörden umwirbt. Von Ingo Dachwitz –
Artikel lesen

Anhörung zum Gesetzentwurf: Bundespolizei soll Staatstrojaner nutzen dürfen

Der neue Anlauf zur Reform des Bundespolizeigesetzes traf im Innenausschuss des Bundestags auf Kritik. Die Bundespolizei soll künftig Staatstrojaner nutzen dürfen, ohne dass für diese Hacking-Werkzeuge ein IT-Schwachstellenmanagement existiert. Von Constanze –
Artikel lesen

Hinweise gesucht: „Wir wollen die Verbreitung sexualisierter Deepfakes einschränken“

Per Mausklick lassen sich Fotos bekleideter Personen in Nacktbilder verwandeln. Die Organisation AlgorithmWatch bittet nun um Hinweise auf solche Apps und Websites, um systematisch dagegen vorzugehen. Wie das klappen soll, erklärt Forschungsleiter Oliver Marsh im Interview. Von Sebastian Meineck –
Artikel lesen

Österreichische Datenschutzbehörde: Microsoft hat illegal Minderjährige getrackt

Microsoft hat auf dem Rechner einer österreichischen Schülerin ohne deren Zustimmung Tracking-Cookies installiert und so persönliche Daten abgegriffen. Die österreichische Datenschutzbehörde hat nun festgestellt, dass der Datenabfluss illlegal war. Auch andere Microsoft-Nutzende können von illegalen Microsoft-Cookies betroffen sein. Von Martin Schwarzbeck, Ben Kumi –
Artikel lesen

Phishing-Angriff: Zahlreiche Journalist:innen im Visier bei Attacke über Signal-Messenger

Mit einem Phishing-Angriff versucht ein bislang unbekannter Akteur, offenbar gezielt Zugriff auf die Signal-Konten von Journalist:innen und Aktivist:innen zu bekommen. Wir erklären, wie der Angriff funktioniert und wie man sich vor ihm schützen kann. Von Markus Reuter –
Artikel lesen

Kehrtwende in UK: Pornhub widersetzt sich britischen Alterskontrollen

Ein halbes Jahr lang hat sich Pornhub den britischen Alterskontrollen gebeugt und massenhaft Nutzer*innen überprüft. Jetzt macht der Konzern eine Kehrtwende und kündigt seinen Rückzug aus dem Vereinigten Königreich an. Dahinter steckt ein geschickter PR-Stunt. Die Analyse. Von Sebastian Meineck –
Artikel lesen

Phishing attack: Numerous journalists targeted in attack via Signal Messenger

In a phishing attack, unknown actors are apparently attempting to gain access to accounts of journalists and activists on the Signal messaging service. We explain how the attack works and how you can protect yourself against it. Von Markus Reuter –
Artikel lesen

Diskussionspapier: Tech-Unternehmen sollen legalen Extremismus suchen

Internet-Dienste sollen nicht nur sexuellen Kindesmissbrauch suchen, sondern auch andere Inhalte wie Extremismus. Das fordern Deutschland, Frankreich und die Niederlande in einem Diskussionspapier. Tech-Unternehmen lehnen es ab, ihr System zum Datenaustausch auf solche Inhalte auszuweiten. Von Andre Meister –
Artikel lesen

ChatGPT: Polizeigewerkschaft bebildert Pressemitteilung mit generiertem Schockerfoto

Der sächsische Landesverband der Gewerkschaft der Polizei nutzt ein KI-generiertes Bild mit einem blutenden Polizisten, um eine Pressemitteilung zu illustrieren. Begründet wird dies mit Persönlichkeitsrechten und laufenden Ermittlungen, das Bild sei eine „symbolische Illustration“. Von Markus Reuter –
Artikel lesen

Sozialstaatsreform: Kommission empfiehlt Abbau von Grundrechten

Eine Fachkommission der Bundesregierung hat Empfehlungen vorgelegt, die den Sozialstaat bürgernäher und digitaler machen sollen. Dafür will sie den Datenschutz aufweichen und Verfahren mit Hilfe sogenannter Künstlicher Intelligenz automatisieren. Wohlfahrtsverbände warnen vor zusätzlicher Diskriminierung. Von Daniel Leisegang –
Artikel lesen

Berlin: Undurchsichtige Gesundheitsdatenbank-Pläne nach Brandbrief vorerst gestoppt

CDU und SPD wollen in Berlin eine zentrale Gesundheitsdatenbank an der Charité aufbauen. Doch die Berliner Datenschutzbeauftragte kritisierte das Vorhaben der Koalition scharf und fordert Nachbesserungen. Wir veröffentlichen ihren Brandbrief. Von Laura Jaruszewski –
Artikel lesen

Digitaler Omnibus: „Die EU-Kommission rüttelt an den Grundpfeilern des Datenschutzes“

Die EU-Kommission will pseudonymisierte Daten teilweise von der Datenschutzgrundverordnung ausnehmen. Jetzt äußert sich erstmals eine deutsche Datenschutzbeauftragte. Meike Kamp übt deutliche Kritik an den Plänen und glaubt, die Kommission habe ein Urteil des Europäischen Gerichtshofes missverstanden. Von Ingo Dachwitz –
Artikel lesen

EUDI-Wallet: Digitale Brieftasche geht in Testphase

Anfang 2027 soll in Deutschland eine staatliche EUDI-Wallet bereitstehen. In einer Testumgebung können Behörden und Unternehmen deren Funktionen nun testen. Parallel dazu läuft ein Pilotprojekt in Sachsen. Von Daniel Leisegang –
Artikel lesen

Trilog zu Alterskontrollen: Warnung vor „Ausweispflicht für weite Teile des Internets“

Sowohl der Rat als auch das EU-Parlament haben Nein gesagt zur verpflichtenden Chatkontrolle. Aber die umstrittene Verordnung birgt weitere Risiken für digitale Grundrechte – und zwar flächendeckende Alterskontrollen. Worüber Kommission, Parlament und Rat jetzt verhandeln. Von Sebastian Meineck, Chris Köver –
Artikel lesen


Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.



Source link

Weiterlesen

Datenschutz & Sicherheit

Sicherheitslücke: Tausch weiterer elektronischer Heilberufsausweise in Arbeit


Infolge der Umstellung der Verschlüsselung von RSA auf Elliptic Curve Cryptography (ECC) müssen zahlreiche Komponenten wie elektronische Heilberufsausweise ausgetauscht werden. Nach einer Fristverlängerung muss dies bis spätestens Ende Juni 2026 passieren. Einigen Ärzten, die bereits über ECC-Karten verfügen, droht jedoch ein weiterer Tausch: „Karten mit dem betroffenen Infineon-Chip, die das ECC-Verfahren nutzen, dürfen nur noch bis spätestens 30. Juni 2026 für qualifizierte elektronische Signaturen eingesetzt werden“, heißt es in der Information von D-Trust. Wie viele das betrifft, sagen die Verantwortlichen nicht.

Weiterlesen nach der Anzeige

Die Gematik schreibt dazu: „Die Schwachstelle betrifft ausschließlich den Verschlüsselungsalgorithmus ECC eines Kartenproduktes eines bestimmten Herstellers und ist mittlerweile behoben. Alle betroffenen Karten sind also bereits ECC-fähig. Im Rahmen der Umstellung von RSA zu ECC wurden den Kund:innen Karten ausgeliefert, die nicht von der Schwachstelle betroffen sind“.

Die Maßnahmen erfolgen in enger Abstimmung zwischen BSI, Bundesnetzagentur und Gematik. Aus regulatorischen und technischen Gründen werden alle betroffenen eHBAs sukzessive bis zu dem genannten Datum gesperrt.

Betroffen sind eHBA der Generation 2.1 der Anbieter SHC+Care und D-Trust, die auf Karten des Herstellers Idemia mit Infineon-Chips basieren. Für diese Chips war im September 2024 eine Schwachstelle in der ECDSA-Implementierung der Infineon-Kryptobibliotheken bekannt geworden (EUCLEAK). Die Gematik entzog den betroffenen Karten daraufhin im Januar 2025 durch einen Verwaltungsakt die Zulassung.

Während D-Trust nach dem Entzug der Zulassung kurzfristig auf Karten des Herstellers Giesecke+Devrient umstellen konnte, ging SHC+Care juristisch gegen die Entscheidung der Gematik vor. Das Unternehmen klagte gegen den Zulassungsentzug der betroffenen Idemia-Karten und bekam vor dem Sozialgericht Schleswig Recht. Später bestätigte das Landessozialgericht Schleswig-Holstein das Urteil (Aktenzeichen: L 5 KR 38/25 B ER). Das Sozialgericht habe zudem festgestellt, dass die Telematikinfrastruktur selbst nicht betroffen sei und keine akute Gefahr bestehe.

Auch mit den betroffenen Karten ließen sich weiterhin gültige qualifizierte elektronische Signaturen erzeugen. Für die erfolgreiche Seitenkanalattacke EUCLEAK wären sowohl physischer Zugriff auf den Ausweis als auch die Kenntnis der individuellen PIN sowie Spezialausrüstung und Expertenwissen erforderlich.

Weiterlesen nach der Anzeige

Nach Angaben von D-Trust lassen sich betroffene Karten einfach identifizieren: Auf der Rückseite ist der Schriftzug „Idemia“ aufgedruckt. Karten mit dem Schriftzug „G&D“ stammen vom Hersteller Giesecke+Devrient und sind nicht betroffen. Diese liefert D-Trust bereits seit Februar 2025 aus. Kunden mit betroffenen Karten werden laut D-Trust direkt per E-Mail informiert und müssen nicht selbst aktiv werden. Erste Ärzte sind nach Kenntnissen von heise online bereits von D-Trust informiert worden.

„Der Austausch der betroffenen eHBAs hat im Januar 2026 gestartet. Dafür werden alle Kundinnen und Kunden persönlich kontaktiert und über die Austauschmöglichkeiten informiert“, heißt es von D-Trust auf Anfrage. Betroffene könnten „ihren bisherigen eHBA kostenfrei gegen eine Ersatzkarte mit identischer Laufzeit eintauschen. Alternativ kann auch eine Folgekarte mit einer neuen Laufzeit von fünf Jahren bestellt werden. Für die meisten Berufsgruppen gilt für Folgekarten auch ein Preisnachlass von 20 Prozent. Ebenfalls von der Schwachstelle betroffene Signatur- und Siegelkarten der D-Trust wurden bereits bis Ende 2025 ausgetauscht“, so D-Trust und verwies auf seine FAQ.

Laut SHC betreffe der Austausch „nur einen begrenzten Teil der von uns ausgegebenen eHBA“. Der Austausch sei bereits 2025 gestartet. „Ein signifikanter Teil der betroffenen Karten wurde bereits ausgetauscht, die verbleibenden erfolgen sukzessive“. Das Unternehmen will sicherstellen, alle Karten vor Fristende auszutauschen. „Der Austausch erfolgt so, dass den betroffenen Kundinnen und Kunden keinerlei Nachteile finanzieller Art oder im Praxisbetrieb entstehen“, sagte SHC gegenüber heise online.


(mack)



Source link

Weiterlesen

Beliebt