Connect with us

Datenschutz & Sicherheit

KW 5: Die Woche, als die Regierung sich an Automatisierung berauschte


Die 5. Kalenderwoche geht zu Ende. Wir haben 16 neue Texte mit insgesamt 117.090 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

– Fraktal, generiert mit MandelBrowser von Tomasz Śmigielski

Liebe Leser:innen,

eine Kommission hat in dieser Woche Arbeitsministerin Bärbel Bas Empfehlungen übergeben, wie der Sozialstaat „modernisiert“ werden könnte.

Digitalisierung spielt darin eine zentrale Rolle: Behörden sollen untereinander mehr Daten austauschen, dafür soll der komplexe Datenschutz weg und eine Personenkennziffer her. Verfassungsrechtlich ist das höchst fragwürdig.

Außerdem schlägt die Kommission vor, Verwaltungsvorgänge mit sogenannter Künstlicher Intelligenz zu automatisieren. Auch bei Ermessensspielräumen – also wenn es etwa darum geht, wie viel Unterstützung eine Person vom Amt bekommt. Und weil bei „KI“ bekanntlich immer Wahres, Schönes, Gutes rauskommt, sollen die Ergebnisse weniger gegengeprüft werden. Die Wohlfahrtsverbände halten davon herzlich wenig, sondern befürchten zusätzliche Diskriminierung.

Auch Bundesdigitalminister Karsten Wildberger sieht es buchstäblich als seine Mission an, tausende „outdated“ Fachverfahren in der Verwaltung zu automatisieren. Helfen soll dabei Agentische Künstliche Intelligenz, die so eine Art KI-Heinzelmännchen für Behördenprozesse antreiben soll.

Dafür brachte das Digitalministerium in dieser Woche den Agentic AI Hub an den Start. Man habe „eine große Tasche“, versicherte Wildberger den anwesenden „Start-up- und Scale-up-Vertreter:innen“ bei der Auftaktveranstaltung. Und man wolle Pilotprojekte möglichst schnell skalieren, sekundierte sein Staatssekretär Thomas Jarzombek.

Bei allem Automatisierungsrausch fehlte auch hier der Raum, um über Risiken, Kontrolle und – ja – Ethik zu sprechen. Dabei haben andere Länder KI-Systemen bereits das Steuer in der Verwaltung überlassen und sind damit alles andere als gut gefahren. Vielleicht skalieren wir das mal.

Habt ein schönes Wochenende!

Daniel


Breakpoint: Grundrechte sind nicht FSK 16

Kinder und Jugendliche haben ein Recht auf Information und Teilhabe – auch auf sozialen Medien. Wenn Erwachsene sie per Social-Media-Verbot von solchen Orten der Meinungsbildung ausschließen, werden sie ihrer Verpflichtung nicht gerecht. Von Carla Siepmann –
Artikel lesen

Deepfake-Skandal: EU-Kommission leitet Untersuchung gegen Grok und X ein

Nach einer Flut sexualisierter Grok-Deepfakes auf X prüft nun die EU-Kommission, ob Elon Musks Unternehmen gegen den Digital Services Act verstoßen haben. Erste Studien liefern derweil Details über das Ausmaß der produzierten sexualisierten Bilder. Von Laura Jaruszewski –
Artikel lesen

ADINT: Überwachungsfirmen können Menschen mit „anonymen“ Werbe-IDs ausspionieren

Meist im Verborgenen bereiten Unternehmen Daten aus der Online-Werbung für Geheimdienste auf. Manche prahlen damit, praktisch jedes Handy verfolgen zu können. Eine Recherche von Le Monde gewährt seltene Einblicke in eine Branche, die auch europäische Sicherheitsbehörden umwirbt. Von Ingo Dachwitz –
Artikel lesen

Anhörung zum Gesetzentwurf: Bundespolizei soll Staatstrojaner nutzen dürfen

Der neue Anlauf zur Reform des Bundespolizeigesetzes traf im Innenausschuss des Bundestags auf Kritik. Die Bundespolizei soll künftig Staatstrojaner nutzen dürfen, ohne dass für diese Hacking-Werkzeuge ein IT-Schwachstellenmanagement existiert. Von Constanze –
Artikel lesen

Hinweise gesucht: „Wir wollen die Verbreitung sexualisierter Deepfakes einschränken“

Per Mausklick lassen sich Fotos bekleideter Personen in Nacktbilder verwandeln. Die Organisation AlgorithmWatch bittet nun um Hinweise auf solche Apps und Websites, um systematisch dagegen vorzugehen. Wie das klappen soll, erklärt Forschungsleiter Oliver Marsh im Interview. Von Sebastian Meineck –
Artikel lesen

Österreichische Datenschutzbehörde: Microsoft hat illegal Minderjährige getrackt

Microsoft hat auf dem Rechner einer österreichischen Schülerin ohne deren Zustimmung Tracking-Cookies installiert und so persönliche Daten abgegriffen. Die österreichische Datenschutzbehörde hat nun festgestellt, dass der Datenabfluss illlegal war. Auch andere Microsoft-Nutzende können von illegalen Microsoft-Cookies betroffen sein. Von Martin Schwarzbeck, Ben Kumi –
Artikel lesen

Phishing-Angriff: Zahlreiche Journalist:innen im Visier bei Attacke über Signal-Messenger

Mit einem Phishing-Angriff versucht ein bislang unbekannter Akteur, offenbar gezielt Zugriff auf die Signal-Konten von Journalist:innen und Aktivist:innen zu bekommen. Wir erklären, wie der Angriff funktioniert und wie man sich vor ihm schützen kann. Von Markus Reuter –
Artikel lesen

Kehrtwende in UK: Pornhub widersetzt sich britischen Alterskontrollen

Ein halbes Jahr lang hat sich Pornhub den britischen Alterskontrollen gebeugt und massenhaft Nutzer*innen überprüft. Jetzt macht der Konzern eine Kehrtwende und kündigt seinen Rückzug aus dem Vereinigten Königreich an. Dahinter steckt ein geschickter PR-Stunt. Die Analyse. Von Sebastian Meineck –
Artikel lesen

Phishing attack: Numerous journalists targeted in attack via Signal Messenger

In a phishing attack, unknown actors are apparently attempting to gain access to accounts of journalists and activists on the Signal messaging service. We explain how the attack works and how you can protect yourself against it. Von Markus Reuter –
Artikel lesen

Diskussionspapier: Tech-Unternehmen sollen legalen Extremismus suchen

Internet-Dienste sollen nicht nur sexuellen Kindesmissbrauch suchen, sondern auch andere Inhalte wie Extremismus. Das fordern Deutschland, Frankreich und die Niederlande in einem Diskussionspapier. Tech-Unternehmen lehnen es ab, ihr System zum Datenaustausch auf solche Inhalte auszuweiten. Von Andre Meister –
Artikel lesen

ChatGPT: Polizeigewerkschaft bebildert Pressemitteilung mit generiertem Schockerfoto

Der sächsische Landesverband der Gewerkschaft der Polizei nutzt ein KI-generiertes Bild mit einem blutenden Polizisten, um eine Pressemitteilung zu illustrieren. Begründet wird dies mit Persönlichkeitsrechten und laufenden Ermittlungen, das Bild sei eine „symbolische Illustration“. Von Markus Reuter –
Artikel lesen

Sozialstaatsreform: Kommission empfiehlt Abbau von Grundrechten

Eine Fachkommission der Bundesregierung hat Empfehlungen vorgelegt, die den Sozialstaat bürgernäher und digitaler machen sollen. Dafür will sie den Datenschutz aufweichen und Verfahren mit Hilfe sogenannter Künstlicher Intelligenz automatisieren. Wohlfahrtsverbände warnen vor zusätzlicher Diskriminierung. Von Daniel Leisegang –
Artikel lesen

Berlin: Undurchsichtige Gesundheitsdatenbank-Pläne nach Brandbrief vorerst gestoppt

CDU und SPD wollen in Berlin eine zentrale Gesundheitsdatenbank an der Charité aufbauen. Doch die Berliner Datenschutzbeauftragte kritisierte das Vorhaben der Koalition scharf und fordert Nachbesserungen. Wir veröffentlichen ihren Brandbrief. Von Laura Jaruszewski –
Artikel lesen

Digitaler Omnibus: „Die EU-Kommission rüttelt an den Grundpfeilern des Datenschutzes“

Die EU-Kommission will pseudonymisierte Daten teilweise von der Datenschutzgrundverordnung ausnehmen. Jetzt äußert sich erstmals eine deutsche Datenschutzbeauftragte. Meike Kamp übt deutliche Kritik an den Plänen und glaubt, die Kommission habe ein Urteil des Europäischen Gerichtshofes missverstanden. Von Ingo Dachwitz –
Artikel lesen

EUDI-Wallet: Digitale Brieftasche geht in Testphase

Anfang 2027 soll in Deutschland eine staatliche EUDI-Wallet bereitstehen. In einer Testumgebung können Behörden und Unternehmen deren Funktionen nun testen. Parallel dazu läuft ein Pilotprojekt in Sachsen. Von Daniel Leisegang –
Artikel lesen

Trilog zu Alterskontrollen: Warnung vor „Ausweispflicht für weite Teile des Internets“

Sowohl der Rat als auch das EU-Parlament haben Nein gesagt zur verpflichtenden Chatkontrolle. Aber die umstrittene Verordnung birgt weitere Risiken für digitale Grundrechte – und zwar flächendeckende Alterskontrollen. Worüber Kommission, Parlament und Rat jetzt verhandeln. Von Sebastian Meineck, Chris Köver –
Artikel lesen


Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.



Source link

Datenschutz & Sicherheit

„Wir waren die Einzigen, die bis zum Schluss gekämpft haben“


Seit Ende 2024 begannen Kreise und Städte in Baden-Württemberg, Bezahlkarten an Asylsuchende auszugeben – auch in anderen Teilen Deutschlands wurde das so praktiziert. Doch an einem Ort gab es bis zuletzt Gegenwehr: in Freiburg. Nun wurde auch die Universitätsstadt im Breisgau gezwungen, Geflüchtete auf die restriktiven Zahlungsinstrumente umzustellen. Doch die Stadt wehrt sich weiter.

Wir haben mit Ulrich von Kirchbach (SPD) gesprochen. Er ist Sozialbürgermeister in Freiburg und berichtet von den Gründen für die Ablehnung und den Problemen, die Bezahlkarten mit sich bringen.

Porträt von Ulrich von Kirchbach
Seit 2002 ist Ulrich von Kirchbach Bürgermeister für Kultur, Jugend, Soziales und Integration in Freiburg. – Alle Rechte vorbehalten Freiburg

netzpolitik.org: Herr von Kirchbach, warum ist Freiburg gezwungen, Bezahlkarten einzuführen, während beispielsweise Potsdam in Brandenburg die Ausgabe ohne Probleme verweigern kann?

Ulrich von Kirchbach: In Brandenburg haben die dortige Landesregierung und das Sozialministerium den Landkreisen und kreisfreien Städten freie Hand gegeben, ob sie Bezahlkarten einführen wollen oder nicht. Das hätte ich mir auch für Baden-Württemberg gewünscht, aber das Land ging einen anderen Weg. Es hat eine landeseinheitliche Einführung verfügt und Freiburg ist an diese Vorgaben gebunden.

Wir haben uns dagegen ausgesprochen, aber bekamen dann Ende 2025 eine Weisung und mussten das umsetzen. Ich habe nicht verstanden, warum Baden-Württemberg unter einer grün geführten Landesregierung die Zügel so anzieht. Es wurde auch zunächst gesagt, es würde Pilotgemeinden oder Pilotstädte geben – die gab es dann aber doch nicht.

netzpolitik.org: Hat Freiburg mittlerweile begonnen, Bezahlkarten auszugeben?

Ulrich von Kirchbach: Wir haben im Februar damit begonnen, die Bezahlkarte auszugeben. Da dies nicht automatisiert funktioniert, erfolgt die Ausgabe nach und nach. Wir vergeben fortlaufend persönliche Termine für die Ausgabe weiterer Bezahlkarten.

Dass bislang nur wenige Karten ausgegeben worden sind, das hat auch mit personellen Engpässen zu tun. Außerdem erfordert die Einführung der Bezahlkarte auch einige Anpassungen bei unseren IT-Systemen, die wir erst kompatibel machen mussten.

netzpolitik.org: Werden Sie trotz der Weisung des Landes weiter versuchen, sich gegen die Bezahlkarten zu wehren?

Ulrich von Kirchbach: Wir haben beim Land einen Antrag gestellt, dass die landesrechtlichen Vorgaben ausgesetzt werden. Das hatte der Freiburger Gemeinderat angeregt. Aber über unseren Antrag wurde bislang noch nicht entschieden.

netzpolitik.org: Haben Sie davon abgesehen noch Handlungsspielräume, etwa was die Obergrenze für Bargeld-Abhebungen angeht?

Ulrich von Kirchbach: Leider hat das Land auch hier einheitliche Vorgaben gemacht, eine Bargeldabhebung darf nur bis maximal 50 Euro im Monat möglich sein. Das heißt, wir haben leider so gut wie keinen Spielraum. Auch wenn mir bisher niemand erklären konnte, wie es genau zu diesem Betrag gekommen ist.

netzpolitik.org: Was war denn vor den Bezahlkarten der Verwaltungsprozess, um Asylbewerber:innen Leistungen auszuzahlen?

Ulrich von Kirchbach: Die Menschen bekamen das Geld auf ihr Konto überwiesen, wenn sie eines hatten. Neben den Geldleistungen gab es auch Direktleistungen, beispielsweise wenn Miete direkt überwiesen wurde.

Für diejenigen ohne Konto gab es Barauszahlungen oder einen Bargeldautomaten. Damit gab es keinerlei Probleme, außer dass der Automat mal ein, zwei Tage technische Probleme hatte. Ansonsten lief alles reibungslos.

Durch die Bezahlkarten kommt es nicht zu einem Bürokratieabbau, sondern im Gegenteil zu zusätzlichem Verwaltungsaufwand: Es entstehen zusätzliche Schritte bei der Ausgabe, bei der Aufladung, bei den Einzelfallprüfungen, bei der Information der Betroffenen, bei der Klärung praktischer Probleme. Darauf habe ich bereits im Vorfeld öffentlich hingewiesen. Auch in anderen Kommunen wird von zusätzlichem und nicht von sinkendem Aufwand berichtet.

netzpolitik.org: War das der Hauptgrund für Freiburg, Bezahlkarten abzulehnen?

Ulrich von Kirchbach: Neben dem Verwaltungsaufwand sehen wir vor allem Nachteile bei der Integration. Durch die Bezahlkarten besteht die Gefahr, dass Menschen stigmatisiert werden, die Leistungen nach dem Asylbewerberleistungsgesetz beziehen.

Was wir auch nicht verstanden haben, ist, dass auch Menschen auf Bezahlkarten umgestellt werden müssen, die schon länger in Deutschland sind. Das hat uns nicht eingeleuchtet.

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

Für mich ist die Einführung reine Symbolpolitik. Dabei wäre es viel wichtiger, ob solche Dinge rechtssicher, praktikabel und mit vertretbarem Aufwand umsetzbar sind.

netzpolitik.org: Ist Freiburg mit anderen Kommunen im Austausch, die ebenfalls keine Bezahlkarten wollen oder keine haben?

Ulrich von Kirchbach: Wir sind in Baden-Württemberg gut vernetzt, aber letztlich waren wir die Einzigen, die noch bis zum Schluss gekämpft haben.

In anderen Kommunen gab es auch Kritik, aber teilweise haben die Oberbürgermeister die Einführung vorangetrieben. Und bei uns war es eben so, dass sich sowohl der Oberbürgermeister als auch der Gemeinderat gegen die Bezahlkarten ausgesprochen haben.

In Baden-Württemberg gibt es jetzt erstmal keine Möglichkeit mehr, sich der Einführung zu entziehen, da diese nun durch Vorgaben und Weisungen durchgesetzt wird.

netzpolitik.org: Müsste man etwas auf Bundesebene ändern, um Bezahlkarten wieder abzuschaffen?

Ulrich von Kirchbach: Die Bundesvorgaben formulieren keinen Zwang, dass Bezahlkarten eingeführt werden müssen. Sondern sie geben Rahmenbedingungen, um das umsetzen zu können. Gleichzeitig ist den Ländern freie Hand gegeben worden. Daher haben wir nur die Möglichkeit, auf eine Änderung der landesrechtlichen Vorgaben hinzuwirken – und dafür setzen wir uns natürlich weiter ein.

Aber ich habe da ehrlich gesagt keine große Hoffnung, auch nicht bei der neuen grün-schwarzen Landesregierung, die von der Konstellation wohl die gleiche sein wird wie die vorherige.

Es könnten allerdings Betroffene klagen, wenn sie auf Bezahlkarten umgestellt werden und dann könnte ein Gericht prüfen, ob die Vorgaben vom Bundesgesetzgeber so intendiert waren, dass den kreisfreien Städten und Landkreisen kein Ermessensspielraum mehr gegeben wird. Da könnte es noch gerichtliche Entscheidungen geben.



Source link

Weiterlesen

Datenschutz & Sicherheit

Stetig patchen: KI-Agent OpenClaw erhält wöchentlich mehrmals Sicherheitsupdates


Wer mit OpenClaw arbeitet, sollte der Computer- und Datensicherheit zuliebe regelmäßig nach neuen Versionen Ausschau halten und sie umgehend installieren. Die Entwickler veröffentlichen pro Woche mehrere Versionen des KI-Agenten, die in der Regel auch Sicherheitsupdates enthalten – und das wird sich in absehbarer Zukunft nicht ändern.

Weiterlesen nach der Anzeige

Um sein volles Potenzial entfalten zu können, muss OpenClaw mit weitreichenden Systemrechten laufen. Dann kann er etwa über einen Messenger wie Signal instruiert E-Mails verschicken, Bilder erzeugen und sogar Software installieren. Das ist super praktisch, aber auch super gefährlich. Das Zusammenspiel verschiedener Anwendungen ergibt nämlich immer wieder neue Sicherheitsrisiken.

Zuletzt etwa im Zusammenspiel mit Telegram, wo einer Warnmeldung zufolge bestimmte Anfragen eine hohe Ressourcenauslastung auslösen können. Weil Anhänge im Kontext von iMessage nicht ausreichend geprüft werden, können Angreifer eigene Befehle ausführen.

Überdies stoßen Sicherheitsforscher immer wieder auf Schwachstellen im Code von OpenClaw. Darunter sind regelmäßig „kritische“ Lücken, teilweise sogar mit dem höchstmöglichen CVSS Score 10 von 10. In diesem Fall können Angreifer als Admins auf Instanzen zugreifen. In anderen Fällen können Angreifer sogar Schadcode ausführen. Danach gelten PCs in der Regel als vollständig kompromittiert.

Weil alle paar Tage neue Sicherheitsupdates erscheinen, können wir nicht alle melden, ohne zum reinen OpenClaw-Ticker zu verkommen. Wer den KI-Agenten also nutzt, sollte regelmäßig, wenn nicht sogar täglich, nach Aktualisierungen Ausschau halten.

Im Sicherheitsbereich der GitHub-Website des Projektes findet man neben Hinweisen zu geschlossenen Lücken auch Tipps zum Melden von Schwachstellen.

Weiterlesen nach der Anzeige

Jüngst hat Nvidia einen Open-Source-Stack veröffentlicht, der OpenClaw um zusätzliche Sicherheits- und Datenschutzfunktionen erweitert. Außerdem hat der KI-Agent seit Februar dieses Jahres VirusTotal an der Seite, um die Verbreitung von Malware-Skills einzudämmen.


(des)



Source link

Weiterlesen

Datenschutz & Sicherheit

„Freiwillige Chatkontrolle“ wird vorerst nicht verlängert


Am 3. April wird eine Ausnahmeregel auslaufen, die Anbietern von Kommunikationsdiensten erlaubt, Nachrichten ihrer Nutzenden zu scannen. Sie sollen darin nach Missbrauchsdarstellungen von Kindern und Jugendlichen zu suchen, um diese an Behörden zu melden. Diese „Chatkontrolle 1.0“ genannte Regelung gibt es seit 2021, sie schafft eine Ausnahme von der europäischen ePrivacy-Richtlinie und wurde bereits ein Mal verlängert. Nun stand eine zweite Verlängerung an, doch die scheiterte: Das EU-Parlament und die Mitgliedstaaten konnten sich bei Verhandlungen am Montag nicht auf einen Kompromiss einigen.

Diesem Scheitern ging eine Parlamentsabstimmung am Freitag voraus. Dabei hatten die Abgeordneten zwar einer Verlängerung zugestimmt, aber gleichzeitig Einschränkungen beschlossen: Das Scannen solle nur zielgerichtet bei bestimmten Nutzenden stattfinden, wenn eine Verdacht bestehe. Außerdem solle die Verlängerung bis August 2027 gelten, ein halbes Jahr weniger als von der EU-Kommission ursprünglich vorgeschlagen. Bürgerrechtler:innen begrüßten dieses Ergebnis.

Doch die Mitgliedstaaten waren offenbar nicht bereit, auf die Einschränkungen des Parlaments einzugehen. Die SPD-Europaabgeordnete Birgit Sippel, die für das Gesetz zuständig ist, kritisierte die Verhandler:innen: „Sie nehmen in Kauf, dass es den Anbietern bald nicht mehr möglich sein wird, der Verbreitung von Material über sexuellen Kindesmissbrauch entgegenzuwirken.“

Druck auf Trilog wächst

Dem Parlament sei wichtig gewesen, dass „bereits identifiziertes oder gemeldetes Material über sexuellen Kindesmissbrauch auffindbar und für Strafverfolgung verwendbar“ ist. Sippel, die zugleich innenpolitische Sprecherin der Sozialdemokrat:innen im Parlament ist, sagt: „Unser Ziel bleibt: Kinder schützen, ohne die Privatsphäre von digitaler Kommunikation komplett aufzuheben.“

Hintergrund sind parallele Verhandlungen über eine dauerhafte Regelung dazu, wie Missbrauchsmaterial im Netz bekämpft werden kann – die „Chatkontrolle 2.0“. Dazu verhandeln derzeit Kommission, Mitgliedstaaten und Parlament im Trilog. Auch dort liegen die Positionen der EU-Organe nicht gerade nah beieinander: Die EU-Kommission sah in ihrem ursprünglichen Vorschlag weitreichendes Scannen auch verschlüsselter Kommunikation vor; die Mitgliedstaaten brauchten mehrere Jahre, um eine Einigung ohne Aufdeckungspflichten zu finden, und das Parlament beschloss bereits 2023 eine Position, die sowohl verpflichtendes Scannen als auch verschlüsselte Kommunikation ausschließt.

Der Trilog-Prozess ist sehr intransparent, es soll jedoch erste Einigungen zu strittigen Punkten gegeben haben. Doch wie lange der Trilog dauert und ob der durch die gescheiterte Verlängerung der freiwilligen Chatkontrolle gestiegene Druck den Prozess beschleunigt, ist noch nicht abzusehen.



Source link

Weiterlesen

Beliebt