Connect with us

Datenschutz & Sicherheit

Zivilgesellschaft warnt vor Plänen für KI-Fahndung



Die Pläne der Bundesregierung, die Befugnisse für Sicherheitsbehörden bei der digitalen Fahndung auszuweiten, gefährden Grundrechte. Zu diesem Schluss kommen mehrere zivilgesellschaftliche Organisationen in ihrer gemeinsamen Stellungnahme zu den Gesetzentwürfen aus dem Bundesjustiz- und Bundesinnenministerium. „Wir betonen, dass eine grundrechtskonforme Ausgestaltung dieser Befugnisse auch durch Nachbesserungen im Verfahrensrecht nicht erreichbar wäre“, heißt es in der Stellungnahme: „Die genannten Mängel sind keine bloßen Ausgestaltungsfehler, sondern symptomatisch für das strukturelle Defizit des gesamten Regelungsvorhabens.“

Die Organisationen, darunter Amnesty International und der Chaos Computer Club, bemängeln unter anderem das Fehlen eines richterlichen Vorbehalts, die ungenügende Transparenz für Betroffene und unzureichende Dokumentation der Arbeitsweise der KI-Systeme. Es fehlten zudem Einschränkungen bei Form und Umfang der einbezogenen Daten und bei den Analysemethoden. Ferner drohten schwerwiegende Grundrechtseingriffe durch Privatunternehmen.

In der Konsequenz empfiehlt die Stellungnahme die vollständige Rücknahme der Gesetzesentwürfe und stattdessen ein gesetzliches Verbot „biometrischer Massenerkennungssysteme“ sowie verbindliche Regeln zu Transparenz, Kontrolle und Haftung für die algorithmische Datenanalyse.

Wer im Internet zu sehen ist, ist betroffen

Die Bundesregierung will der Polizei erlauben, für die Strafverfolgung und Terrorismusbekämpfung künftig das Internet nach Gesichtern zu durchsuchen. Ein Fahndungsfoto soll dafür mit allen im öffentlichen Internet auffindbaren Gesichtern biometrisch abgeglichen werden können. Bundesjustizministerin Stefanie Hubig (SPD) und Bundesinnenminister Alexander Dobrindt (CSU) haben sich dazu auf mehrere Gesetzentwürfe geeinigt.

Das Bündnis kritisiert, damit würde de facto die Infrastruktur für eine flächendeckende Verfolgbarkeit der Bevölkerung geschaffen. Der Einsatz von KI-Systeme wie PimEyes oder Clearview AI für die biometrische Fahndung bezeichnet die Stellungnahme als Eingriff „in das Recht auf informationelle Selbstbestimmung aller Menschen ein, die im Internet Fotos, Videos und andere Inhalte mit biometrischen Merkmalen veröffentlichen, ohne dass diese dafür einen Anlass gegeben hätten“. Mit dem Grundrecht auf informationelle Selbstbestimmung sowie dem Recht auf den Schutz personenbezogener Daten sei dies nicht vereinbar.

Selbst Personen, die ohne ihr eigenes Zutun im Hintergrund von öffentlich zugänglichem Bildmaterial auftauchten, drohe so die Verarbeitung ihrer biometrischen Daten. Indirekt werde damit auch die Meinungs- und Versammlungsfreiheit eingeschränkt: Wer befürchten muss, aufgrund der Teilnahme an einer Versammlung biometrisch erfasst zu werden, verzichte möglicherweise gänzlich – es drohe ein Abschreckungseffekt, der die Wahrnehmung der eigenen Grundrechte verhindere.

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

Empirische Daten zeigten zudem, dass insbesondere People of Color häufig zu Unrecht von polizeilichen Maßnahmen betroffen seien. Es drohe damit eine Gefährdung des Diskriminierungsverbots.

KI-Systeme sollen polizeiliche „Super-Datenbank“ schaffen

Ein weiterer Gesetzesentwurf sieht eine automatisierte Datenanalyse mittels KI-Systemen wie Palantir vor. Massenhafte Datenbestände der Bundes- und Landespolizeibehörden sollen dafür zusammengeführt und algorithmisch ausgewertet werden – unabhängig vom Einzelfall. Die Daten von Opfern, Zeug:innen und gänzlich unbeteiligten Personen würden dann Teil derselben „Super-Datenbank“. Das Resultat wären tiefgreifende Persönlichkeitsprofile auf der Basis algorithmisch ausgewerteter massenhafter Datenbestände.

Eine solche Analyse ermögliche Schlussfolgerungen, „die weit über die ursprünglichen Erhebungszwecke der analysierten Daten und auch über das Ziel der eigentlichen Suchanfrage an das Analysesystem hinausgehen“, heißt es in der Stellungnahme: „Solche Systeme sind strukturell fehleranfällig, intransparent und diskriminierungsfördernd. Dies gilt in verstärktem Maße für KI-Systeme, die auch nach Einführung weiterhin selbstlernend sind und in den Entwürfen nicht ausgeschlossen werden.“

Das Vorhaben der Bundesregierung knüpft an die Debatte um das sogenannte Sicherheitspaket im Herbst 2024 an. Die damalige Ampel-Regierung scheiterte mit ihren Plänen, weil den Ländern die geplanten Überwachungsbefugnisse nicht weit genug gingen.

Die Europäische Union verbietet laut KI-Verordnung eigentlich die massenhafte Verarbeitung von Gesichtsbildern zu biometrischen Datenbanken. Die aktuellen Entwürfe der Bundesregierung stellen demnach einen Versuch dar, das EU-Verbot zu umgehen. Auch die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) kritisiert die Gesetzesinitiativen zur Erweiterung digitaler Ermittlungsbefugnisse und kommt dabei ebenfalls zu dem Schluss: „In der vorgesehenen Form sind diese Befugnisse nicht mit den verfassungsrechtlichen Vorgaben vereinbar. Sie gefährden die verfassungsrechtlich geschützten Rechte Unbeteiligter erheblich.“



Source link

Datenschutz & Sicherheit

Sperre von Anthropics KI-Modellen: China soll Zugriff auf Mythos gehabt haben


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Die US-Regierung hat die Abschaltung der KI-Modelle Fable 5 und Mythos 5 von Anthropic unter anderem angeordnet, weil es den Verdacht gibt, dass eine Gruppe mit Verbindungen zur chinesischen Regierung Zugriff auf letzteres hatte. Das berichtet das US-Magazin Semafor unter Berufung auf eine anonyme Quelle. Das könnte erklären, warum nicht nur das beschränkte Fable 5, sondern auch Mythos 5 gesperrt werden musste. Der Zugriff auf letzteres war eigentlich streng reglementiert. Sollte die Volksrepublik Zugriff darauf haben, könnte das ein Risiko für die nationale Sicherheit der USA darstellen, schreibt Semafor. Eine Bestätigung steht aber aus. Bislang hieß es, dass es eine Möglichkeit gegeben hat, Schutzmechanismen von Fable 5 zu umgehen, weshalb die Sperre angeordnet wurde.

Weiterlesen nach der Anzeige

Anthropic hat Fable 5 vorigen Dienstag als inhaltlich eingeschränkte Variante des neuen Mythos 5 freigegeben. Erste Tests hatten die merklich höhere Leistungsfähigkeit des KI-Modells bestätigt, aber auch zu Kritik an den Sicherheitsmaßnahmen geführt. Stufte ein sogenannter Classifier eine Anfrage als heikel ein, beantwortete nicht Fable die Frage, sondern das ältere Modell Claude Opus 4.8. Damit wollte Anthropic verhindern, dass Angreifer die Fähigkeiten des Modells für Cyberattacken oder andere schädliche Zwecke ausnutzen. Das konnte aber auch bei „sicheren, normalen Inhalten“ passieren, heiß es in einem Hinweis. Das Vorgehen hat für viel Kritik gesorgt.

Am Freitag hat Anthropic dann unerwartet den Zugriff auf Fable 5 und Mythos 5 gesperrt – für alle Nutzerinnen und Nutzer weltweit. Auslöser war angeblich eine Exportkontrolldirektive der US-Regierung, die ausländischen Staatsangehörigen den Zugriff auf beide Modelle untersagt – auch ausländischen Anthropic-Angestellten innerhalb der USA. Am Wochenende hieß es dann, dass Amazon-CEO Andy Jassy vorher US-Finanzminister Scott Bessent von einem mutmaßlichen Jailbreak berichtet habe. Grundlage soll ein Bericht der Cybersicherheits-Abteilung seines Konzerns gewesen sein, in dem der angebliche Jailbreak erklärt wurde. Dass die Volksrepublik China Zugriff auf Mythos gehabt haben soll, wurde erst später bekannt. Die genauen Hintergründe bleiben deshalb unklar.


(mho)



Source link

Weiterlesen

Datenschutz & Sicherheit

phpBB: Kritische Sicherheitslücke ermöglicht Kompromittierung


IT-Forscher haben in der populären Forensoftware phpBB Sicherheitslücken entdeckt, die etwa die Anmeldung mit jedem Nutzerkonto ermöglichen. Das ganze Board lässt sich damit übernehmen. Ein Update steht bereit, das Admins zügig anwenden sollten.

Weiterlesen nach der Anzeige

Das Leck finde sich seit zehn Jahren in der Software, schreibt der Anbieter des genutzten KI-Pentesting-Tools in einer Analyse. Wie Mitarbeiter von Aikido erklären, ist die Standardkonfiguration anfällig, mithin tausende Foren für Angriffe verwundbar. Unabhängig davon hat Dan Stefan Alexandru die Lücke und eine weitere ebenfalls aufgespürt.

Das phpBB-Team hat die Version 3.3.17 „Young Bertie“ veröffentlicht, die diese und weitere Lücken schließt, und bittet Foren-Admins um rasches Update der Software. Insgesamt stopft das Release vier Sicherheitslücken. Als kritisches Risiko gilt eine Umgehung der Authentifizierung, durch die Angreifer einen gültigen Session-Token als beliebiger aktiver Nutzer erhalten können. Mit einer einzigen HTTP-Anfrage, ohne vorherige Anmeldung. Damit lassen sich fremde Nutzerkonten übernehmen (CVE-2026-48611, CVSS 9.8, Risiko „kritisch“). Diese Sicherheitslücke haben die beiden Entdecker unabhängig aufgedeckt und gemeldet.

Die zweite erwähnte Schwachstelle betrifft die Prüfungen in der OAuth-Implementierung, sie bedingt eine Schwachstelle vom Typ „Cross Site Request Forgery“ (CSRF). Wenn Opfer auf einen präparierten Link der Angreifer klicken, ermöglicht es die Übernahme des Kontos (CVE-2026-48612, CVSS 8.0, Risiko „hoch“).

Details zu den Lücken will Aikido noch nicht veröffentlichen, damit Admins Zeit zum Updaten haben. Allerdings ist die gepatchte Version veröffentlicht und mit einem einfachen diff gelangen Kriminelle an die nötigen Informationen, welcher Code verändert wurde. Angriffe sind daher in Kürze zu erwarten.


(dmk)



Source link

Weiterlesen

Datenschutz & Sicherheit

Präparierte PDF-Datei kann Avira Antivirus gefährlich werden


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Angreifer können an mehreren Sicherheitslücken in Avira Antivirus ansetzen und im schlimmsten Fall Schadcode ausführen, um das System vollständig zu kompromittieren. Überdies ist Avira Password Manager unter bestimmen Bedingungen verwundbar.

Weiterlesen nach der Anzeige

In der US-amerikanischen National Vulnerability Database vom National Institute of Standards and Technology (NIST) sind vier Sicherheitslücken in Antivirus (CVE-2026-6676hoch“, CVE-2025-9033hoch“, CVE-2025-9032hoch“, CVE-2025-14098hoch“) und eine in Password Manager (CVE-2026-12068hoch“) aufgelistet. Im Sicherheitsbereich der Website von Gen Digital, zu der Avira gehört, tauchen die Sicherheitslücken bislang nicht auf. Von den Lücken sind die Linux-, macOS- und Windows-Version betroffen.

Bei Antivirus können Angreifer in allen vier Fällen mit präparierten Dateien an den Lücken ansetzen. Werden manipulierte OSIX-Tar-Archive, PDF-, Windows-PE- oder ausführbare MS-DOS-Dateien verarbeitet, kommt es zu Speicherfehlern (out-of-bounds). So etwas sorgt in der Regel für Abstürze. Oft gelangt in so einem Kontext aber auch Schadcode auf Systeme.

Aus den CVE-Beiträgen geht hervor, dass die Schwachstellen offensichtlich die Scan-Engine betreffen und nicht den Client. Als früheste vollständig gepatchte Scan-Engine-Version nennen die CVE-Einträge 8.3.70.104. Wer Antivirus nutzt, sollte sicherstellen, dass mindestens diese Ausgabe installiert ist.

Es ist derzeit unklar, wann die reparierte Ausgabe erschienen ist. In der Regel genehmigen sich jedoch die AV-Hersteller unter der Gen-Digital-Führung um die drei Monate Zeit, bis sie geschlossene Sicherheitslücken benennen.

Weiterlesen nach der Anzeige

Password Manager ist nur in Kombination mit Firefox angreifbar. Ist das gegeben, können Angreifer auf einem nicht näher ausgeführten Weg im Kontext von Autofill-Feldern Zugangsdaten abgreifen. An dieser Stelle nennt der CVE-Eintrag keine dagegen gerüstete Versionsnummer.


(des)



Source link

Weiterlesen

Beliebt