Ein Cyberkrimineller hat den KI-Chatbot Claude von Anthropic genutzt, um in die Netzwerke mexikanischer Regierungsbehörden einzudringen, und dabei nach Angaben von Cybersicherheitsexperten gewaltige Mengen sensibler Steuer- und Wählerinformationen gestohlen. Das berichtete am Mittwoch die US-Nachrichtenagentur Bloomberg.

Der Bloomberg-Bericht bezieht sich auf eine Studie des israelischen Cybersicherheit-Start-ups Gambit Security, wonach der unbekannte Claude-User spanischsprachige Befehle für den Chatbot schrieb, damit dieser Schwachstellen in Regierungsnetzwerken aufspürte, Computerskripte schrieb, um diese auszunutzen, und Wege fand, den Datendiebstahl zu automatisieren. Die illegalen Aktivitäten begannen demnach im Dezember und dauerten etwa einen Monat lang an.

Der Angreifer habe sich Zugang zur mexikanischen Bundessteuerbehörde und zum nationalen Wahlinstitut verschafft. Auch die Regierungen mehrerer Bundesstaaten sowie Behörden in Mexiko-Stadt und Monterrey seien kompromittiert worden, heißt es. Insgesamt 150 Gigabyte an Daten wurden gestohlen, darunter Dokumente zu 195 Millionen Datensätzen von Steuerzahlen sowie Wählerdatensätze, Zugangsdaten von Regierungsangestellten und Melderegisterdateien. Die mexikanische Regierung hatte im Dezember eine kurze Erklärung veröffentlicht, dass sie einen möglichen Sicherheitsvorfall in personenbezogenen Datenbanken öffentlicher Einrichtungen untersuche. Unklar ist, ob dies im Zusammenhang mit der Claude-Cyberattacke steht. Unklar ist auch, wer hinter dem Cyberangriff und Datendiebstahl steckt; Gambit glaubt aber nicht, dass es Verbindungen zu einer ausländischen Regierung gibt.

Anthropic untersucht den Vorfall

Der Chatbot Claude warnte den Angreifer während „ihres Gesprächs“ zunächst vor böswilligen Absichten, kam aber schließlich den Forderungen des unbekannten Nutzers nach und führte Tausende Befehle in den Computernetzwerken der mexikanischen Regierung aus, so die Experten von Gambit. Anthropic erklärte, den Vorfall zu untersuchen. Die beteiligten Konten seien gesperrt worden. Ein Unternehmensvertreter erklärte gegenüber Bloomberg, das Unternehmen speise Beispiele für böswillige Aktivitäten zurück in Claude, um daraus zu lernen. Eines der neuesten KI-Modelle, Claude Opus 4.6, enthalte Sonden, die Missbrauch unterbinden können.

Wenn Claude bei der Attacke auf Probleme stieß oder zusätzliche Informationen benötigte, wandte sich der Cyberkriminelle an ChatGPT von OpenAI, um weitere Erkenntnisse zu gewinnen, so Gambit weiter. Dazu gehörte laut den israelischen Cybersicherheitsexperten, wie man sich lateral durch Computernetzwerke bewegt, welche Anmeldedaten für den Zugriff auf bestimmte Systeme erforderlich sind und wie hoch die Wahrscheinlichkeit ist, dass die illegale Aktion entdeckt wird. OpenAI erklärte, ChatGPT habe sich diesen illegalen Versuchen widersetzt. Die vom Angreifer verwendeten Konten wurden gesperrt, erklärte das Unternehmen in einer per E-Mail versandten Stellungnahme.

Wie Bloomberg berichtet, deckten die Mitarbeiter von Gambit die Angriffe auf mexikanische Behörden auf, als sie neue Techniken zur Bedrohungssuche ausprobierten. Dabei stießen sie auf öffentlich zugängliche Beweise für aktive oder kürzlich erfolgte Angriffe, darunter einen, der umfangreiche Claude-Konversationen über den Einbruch in Computersysteme der mexikanischen Regierung enthielt. Aus diesen Unterhaltungen ging hervor, so Gambit, dass der Angreifer, um Claudes Sicherheitsvorkehrungen zu umgehen, dem Chatbot mitteilte, dass er ein Bug-Bounty-Programm verfolge. Bug-Bounty-Programme sind Initiativen zur Identifizierung von Schwachstellen und Fehlern in der Software. Solche Programme werden von Unternehmen oder Behörden betrieben und belohnen mit Sach- oder Geldpreisen das Aufspüren von Computersicherheitslücken.

„Alarmierender Trend“

„Die Angriffe auf mexikanische Regierungsnetzwerke sind das jüngste Beispiel für einen alarmierenden Trend“, schreibt Bloomberg. „Während Anthropic und OpenAI auf die Entwicklung immer ausgefeilterer KI-Codierungswerkzeuge setzen – und Cybersicherheitsunternehmen ihre Zukunft an KI-gestützte Abwehrmaßnahmen knüpfen –, finden Cyberkriminelle und Cyberspione immer neue Wege, diese Technologie für Angriffe zu nutzen.“

Künstliche Intelligenz ist zu einem wichtigen Werkzeug für Cyberkriminelle geworden. Im November gab Anthropic bekannt, eine von KI orchestrierte Cyberspionagekampagne vereitelt zu haben. Mutmaßlich vom chinesischen Staat unterstützte Angreifer hätten den Chatbot Claude manipuliert, um Dutzende Ziele weltweit zu attackieren. Einige wenige Versuche seien erfolgreich gewesen. Kürzlich gab es zudem Berichte, wonach nordkoreanische Cyberkriminelle KI-generierte PowerShell-Backdoor einsetzen. Und einer aktuellen Studie zufolge kann KI bereits anspruchsvolle Aufgaben wie das Schreiben von Zero-Day-Exploits erledigen, die bisher von menschlichen Experten erledigt wurden.

(akn)

In der Nacht zum Mittwoch dieser Woche hat Microsoft die Update-Vorschau für Windows 11 veröffentlicht. Sie fällt im Februar recht umfangreich aus. Die Aktualisierung bringt unter anderem neue Secure-Boot-Zertifikate und führt Wiederherstellungsfunktionen für das Windows-Backup für Organisationen ein.

Die Details der Änderungen mit den Updates listet Microsoft im Knowledgebase-Eintrag KB5077241 auf. Nach der Installation steht Windows 11 auf den Build-Nummern 26200.7922 (Windows 11 25H2) oder 26100.7922 (Windows 11 24H2). Eigentlich soll die Update-Vorschau nicht sicherheitsrelevante Bestandteile der Updates des kommenden Microsoft-Patchdays einem größeren Test unterziehen. Im Februar gehören jedoch auch aktualisierte Secure-Boot-Zertifikate zur Liste der aktualisierten Komponenten. Die alten laufen im Juni dieses Jahres aus, die neuen werden nun auf mehr Maschinen verteilt. Außerdem haben die Entwickler an der Zuverlässigkeit der BitLocker-Laufwerksverschlüsselung gearbeitet. Jetzt sollen Systemhänger nach Eingabe des BitLocker-Wiederherstellungsschlüssels nicht mehr auftreten.

Update-Bestandteile auch für Unternehmenskunden

Bestandteil von Windows Backup für Organisationen ist auch die Wiederherstellung der Apps aus dem Microsoft Store sowie deren Einstellungen. Das hat Microsoft etwa für den reibungslosen Umzug von Windows 10 auf Windows 11 angepriesen. Beim ersten Login auf Geräten, die an Microsoft Entra angebunden sind, auf Cloud-PCs und in Mehrbenutzerumgebungen startet nun der zugehörige Wiederherstellungsprozess, sodass Nutzer und Nutzerinnen auch auf neuen PCs die gewohnte Umgebung vorfinden. Die „schnelle Systemwiederherstellung“ (Quick Machine Recovery, QMR) schaltet Microsoft nun auf Windows-Pro-Ausgaben scharf, die nicht in einer Organisationsumgebung oder Domäne verwaltet werden. Sollte ein Rechner nicht mehr starten, weil etwa ein Treiber einer Sicherheitslösung wie der von Crowdstrike Mitte 2024 millionenfach den Startvorgang verhindert, startet dadurch die Windows-Wiederherstellungsumgebung, verbindet sich ins Netz und übermittelt Diagnose-Daten. Daraufhin soll sie Lösungen anwenden, die den Rechner wieder normal starten lassen.

Die Update-Vorschau bringt zudem Funktionen mit, die erst vergangene Woche in der Windows-Insider-Vorschau im Release-Vorschau-Kanal gelandet sind. Dazu gehört ein Geschwindigkeitstest für die Netzwerkverbindung, der sich direkt aus der Taskleiste über einen Rechtsklick auf das Netzwerksymbol starten lässt. Neben einem stilisierten Tachometer-Symbol lautet der neue Eintrag „Geschwindigkeitstest durchführen“. Etwas unerwartet startet das lediglich eine Bing-Suche im Standardbrowser nach „Speed Test“, wobei sich ähnlich wie bei der Google-Suche nach dem Begriff ein direkt auf der Ergebnisseite eingebetteter Speedtest starten lässt. Ebenfalls an Bord ist nun die native Sysmon-Unterstützung, wodurch das Überwachungs- und Debugging-Tool direkt als Windows-Zusatzfunktion installiert werden kann.

Mehr Werbung

Weitere Änderungen fallen dahinter etwas zurück. Mehr Werbung im Betriebssystem verkauft Microsoft als Verbesserung im Konto-Menü des Startmenüs, in dem eine „Benefits-Seite“ nun die Übersicht und Verwaltung der Benefits des Microsoft-Kontos ermöglicht. Die Kamera-Einstellungen ermöglichen die Konfiguration von Pan und Tilt bei unterstützten Kameras. Widget-Einstellungen öffnen jetzt eine ganze Seite, anstatt nur einen Einstellungsdialog anzuzeigen. Desktop-Hintergründe können im WebP-Format vorliegen.

Für Windows 11 auf ARM-Prozessoren macht Microsoft nun auch Remote Server Administration Tools (RSAT) verfügbar. Damit lassen sich Active Directory Domain Services und LDAP-Service-Tools und weitere installieren. Die Windows-Update-Seite in den Systemeinstellungen soll schneller reagieren. Auch Nearby-Sharing soll mit größeren Dateien verlässlicher sein.

Das Update erhalten Windows-11-Installationen automatisch, sofern die Option „Erhalten Sie die neuesten Updates, sobald sie verfügbar sind“ auf der Windows-Update-Einstellungsseite aktiviert wurde. Ansonsten bietet die Suche nach Updates die Aktualisierung als optionales Update an.

(dmk)

Drei Jahre lang herrschte Stillstand. Nun geht ein Gerichtsverfahren weiter, das sich gegen die zentrale Speicherung von Gesundheitsdaten aller gesetzlich Versicherten im Forschungsdatenzentrum Gesundheit (FDZ) richtet.

Die Klage hatte die Gesellschaft für Freiheitsrechte (GFF) gemeinsam mit Constanze Kurz, netzpolitik.org-Redakteurin und Sprecherin des Chaos Computer Club (CCC), sowie einem weiteren anonymen Kläger im Mai 2022 eingereicht. Weil das FDZ aber jahrelang nicht arbeitsfähig war und kein IT-Sicherheitskonzept vorlegen konnte, ruhte das Verfahren seit Februar 2023. Im vergangenem Herbst wurde das FDZ offiziell eröffnet, weshalb die GFF das Verfahren nun nach eigenen Angaben fortsetzt und weitere Schriftsätze eingereicht hat.

Der Ausgang der Klage könnte weitreichende Folgen haben. Denn es geht um die Forschung mit Gesundheitsdaten, eine zentrale Säule der erst vor wenigen Wochen vorgestellten Digitalisierungsstrategie von Bundesgesundheitsministerin Nina Warken (CDU). Sollte das Gericht zugunsten der Klagenden entscheiden, könnten wichtige Vorhaben ihres Ministeriums ins Wanken geraten.

Kläger:innen fordern effektiven Widerspruch und besseren Schutz

Die Klagenden werden von dem Rechtswissenschaftler Matthias Bäcker vor dem Sozialgericht Berlin und dem Sozialgericht Frankfurt vertreten. Aus ihrer Sicht verstößt die zentrale Sammlung hochsensibler Gesundheitsinformationen beim FDZ zum einen gegen das Grundrecht der Versicherten, selbst über die eigenen Daten zu bestimmen, sowie gegen das Datenschutzrecht der Europäischen Union.

Zum anderen seien die gespeicherten Daten nicht ausreichend geschützt. Für deren Übermittlung werden nur Namen, Geburtstag und -monat der Versicherten entfernt. Ein von der GFF in Auftrag gegebenes Gutachten des Kryptographie-Professors Dominique Schröder kommt zu dem Schluss, dass eine solche Pseudonymisierung die Versicherten nicht ausreichend schützt. Durch den Abgleich mit anderen Datensätzen ließen sich Betroffene ohne großen Aufwand re-identifizieren.

Die GFF fordert daher für alle Versicherten ein „voraussetzungsloses Widerspruchsrecht“, dass ihre eigenen Gesundheitsdaten für Forschung und andere Zwecke weitergenutzt werden. „Gesundheitsdaten gehören zu den sensibelsten Informationen überhaupt und sind ein lukratives Ziel für Kriminelle“, sagt Jürgen Bering, Jurist bei der GFF. „Forschung darf daher nur unter ausreichenden Schutzmaßnahmen stattfinden.“

Auf dem Weg zu „einem der größten Daten-Hubs“

Gesundheitsministerin Warken sieht das Forschungsdatenzentrum als „Innovationsmotor“ der Gesundheitsforschung. Die Einrichtung ist beim Bundesamt für Arzneimittel und Medizinprodukte (BfArM) in Bonn angesiedelt. Seit 2022 werden dort Gesundheitsdaten zu allen gesetzlich Versicherten in einer zentralen Datenbank zusammengeführt und für die Dauer von bis zu 100 Jahren gespeichert. Forschende müssen sich bei diesem Zentrum registrieren, um mit den Daten arbeiten zu können.

Bislang übermitteln die gesetzlichen Krankenkassen nur die Abrechnungsdaten all ihrer Versicherten an das FDZ. Diese Daten geben Auskunft darüber, welche Leistungen die Versicherungen in Rechnung gestellt bekommen haben und mit welchen Diagnosen diese versehen sind.

Ab dem vierten Quartal dieses Jahres sollen dann nach und nach die Behandlungsdaten aus der elektronischen Patientenakte hinzukommen. BfArM-Chef Karl Broich geht davon aus, dass seine Behörde in zehn Jahren bundesweit „einer der großen Daten-Hubs“ ist.

„Gesundheitsdaten brauchen zwingend angemessene Sicherheitsmaßnahmen“

Sollte die GFF mit ihrer Klage Erfolg haben, könnte dieses Ziel verfehlt werden. Denn bislang ist vorgesehen, dass die ePA-Daten automatisch an das FDZ gehen – sofern Versicherte dem nicht aktiv widersprechen. Dieser Automatismus müsste dann möglicherweise einer aktiven Einwilligung der Versicherten weichen.

Aus Sicht der Klagenden wäre dies zu begrüßen. „Es wird höchste Zeit, dass das Verfahren fortgeführt wird“, sagt Constanze Kurz. „Denn es braucht Klarheit zur Sicherheit und zum Widerspruchsrecht, schon weil inzwischen der Kreis der nutzungsberechtigten Stellen ganz erheblich erweitert wurde.“