Connect with us

Datenschutz & Sicherheit

WhatsApp bringt KI-Schreibhilfe für Kurznachrichten mit Fokus auf Datenschutz


WhatsApp hat eine KI-gestützte Schreibhilfe namens „Writing Help“ veröffentlicht. Um dem Ruf als „Datenkrake“ entgegenzuwirken, will der Mutterkonzern Meta die Verarbeitung privater Nachrichten mit einem außergewöhnlich hohen technischen Aufwand absichern. Zwei parallel veröffentlichte Sicherheitsaudits zeigen jedoch, dass die dafür entwickelte Architektur „Private Processing“ anfangs erhebliche und teils gravierende Schwachstellen aufwies.

Mit „Writing Help“ will WhatsApp seinen Nutzern künftig beim Formulieren von Nachrichten helfen. Eine solche Funktion wirft unweigerlich die Frage auf, wie die Inhalte privater Ende-zu-Ende-verschlüsselter Chats verarbeitet werden, ohne die Vertraulichkeit zu gefährden.

Metas Antwort darauf ist die seit Längerem entwickelte Architektur „Private Processing“. Laut dem Konzern soll diese technisch sicherstellen, dass niemand – nicht einmal Meta-Mitarbeiter – auf die verarbeiteten Nachrichten zugreifen kann. Das System basiert laut Meta auf mehreren Säulen:

  • Anonymisierte Anfragen: Bevor eine Anfrage die Server von Meta erreicht, wird die Identität des Nutzers durch das Oblivious-HTTP-Protokoll (OHTTP) über einen externen Relay-Dienst verschleiert.
  • Isolierte Verarbeitung: Die eigentliche KI-Analyse findet in einer abgeschirmten Trusted Execution Environment (TEE) statt.
  • Stateless Processing: Die Nachrichten werden nur für die Dauer der Verarbeitung im flüchtigen Speicher gehalten und danach umgehend wieder gelöscht.



Metas „Private Processing“: Die Architektur in der Übersicht

(Bild: Meta)

Um die Sicherheit dieses komplexen Systems zu belegen, beauftragte Meta die Firmen NCC Group (PDF) und Trail of Bits (PDF) mit unabhängigen Prüfungen. Die Berichte, die insgesamt 49 Schwachstellen (21 von NCC, 28 von Trail of Bits) auflisten, wurden veröffentlicht und zeichnen ein klares Bild: Der Ansatz ist ambitioniert, war aber zum Zeitpunkt der Audits alles andere als sicher.

Beide Sicherheitsteams identifizierten unabhängig voneinander mehrere kritische Designfehler, die laut Meta inzwischen behoben wurden:

  • Gefahr der Deanonymisierung: Sowohl NCC als auch Trail of Bits fanden heraus, dass die für die Anonymisierung (OHTTP) nötigen Schlüsselkonfigurationen anfangs direkt von Meta-Servern an die Clients ausgeliefert wurden. Dies hätte es Meta ermöglicht, die Anonymität gezielt aufzuheben und Anfragen einzelnen Nutzern zuzuordnen.
  • Fehlende „Frische-Garantie“: Beide Audits bemängelten, dass keine Mechanismen zur Überprüfung der Aktualität der TEE-Software – für die Trusted Execution Environment – existierten. Ein Angreifer hätte eine einmal als sicher zertifizierte, aber später als verwundbar erkannte Software-Version unbegrenzt weiter nutzen können, um Nutzer anzugreifen.
  • Mangelnde Hardware-Bindung: Trail of Bits stellte zudem fest, dass die Attestierung nicht an spezifische, von Meta kontrollierte CPUs gebunden war. Ein Angreifer hätte eine beliebige, anderswo kompromittierte SEV-SNP-CPU nutzen können, um das System zu täuschen.

Die NCC Group fand auch unnötige Netzwerkschnittstellen in den geschützten VMs, die ein kompromittierter Host-Server zur Daten-Exfiltration hätte nutzen können. Trail of Bits entdeckte zudem die Möglichkeit der Code-Injection durch Umgebungsvariablen und eine anfänglich komplett fehlende Sicherheitsüberprüfung der NVIDIA-GPUs, die für die KI-Berechnungen eingesetzt werden.

Laut den Berichten hat Meta die meisten der kritischen Schwachstellen vor dem Start der Funktion behoben. Beide Audits kommen zu einem ähnlichen Schluss: Trotz der ausgeklügelten Technik hängt die Sicherheit von „Private Processing“ letztlich von Vertrauensannahmen ab. Nutzer müssen darauf vertrauen, dass Meta nicht mit seinen Infrastruktur-Partnern (wie Fastly und Cloudflare) konspiriert oder die nicht quelloffenen Teile des Systems und die als Binärdateien ausgelieferten Images keine versteckten Hintertüren enthalten.

Beide Berichte empfahlen Meta dringend, auf vollständige Reproduzierbarkeit der Builds aus Open-Source-Code hinzuarbeiten, um eine echte, unabhängige Überprüfung durch die Öffentlichkeit zu ermöglichen. Sein Bug-Bounty-Programm betreibt Meta bereits seit 2011.


(mack)



Source link

Datenschutz & Sicherheit

BigBlueButton: Update fürs Webkonferenz-System fixt Denial-of-Service-Lücken


Die Entwickler des quelloffenen Webkonferenz-Systems BigBlueButton (BBB) für Windows- und Linux-Server haben mit einem Update auf Version 3.0.13 mehrere Angriffsmöglichkeiten beseitigt.

Authentifizierte Angreifer hätten aus der Ferne unter bestimmten Voraussetzungen drei Schwachstellen mit hohem Schweregrad („High“) missbrauchen können, um bei Videokonferenzen die Chatfunktionen sämtlicher Nutzer zu sabotieren oder per Cross-Site-Scripting (XSS) schädliche Skripte auszuführen. Darüber hinaus war es auch möglich, das aktuelle Meeting oder schlimmstenfalls alle derzeit auf dem betreffenden Server stattfindenden Online-Konferenzen zum Absturz zu bringen (Denial-of-Service).

Über Exploits beziehungsweise Angriffsversuche in freier Wildbahn ist bislang nichts bekannt. Dennoch empfiehlt sich ein zeitnahes Update.


BBB ist für den Einsatz in Bildungseinrichtungen konzipiert und wird auch hierzulande etwa in Schulen und Universitäten verwendet. Es lässt sich in gängige Lern- und Inhaltsverwaltungssysteme wie IServ, Moodle oder ILIAS einbinden und bringt unter anderem Features für Online-Präsentationen, gemeinsame Notizen (shared notes) und Abstimmungen mit.

Auf einige dieser Features fußen die aktuellen Sicherheitslücken CVE-2025-55200 (XSS, CVSS-v3-Score 7.1), CVE-2025-61601 (DoS, 7.5) und CVE-2025-61602 (DoS, 7.5). So kann ein als Meeting-Teilnehmer angemeldeter Nutzer mit speziell präpariertem Nicknamen die XSS-Lücke durch bestimmte Shared-Notes-Eingaben triggern. Das „Crashen“ eines Meetings basiert auf schädlichen Eingaben in die Abstimmungsfunktion. Und der Chat stürzt ab, wenn ein unzureichend validierter Emoji-Parameter manipuliert wird. Letzteres lässt sich recht einfach über die Entwicklertools des Browsers bewerkstelligen.

Nähere technische Details zu den Sicherheitslücken kann man bei GitHub nachlesen:

Ein Update auf Version 3.0.13 schließt die Sicherheitslücken. Die Entwickler raten betroffenen Bildungseinrichtungen, die BBB auf eigenen Servern hosten, zum Aktualisieren der Software; Workarounds gibt es nicht.

Angesichts der detaillierten Angriffsbeschreibungen bei GitHub ist zeitnahes Handeln ratsam.


(ovw)



Source link

Weiterlesen

Datenschutz & Sicherheit

So soll Missbrauch von Palantir-Software verhindert werden


Nach der Einführung der umstrittenen Palantir-Software VeRA bei der bayerischen Polizei haben die Beamten einen großen Teil der Nutzungen auf möglichen Missbrauch überprüft. 107 Mal sei das Analyse-Programm – mit vollem Namen „Verfahrensübergreifende Recherche- und Analyseplattform“ – bis Anfang Oktober genutzt worden, teilte das bayerische Landeskriminalamt (LKA) auf Anfrage mit. Die Zahl der Stichproben zur Prüfung in diesem Zeitraum liege „in einem hohen zweistelligen Bereich“. Auffälligkeiten habe es dabei nicht gegeben.

Mit dem Programm lassen sich die verschiedenen Datentöpfe mit zig Millionen Informationen, die der bayerischen Polizei zur Verfügung stehen, in Sekundenschnelle durchsuchen. Dazu gehören nicht nur Angaben zu Verdächtigen, sondern auch zu Zeugen.

Lesen Sie auch

Um die Daten auszuwerten, übersetzt die Software unterschiedliche Dateiformate in ein gemeinsames Format. So können Ermittler Verbindungen erkennen und Informationen zur selben Person aus den verschiedenen Quellen zusammenführen. Angezeigt werden die Daten wahlweise in Netzwerken, auf Karten, in zeitlicher Abfolge oder als reine Texttabellen. Aus den Informationen lassen sich dann neue Dossiers erstellen.

Datenschützer kritisieren diesen umfangreichen Zugriff und die mögliche Verknüpfung von Daten, die zu völlig unterschiedlichen Zwecken gesammelt wurden. Analysten können dort je nach Fall Verbindungen zwischen Zeugen eines Unfalls und nachrichtendienstlichen Erkenntnissen zu Terrorverdächtigen feststellen und festhalten.

Allerdings müssen die Analysten der Polizei, die die Software benutzen dürfen, bei jeder Suchanfrage zunächst angeben, zu welchem Zweck sie das Palantir-Programm nutzen. Bei weniger schwerwiegenden Gefahren können sie nicht auf besonders sensible Daten wie Erkenntnisse aus Abhöraktionen zugreifen, in dringenderen Fällen wie Terrorgefahr dagegen schon.

Um sicherzugehen, dass keiner der Beamtinnen und Beamten das Programm unberechtigterweise nutzt – zum Beispiel um den Wohnort von Prominenten oder Menschen aus dem privaten Umfeld zu suchen – werden die Suchanfragen stichprobenartig überprüft, teilt das LKA mit. Die Prüfer können dabei einsehen, wer wann welche Daten zu welchem angegebenen Zweck abgefragt hat.

Zuständig dafür sei die Projektleitung zur Software im LKA in Absprache mit dem Polizeipräsidium, aus dem die Suchanfrage kam. Eine genaue Zahl der Stichproben wollte das LKA auf Nachfrage nicht nennen.

Bei unberechtigten Abfragen werde zunächst geprüft, ob ein Verstoß gegen die Regeln zum Datenschutz vorliege, teilte das LKA mit. Betroffenen Beamten könne dann zum Beispiel der Zugriff auf die Software entzogen werden. In schwereren Fällen, etwa wenn sensible Daten weitergegeben werden, könne es auch strafrechtliche Ermittlungen geben.

Der Einsatz der Software von Palantir bei deutschen Polizeien ist politisch umstritten. Kritiker stoßen sich an den politischen Präferenzen von Mitgründer und Verwaltungsratschef Peter Thiel: Der US-Milliardär hatte in der Vergangenheit US-Präsident Donald Trump im Wahlkampf unterstützt. Nach Angaben des Unternehmens ist Thiel aber nicht in das operative Tagesgeschäft involviert.

Datenschützer äußerten auch die Befürchtung, dass US-Geheimdienste über Palantir Zugriff auf deutsche Polizeidaten bekommen könnten – ein Vorwurf, den die Firma zuletzt vehement zurückwies. Ein solcher Datenabfluss sei „technisch ausgeschlossen“, weil das Programm „ausschließlich“ auf Servern der Polizei betrieben werde – ohne Anschluss ans Internet oder externe Server.

Neben der bayerischen Polizei nutzen auch Beamten in Nordrhein-Westfalen und Hessen die Software, in Baden-Württemberg soll sie nach dem Willen der Landesregierung bald eingesetzt werden. Einen Einsatz bei Bundesbehörden wollte Bundesinnenminister Alexander Dobrindt (CSU) zuletzt prüfen.


(afl)



Source link

Weiterlesen

Datenschutz & Sicherheit

Qantas-Kundendaten tauchen nach Cyberangriff im Netz auf


Nach einem Cyberangriff bei der australischen Airline Qantas im Juli sind jetzt Kundendaten im Netz aufgetaucht. Gemeinsam mit den Ermittlungsbehörden versucht das Unternehmen aktuell noch zu ermitteln, um welche Daten genau es sich handelt. Experten ordnen die Ereignisse bei Qantas dem Cybercrime-Kollektiv Scattered Lapsu$ Hunters zu, das zuletzt eine Reihe von Großunternehmen heimsuchte.

5,7 Millionen Kundendaten waren bei Qantas Anfang Juli gestohlen worden. Größtenteils handelt es sich dabei um Namen, E-Mail-Adressen und Vielfliegerdaten. Ein kleinerer Teil der betroffenen Kundendaten umfasst aber auch Geschäfts- oder Privatadressen sowie Geburtsdaten, Telefonnummern, Geschlecht und Essenspräferenzen, teilte Qantas am Samstag mit. Kreditkartendaten oder Passwörter seien aber nicht betroffen. Vielflieger müssten sich keine Sorgen um ihre Bonuspunkte machen, versichert das Unternehmen in einer Kundeninformation.

Am New South Wales Supreme Court, einem der obersten australischen Gerichtshöfe, hat die Airline nun eine einstweilige Verfügung erwirkt, welche den Zugriff auf und die Veröffentlichung der geleakten Daten untersagt. Was die mutmaßlichen Akteure hinter dem Angriff aber kaum abhalten dürfte: Es gibt Hinweise, dass es sich hierbei um Scattered Lapsu$ Hunters handelt. Ein Konglomerat von Cybercrime Gangs, das aktuell 39 namhafte Unternehmen auf einer Leaksite im Darknet erpresst. Sie fordern unter anderem Google Adsense, Salesforce, Adidas auf, ein Lösegeld zu verhandeln. Ansonsten wollen die Täter zuvor erbeutete Daten veröffentlichen.

Der australische IT-Sicherheitsexperte Troy Hunt ist der Schöpfer von haveibeenpwnd.com. Mit der Seite lässt sich einfach herausfinden, ob die eigene Mailadresse schon einmal Teil eines Datenlecks bei einer Website war und dortige Login-Daten in die Hände von Cyberkriminellen gefallen sein könnten. Jetzt erwischte es Hunt selbst, wie er dem australischen Fernsehsender ABC News bestätigte: Die Mailadresse, die er in einem Qantas-Kundenaccount hinterlegt hat, sei auch Teil der kursierenden Kundendaten.

Allerdings dürfte der Schaden sich in Grenzen halten: Hunt nutzte die betroffene Adresse demnach ausschließlich für Qantas. Eine gängige Praxis unter IT-Sicherheitsexperten: Eine Mailadresse anlegen, die ausschließlich für den Account auf einer bestimmten Webseite dient – wenn hier zum Beispiel plötzlich fremde Mails eintreffen oder die Adresse in völlig anderen Leaks auftaucht, kann das Hinweise auf Kompromittierungen beziehungsweise die Zusammensetzung fremder Datenleaks liefern.

Auf einer Website, wo die Qantas-Daten zunächst zum Download bereitstanden, sind sie Hunt zufolge entfernt worden. Möglicherweise auf Verfügung des Gerichts. „Aber sie sind bereits in Tausenden von Händen und werden wahrscheinlich einfach auf einen neuen Dienst hochgeladen“, sagte er. Der sprichwörtliche Geist sei aus der Flasche. Er rät betroffenen Qantas-Kunden, noch wachsamer gegenüber möglichen Phishing-Versuchen zu sein – je mehr ein Bedrohungsakteur über sein Opfer weiß, desto besser könne er seine Phishing-Angriffe zuschneiden.


(nen)



Source link

Weiterlesen

Beliebt