Datenschutz & Sicherheit
WhatsApp bringt KI-Schreibhilfe für Kurznachrichten mit Fokus auf Datenschutz
WhatsApp hat eine KI-gestützte Schreibhilfe namens „Writing Help“ veröffentlicht. Um dem Ruf als „Datenkrake“ entgegenzuwirken, will der Mutterkonzern Meta die Verarbeitung privater Nachrichten mit einem außergewöhnlich hohen technischen Aufwand absichern. Zwei parallel veröffentlichte Sicherheitsaudits zeigen jedoch, dass die dafür entwickelte Architektur „Private Processing“ anfangs erhebliche und teils gravierende Schwachstellen aufwies.
Mit „Writing Help“ will WhatsApp seinen Nutzern künftig beim Formulieren von Nachrichten helfen. Eine solche Funktion wirft unweigerlich die Frage auf, wie die Inhalte privater Ende-zu-Ende-verschlüsselter Chats verarbeitet werden, ohne die Vertraulichkeit zu gefährden.
Metas Antwort darauf ist die seit Längerem entwickelte Architektur „Private Processing“. Laut dem Konzern soll diese technisch sicherstellen, dass niemand – nicht einmal Meta-Mitarbeiter – auf die verarbeiteten Nachrichten zugreifen kann. Das System basiert laut Meta auf mehreren Säulen:
- Anonymisierte Anfragen: Bevor eine Anfrage die Server von Meta erreicht, wird die Identität des Nutzers durch das Oblivious-HTTP-Protokoll (OHTTP) über einen externen Relay-Dienst verschleiert.
- Isolierte Verarbeitung: Die eigentliche KI-Analyse findet in einer abgeschirmten Trusted Execution Environment (TEE) statt.
- Stateless Processing: Die Nachrichten werden nur für die Dauer der Verarbeitung im flüchtigen Speicher gehalten und danach umgehend wieder gelöscht.
Metas „Private Processing“: Die Architektur in der Übersicht
(Bild: Meta)
Audits zeigten Schwachstellen auf
Um die Sicherheit dieses komplexen Systems zu belegen, beauftragte Meta die Firmen NCC Group (PDF) und Trail of Bits (PDF) mit unabhängigen Prüfungen. Die Berichte, die insgesamt 49 Schwachstellen (21 von NCC, 28 von Trail of Bits) auflisten, wurden veröffentlicht und zeichnen ein klares Bild: Der Ansatz ist ambitioniert, war aber zum Zeitpunkt der Audits alles andere als sicher.
Beide Sicherheitsteams identifizierten unabhängig voneinander mehrere kritische Designfehler, die laut Meta inzwischen behoben wurden:
- Gefahr der Deanonymisierung: Sowohl NCC als auch Trail of Bits fanden heraus, dass die für die Anonymisierung (OHTTP) nötigen Schlüsselkonfigurationen anfangs direkt von Meta-Servern an die Clients ausgeliefert wurden. Dies hätte es Meta ermöglicht, die Anonymität gezielt aufzuheben und Anfragen einzelnen Nutzern zuzuordnen.
- Fehlende „Frische-Garantie“: Beide Audits bemängelten, dass keine Mechanismen zur Überprüfung der Aktualität der TEE-Software – für die Trusted Execution Environment – existierten. Ein Angreifer hätte eine einmal als sicher zertifizierte, aber später als verwundbar erkannte Software-Version unbegrenzt weiter nutzen können, um Nutzer anzugreifen.
- Mangelnde Hardware-Bindung: Trail of Bits stellte zudem fest, dass die Attestierung nicht an spezifische, von Meta kontrollierte CPUs gebunden war. Ein Angreifer hätte eine beliebige, anderswo kompromittierte SEV-SNP-CPU nutzen können, um das System zu täuschen.
Die NCC Group fand auch unnötige Netzwerkschnittstellen in den geschützten VMs, die ein kompromittierter Host-Server zur Daten-Exfiltration hätte nutzen können. Trail of Bits entdeckte zudem die Möglichkeit der Code-Injection durch Umgebungsvariablen und eine anfänglich komplett fehlende Sicherheitsüberprüfung der NVIDIA-GPUs, die für die KI-Berechnungen eingesetzt werden.
Vertrauen weiterhin Grundvoraussetzung
Laut den Berichten hat Meta die meisten der kritischen Schwachstellen vor dem Start der Funktion behoben. Beide Audits kommen zu einem ähnlichen Schluss: Trotz der ausgeklügelten Technik hängt die Sicherheit von „Private Processing“ letztlich von Vertrauensannahmen ab. Nutzer müssen darauf vertrauen, dass Meta nicht mit seinen Infrastruktur-Partnern (wie Fastly und Cloudflare) konspiriert oder die nicht quelloffenen Teile des Systems und die als Binärdateien ausgelieferten Images keine versteckten Hintertüren enthalten.
Beide Berichte empfahlen Meta dringend, auf vollständige Reproduzierbarkeit der Builds aus Open-Source-Code hinzuarbeiten, um eine echte, unabhängige Überprüfung durch die Öffentlichkeit zu ermöglichen. Sein Bug-Bounty-Programm betreibt Meta bereits seit 2011.
(mack)
Datenschutz & Sicherheit
Bundesregierung will Schüler zentral erfassen
Man soll sich die Bildungs-ID oder auch Schüler-ID so vorstellen wie eine Steuer-ID, sagt der Grünenpolitiker Cem Özdemir. Die Idee hinter der ID ist simpel: Daten von den Bildungsverläufen der Schüler*innen sollen zentral erfasst werden, zum Beispiel Noten oder auch, wo jemand zur Schule gegangen ist. Özdemirs zentrales Argument für die neue Datenbank ist, dass man mit der Bildungs-ID Schulabbrecher vom Schulabbrechen abbringen könnte. Wie das gehen soll, bleibt allerdings unklar.
„Warum ist es allgemein akzeptiert, dass wir mit einer ID sämtliche Steuerdaten einer Person erfassen, aber bei der Bildungsbiografie fehlt ein systematischer Überblick?“ Das Kultusministerium in Baden-Württemberg habe bereits an der Arbeit einer solchen ID begonnen. Und auch das niedersächsische Kultusministerium will IDs für Schüler*innen bis 2027 einführen.
Was Özdemir nicht erwähnt: Die Bundesregierung hat in ihrem Koalitionsvertrag von 2025 längst angekündigt, die Länder darin zu unterstützen, Schüler-IDs einzuführen. Der Plan sieht ein bundesweites sogenanntes Bildungsverlaufsregister vor. Demnach sollen Schulverwaltungen und andere berechtigte Stellen Daten zu den Bildungsbiografie der Schüler*innen zentral abrufen können.
Mit einer ID gegen die Bildungsmisere?
Die Schüler-ID ist schon lange Thema. Zum ersten Mal diskutierte die Kultusministerkonferenz im Jahr 2003 darüber. Zuletzt stand sie bei der Bildungsministerkonferenz im März auf der Tagesordnung. Die Bildungsministerinnen Theresa Schopper (Grüne) aus Baden-Württemberg, Stefanie Hubig (SPD) aus Rheinland-Pfalz und Karin Prien (CDU) aus Schleswig-Holstein stellten dort ihr Konzeptpapier „Bessere Bildung 2035“ vor.
Hubig und Prien sind inzwischen Teil der Bundesregierung. Hubig hat das Bundesministerium für Justiz übernommen, Prien das Bundesministerium für Bildung.
Darin sprechen sie sich für eine Bildungs-ID nach kanadischem Vorbild aus. Die könne nicht nur beim Problem der Abbrecherquote helfen, sondern auch dabei die Leistungen von Schüler*innen zu steigern. Auch ein Schulwechsel soll damit leichter werden.
Sorge um Privatsphäre von Schüler*innen
Bislang ist zwar nicht klar, welche Daten der Schüler*innen genau gespeichert werden sollen. Aber die Sorge um einen zu tiefen Eingriff in die Privatsphäre der Kinder und Jugendlichen besteht. So kritisiert die Gewerkschaft Erziehung und Wissenschaft (GEW) gegenüber netzpolitik.org die Pläne der Bundesregierung.
Die GEW sieht solche Datenbanken kritisch und „lehnt eine bundesweite Speicherung in Form eines zentralen Bildungsregisters ab“, so ein Beschluss der Gewerkschaft von 2022. Zwar könne man den Bildungsbereich anhand von Daten besser monitoren. Doch dürften die erhobenen Daten nicht zum Zweck der Leistungs- oder Verhaltenskontrolle genutzt werden, so die GEW auf Anfrage.
Auch der Thüringer Landesdatenschutzbeauftragte Tino Melzer sieht die Einführung der ID kritisch: Eine „Identifikationsnummer ist ein eindeutiges Personenkennzeichen“, erklärt er auf Anfrage. Unter diesem Kennzeichen können Daten zu einer Person zusammengeführt werden, es kann eindeutig und dauerhaft einer Person zugeordnet werden. Das berge hohe Risiken für die betroffene Person.
Ein Risiko ist, dass dadurch Persönlichkeitsprofile möglich werden, von Personen bereits in sehr jungen Jahren. Auch aus datenschutzrechtlicher Sicht hätten die Befürworter der Schüler-ID noch nicht gezeigt, warum diese ID erforderlich sein soll, so Melzer. Daher bestünden im Moment datenschutzrechtliche Bedenken dagegen, die Schüler-ID einzuführen.
Datenschützer*innen warnen
Schon jetzt gibt es in den Bundesländern Schüler*innendatenbanken. Hessen etwa unterhält die Lehrer- und Schülerdatenbank, LUSD.
Im Datenschutzrecht gelten Minderjährige als besonders schutzwürdige Personengruppe, so der Pressesprecher der Bundesdatenschutzbeauftragten, Philipp Wilhelmstrop. Zwar sei eine bundeseinheitliche Schüler-ID nicht in jedem Fall datenschutzrechtlich unzulässig. Doch das hänge wesentlich von der Ausgestaltung ab: Welchen Zwecken soll eine solche Schüler-ID dienen? Welche Daten werden zu einer Schüler-ID gespeichert? Wo wird eine solche ID geführt und welche Stellen haben Zugriff auf diese ID?
Klar sei nur eines: „Je mehr Daten erfasst werden, je sensibler diese Daten sind, je länger diese Daten gespeichert werden und je umfassender sie zu einer Profilbildung beitragen, desto größer ist der damit verbundene Grundrechtseingriff“ und desto höhere Anforderungen gelten für die Rechtfertigung eines solchen Eingriffs.
Wir sind ein spendenfinanziertes Medium
Unterstütze auch Du unsere Arbeit mit einer Spende.
Wenn persönliche Informationen zum Verhängnis werden
Dass die Bundesregierung, wie im Koalitionsvertrag angekündigt, Schule, Jugend- und Eingliederungshilfe immer mehr verzahnen will, könnte laut GEW noch zu einem anderen Problem führen. Wenn zuständige Personen individuelle Bildungsbiografien einsehen könnten, könnte das ihre Einstellung gegenüber bestimmten Kindern und Jugendlichen beeinflussen. Das befeuert die Gefahr von „Stigmatisierung und Diskriminierung aufgrund sozialer Lage“ und „Migrationsgeschichte“. Auch ein Schul- oder Klassenwechsel zum Neustart könnte erschwert werden, wenn die neue Schule zu viele Daten über Schüler*innen bekommt.
Die könne sich zusätzlich verschärfen, wenn die Bundesregierung die Schüler-ID mit der Bürger-ID verknüpft, wie sie es im Koalitionsvertrag angekündigt hat. Diese Verknüpfung lehnt die GEW entschieden ab.
Nutzen fraglich
Indes fragen Wissenschaftler*innen: Wozu braucht es diese Verknüpfung? „Gerade in der aktuellen datenbasierten Gesellschaft sollten wir vorsichtig sein, welche Daten wir miteinander verknüpfen, gerade weil es mannigfaltige und schnelle Auswertungsmethoden gibt.“ Mandy Schiefner-Rohs, Professorin für Pädagogik an der Technischen Universität Rheinland-Pfalz, Sandra Hofhues, Professorin für Mediendidaktik an der FernUni Hagen, und Andreas Breiter, Professor für Angewandte Informatik an der Universität Bremen stellen aber insgesamt infrage, ob eine ID den versprochenen Nutzen bringen kann.
Gegenüber netzpolitik.org erklären sie, Daten aus der Schule lägen vielfach schon vor, zum Beispiel aus Schulleistungstests. Doch zuständige Stellen würden sie nicht oder nicht umfänglich auswerten. Die Frage also: Warum sollte sich das mit einer Bildungs-ID ändern?
Daten machen noch keine Bildungsgerechtigkeit
„Gleichzeitig wissen wir aus der empirischen Bildungsforschung, dass die einzelne Messung und Erhebung nicht automatisch zu Bildungsgerechtigkeit oder gutem Unterricht führt“, so Schiefner-Rohs, Hofhues und Breiter. Es ist daher unklar, was sich durch die Schüler*innen-ID pädagogisch-didaktisch verändern würde.
Die Wissenschaftler*innen warnen zudem vor „nicht-intendierten Nebenwirkungen“: Mit einer ID würden Schüler*innen immer mehr zu Datenpunkten. „Ihr Verhalten kann dann natürlich genau verfolgt und vermessen werden.“
Datenschutz & Sicherheit
Offenbar Datenleck bei Ferienwohnungen.de | heise online
Beim Online-Buchungsportal Ferienwohnungen.de konnten Kriminelle offenbar im größeren Stil Daten entwenden, die sie inzwischen im Darknet veröffentlicht haben. Ein kurzer Countdown lief bis Donnerstagmittag, inzwischen steht auf dem Darknet-Auftritt „Published“ auf der Kachel. Dort lassen sich die veröffentlichen Daten direkt aufrufen.
Die Verzeichnisse des Datenlecks bei Ferienwohnungen.de.
(Bild: heise medien)
Die Verzeichnisstruktur der veröffentlichten Daten deutet darauf hin, dass die Angreifer ein Backup vom 10. Juli 2025 aus einer Nextcloud-Instanz gezogen haben. Es finden sich Nutzerverzeichnisse, die ihrerseits eine Menge Daten enthalten. Es fallen den Dateinamen zufolge etwa Verträge mit Großkunden ins Auge, Rechnungsstellung, Informationen aus der Buchhaltung sowie offenbar auch Informationen zu den Angestellten des Portals. Aus der umfangreichen Dateiliste ließ sich nicht erkennen, ob auch Daten von Privatkunden des Portals dort lagern; offensichtliche SQL-Dumps oder Ähnliches scheinen nicht enthalten zu sein.
Keine Reaktion
Auf Anfrage von heise online hat Ferienwohnungen.de nicht reagiert, auch die dahinterstehende Holidu GmbH antwortete nicht darauf. Eine Anfrage beim Bayerischen Landesamt für Datenschutzaufsicht blieb bislang ebenfalls unbeantwortet.
Somit lässt sich derzeit nicht verifizieren, ob die Daten echt sind und wie weitreichend der Datenabfluss ist. Wer seinen letzten Urlaub dort gebucht hat, sollte zumindest besonders achtsam bei eingehenden Nachrichten sein – die auf der Nextcloud-Instanz lagernden Informationen reichen teils viele Jahre zurück und könnten Phishern helfen, eine authentischere Ansprache in die Nachrichten zu bringen. Da die Dateien Hinweise auf Schulungen durch Datenschutzbeauftragte nahelegen, sollten theoretisch zumindest keine Daten von Privatkunden dort liegen, die mehrere Jahre zurückreichen.
Vor etwa einer Woche wurde bekannt, dass Cyberkriminelle bei dem HR-Softwareanbieter Infoniqa eingedrungen sind und sensible Daten erbeuten konnten.
(dmk)
Datenschutz & Sicherheit
Eure Chats mit ChatGPT sind nicht privat
OpenAI, der Hersteller von ChatGPT hat in einem Blogpost angekündigt, seinen Chatbot sicherer machen zu wollen. Gleichzeitig hat das Unternehmen bekannt gegeben, dass es die Chats, die mit seinem Bot geführt werden, automatisch nach bestimmten Themen scannt. Manche Inhalte würden dann menschlichen Moderator*innen zur Prüfung vorgelegt.
In Fällen, in denen die Moderator*innen Dritte in Gefahr sehen, könnten die Chats auch an die Polizei weitergegeben werden, schreibt OpenAI. In Fällen von Selbstgefährdung würde die Polizei allerdings außen vor gelassen, aus Respekt vor der Privatsphäre der Betroffenen. Grund sei die „einzigartig private Natur“ der Interaktionen mit ChatGPT.
Tatsächlich vertrauen Nutzer*innen dem Chatbot intimste Details an – vermutlich ohne zu ahnen, dass Menschen diese Unterhaltungen einsehen können. „ChatGPT kennt alle meine Schwächen, Sorgen und Geheimnisse“, bekennt eine Autorin des Guardian. Das Sprachmodell wird zunehmend von Menschen wie eine befreundete Person behandelt oder für Dating-Tipps benutzt. Der Hersteller versuchte in der Vergangenheit bereits zu verhindern, dass ChatGPT als Freund*in oder Therapeut*in benutzt wird.
Der Ankündigung von OpenAI, seinen Chatbot sicherer machen zu wollen, war der Selbstmord eines kalifornischen Teenagers vorausgegangen. Dessen Eltern verklagen nun OpenAI. Der Chatbot habe dem Jugendlichen Methoden zur Selbsttötung empfohlen und angeboten, einen Abschiedsbrief für ihn zu verfassen.
Wir sind ein spendenfinanziertes Medium
Unterstütze auch Du unsere Arbeit mit einer Spende.
Beide Verhaltensweisen von ChatGPT konnten in einer Studie reproduziert werden. Eine weitere Studie hat ebenfalls herausgefunden, dass es nicht schwer ist, von ChatGPT Anleitungen zur Selbstverletzung zu erhalten. Gleichzeitig vermeide der Chatbot es, direkt auf Fragen zu antworten, die sich mit der Suche nach therapeutischer Hilfe beschäftige, heißt es dort.
Der Fall des Kaliforniers ist nicht der erste Selbstmord, der in Zusammenhang mit ChatGPT gebracht wird. Zudem können die Chatbots wohl psychotische Gedanken fördern.
Neben der Durchsuchung der Chats und deren eventueller Weiterleitung, die laut OpenAI bereits praktiziert wird, plant das Unternehmen weitere Sicherheitsmaßnahmen. So arbeite es beispielsweise daran, dass der Chatbot auch in längeren Unterhaltungen sein Sicherheitstraining nicht vergisst.
Neben der potenziellen Selbstverletzung sollen vom Chatbot auch weitere psychische Belastungen besonders behandelt werden, so zum Beispiel der Glaube, ohne Pause Autofahren zu können. Menschen in psychischen Notlagen soll professionelle Hilfe vermittelt oder die Kontaktaufnahme mit Angehörigen nahegelegt werden. Und Eltern sollen mehr Kontrolle über die Chatbot-Nutzung ihrer Kinder erhalten können. Wann diese Maßnahmen umgesetzt werden sollen, gab das Unternehmen allerdings nicht bekannt.
-
Datenschutz & Sicherheitvor 3 Monaten
Geschichten aus dem DSC-Beirat: Einreisebeschränkungen und Zugriffsschranken
-
UX/UI & Webdesignvor 1 Woche
Der ultimative Guide für eine unvergessliche Customer Experience
-
Apps & Mobile Entwicklungvor 3 Monaten
Metal Gear Solid Δ: Snake Eater: Ein Multiplayer-Modus für Fans von Versteckenspielen
-
Online Marketing & SEOvor 3 Monaten
TikTok trackt CO₂ von Ads – und Mitarbeitende intern mit Ratings
-
Digital Business & Startupsvor 2 Monaten
10.000 Euro Tickets? Kann man machen – aber nur mit diesem Trick
-
Entwicklung & Codevor 1 Woche
Posit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Social Mediavor 1 Woche
Relatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
UX/UI & Webdesignvor 3 Monaten
Philip Bürli › PAGE online