Tracking: Wir und unsere 170 Partner verarbeiten personenbezogene Daten, indem wir mit auf Ihrem Gerät gespeicherten Informationen (z. B. eindeutige Kennungen in Cookies) ein Nutzungsprofil erstellen, um z. B. Anzeigen zu personalisieren. Verarbeitungszwecke: Genaue Standortdaten und Abfrage von Geräteeigenschaften zur Identifikation, Informationen auf einem Gerät speichern und/oder abrufen, Personalisierte Anzeigen und Inhalte, Anzeigen- und Inhaltsmessungen, Erkenntnisse über Zielgruppen und Produktentwicklungen.

Das Versprechen neuer KI-Tools wie ChatGPT Health ist verlockend: die Fähigkeit, jahrelange persönliche Gesundheitsdaten von Geräten wie der Apple Watch zu analysieren, um bedeutsame Erkenntnisse zu gewinnen. Aber was passiert, wenn man diese Theorie in die Praxis umsetzt?

Geoffrey A. Fowler, Tech-Kolumnist der Washington Post, wollte es unbedingt wissen. Er gab dem neuen Tool Zugriff auf die Daten eines ganzen Jahrzehnts – darunter 29 Millionen Schritte und 6 Millionen Herzschlagmessungen, die in seiner Apple-Health-App gespeichert sind. Dann bat er den Bot, seine Gesunderheit, bzw. speziell seine Herzgesundheit zu bewerten.

Der Bot gab ihm eine glatte Sechs (ein F nach amerikanischem System, also die schlechtestmögliche Bewertung).

„Ich bekam Panik und ging joggen“, schreibt Fowler in seinem Artikel. Dann schickte er den Bericht von ChatGPT an seinen echten Arzt. Dessen Antwort war deutlich beruhigender : Fowlers Risiko für einen Herzinfarkt ist tatsächlich so gering, dass seine Versicherung wahrscheinlich nicht einmal für einen zusätzlichen Test zahlen würde, um die KI zu widerlegen.

ChatGPT Health: “Das ist nicht bereit für irgendeine medizinische Beratung“

Als Fowler die KI erneut bat, seine Herzgesundheit zu bewerten, änderte sich das Urteil dramatisch. Plötzlich war es eine „4“ (D). Er fragte weiter und beobachtete, wie die Note zwischen einer „6“ (F) und einer „2“ (B) schwankte. Der Journalist zeigte die Ergebnisse dem Kardiologen Eric Topol, einem Experten für KI in der Medizin. Sein Urteil war unmissverständlich:

Das ist haltlos. Das ist nicht bereit für irgendeine medizinische Beratung.

Über die willkürlichen Schwankungen in den Bewertungen urteilte Topol ebenso scharf: Diese Art von Zufälligkeit sei „völlig inakzeptabel“.

Die Gefahr liegt auf der Hand: Solche unausgereiften Werkzeuge könnten bei gesunden Menschen extreme Ängste auslösen oder umgekehrt Personen mit echten Gesundheitsproblemen in einem falschen Gefühl der Sicherheit wiegen.

Fehlinterpretation: Warum die KI oft an Daten scheitert

Die fehlerhafte Analyse von ChatGPT hatte konkrete Ursachen. Erstens stützte die KI ihre negative Einschätzung stark auf den VO2-max-Wert. Apple selbst bezeichnet diesen Wert jedoch nur als „Schätzung“, und unabhängige Forscher:innen stellten fest, dass diese Schätzungen im Durchschnitt um 13 Prozent zu niedrig ausfallen können.

Zweitens interpretierte die KI Schwankungen in Fowlers Ruhepuls als besorgniserregende Gesundheitssignale und riet ihm, mit seinem Arzt über eine „bemerkenswerte Erhöhung“ zu sprechen. Dabei übersah sie einen entscheidenden Faktor: Die Veränderungen traten immer dann auf, wenn der Journalist ein neues Apple-Watch-Modell mit verbesserten Sensoren erhielt.

Ein KI-Arzt mit Gedächtnisverlust

ChatGPT Health behandelte diese „unscharfen Daten“ wie eindeutige medizinische Fakten und ließ den kritischen Kontext vermissen, den ein menschlicher Experte sofort erkennen würde. Selbst als Fowler seine offiziellen Krankenakten aus der Arztpraxis mit dem Tool verband, verbesserte sich die Note nur auf eine „5“ (D) – ein weiterer Beweis dafür, dass das Kernproblem nicht die Datenmenge, sondern die mangelnde Analysefähigkeit ist.

Über verschiedene Chats hinweg vergaß ChatGPT wiederholt wichtige persönliche Informationen über Fowler, darunter sein Geschlecht, sein Alter und aktuelle Vitalwerte. Selbst als die KI Zugriff auf seine neuesten Bluttestergebnisse hatte, bezog sie diese manchmal nicht in die Analyse mit ein. Für ein Werkzeug, das persönliche Gesundheitseinblicke liefern soll, ist dies ein fundamentaler Mangel. Ein konsistentes Verständnis des Individuums ist die Grundlage jeder sinnvollen Gesundheitsbewertung.

Einordnung: Wo stehen wir bei der KI-Gesundheit?

Dieses Experiment passt zu einem beunruhigenden Trend: Technologieunternehmen bringen KI-Produkte auf den Markt, die bestenfalls wenig akkurat sind – oder schlimmstenfalls sogar „gefährlich“. Das Problem ist dabei beileibe nicht auf OpenAI und ChatGPT Health beschränkt. Der Konkurrenz-Bot Claude aus dem Hause Anthropic bewertete Fowlers Herzgesundheit ebenfalls mit einer „4“ (C) und stützte sich dabei auf die gleiche fehlerhafte Logik.

Zudem fallen diese Dienste nicht unter strenge Gesetze zum Schutz von Gesundheitsdaten wie HIPAA in den USA. Das Experiment ist somit ein wichtiger Weckruf und wirft eine entscheidende Frage für die Zukunft auf: Wem sollten wir vertrauen, wenn eine KI schlechte Gesundheitsratschläge gibt, und wie können wir sicherstellen, dass zukünftige Innovationen sicher und zuverlässig sind?

Wie sieht es bei Euch aus? Nutzt Ihr bereits KI, um Gesundheitsdaten zu tracken, oder um Gesundheitsfragen zu klären?

Anlässlich des europäischen Datenschutztages am 28. Januar hat das Hasso-Plattner-Institut (HPI) erneut eine Liste der meistgenutzten Passwörter aus dem Jahr 2025 veröffentlicht. Platz 1 bleibt die bekannte Zahlenkombination 123456.

Die Analyse basiert auf Datensätzen mit Identitäten und Passwörtern, die im Darknet kursieren. Die Erkenntnis bleibt problematisch. Zahlenreihen und Alltagsbegriffe prägen das Bild.

1. 123456
2. 123456789
3. 565656
4. 12345678
5. hallo123
6. kaffeetasse
7. 1234567
8. passwort
9. lol123

Neben banalen Passwörtern, die häufig verwendet werden, zeigt die Analyse des Hasso-Plattner-Instituts noch einen Trend zu Passwort-Clustern. Nutzer kombinieren etwa einen Vornamen mit Geburtstagen und ergänzen solche Passwörter noch um Sonderzeichen. „Diese Passwörter scheinen auf den ersten Blick komplex und eine gute Wahl, wir sehen allerdings in unseren Daten, dass viele Menschen sich ein starkes Passwort überlegen und dies überall verwenden“, sagt HPI-Sicherheitsexperte Christian Dörr.

HPI empfiehlt Passwort-Manager und 2-Faktor-Authentifizierung

Er warnt aber vor diesem Vorgehen. „Wurde ein Dienst gehackt und die Zugangsdaten sind offen – was milliardenfach passiert – probieren Kriminelle diese erbeuteten Zugangsdaten überall aus“, so Dörr. Sein Rat ist daher der Einsatz eines Passwort-Managers, sodass Nutzer bei jedem Dienst ein individuelles Passwort verwenden.

Generell empfiehlt das HPI lange Passwörter mit mehr als 15 Zeichen, die man nicht bei mehreren Diensten in gleicher oder ähnlicher Form verwendet. Der Einsatz von Passwort-Managern ist daher ebenso sinnvoll wie der Einsatz einer Zwei-Faktor-Authentifizierung, sofern diese verfügbar ist.

Ob die eigene Mail-Adresse Teil eines Datenlecks war, lässt sich mit dem Identity Leak Checker des Hasso-Plattner-Instituts (HPI) prüfen. Der Abgleich erfolgt mit Milliarden gestohlener und im Internet verfügbarer Identitätsdaten.

Deutsche Nutzer sind keine Ausnahme

Dass häufig verwendete Passwörter banal sind, ist kein deutsches Phänomen. Das HPI hat auch europäische Nachbarn in die Analyse mit einbezogen. Zu den beliebtesten Passwörtern in Großbritannien, die in den Datensätzen gefunden worden sind, zählen neben Zahlenreihen wie 123456 noch „qwerty“, „sample123“ sowie „liverpool“ und „liverpool1“. In Italien befinden sich Vornamen „Guiseppe“ und „Francesco“ sowie „ciaociao“ und „amoremio“ in der Top 10.