​Sandra Petrowitz hat ihre Leidenschaften zum Beruf gemacht: Schreiben, Fotografieren und Reisen. Die Journalistin leitet Fotoworkshops und -reisen, ist als Guide auf Expeditionsschiffen in den Polarregionen im Einsatz und arbeitet für Magazine sowie Buchverlage.​

Große Sprachmodelle wie GPT-4o erreichen bei medizinischen Wissenstests inzwischen nahezu perfekte Ergebnisse. Sie bestehen die US-Ärzte-Zulassungsprüfung, fassen Patientenakten zusammen und können Symptome einordnen. Gesundheitsbehörden weltweit prüfen deshalb, ob KI-Chatbots als erste Anlaufstelle für Patienten dienen könnten – eine Art „neue Eingangstür zum Gesundheitssystem“, wie es in einem Strategiepapier des britischen NHS heißt.

Doch die Studie „Reliability of LLMs as medical assistants for the general public: a randomized preregistered study“ von Forschern der Universität Oxford dämpft diese Hoffnungen erheblich. Die Arbeit erscheint im Fachjournal Nature Medicine, eine Vorabversion ist auf arXiv verfügbar. Das zentrale Ergebnis: Das klinische Wissen der Modelle lässt sich nicht auf die Interaktion mit echten Menschen übertragen.

1298 Teilnehmer, zehn medizinische Szenarien

Für die randomisierte, kontrollierte Studie rekrutierten die Forscher 1298 Teilnehmer aus Großbritannien. Jeder Proband erhielt eines von zehn alltagsnahen medizinischen Szenarien – etwa plötzliche starke Kopfschmerzen, Brustschmerzen in der Schwangerschaft oder blutigen Durchfall. Die Aufgabe: Einschätzen, welche Erkrankung vorliegen könnte und ob ein Arztbesuch, die Notaufnahme oder gar ein Krankenwagen nötig ist.

Die Teilnehmer wurden zufällig in vier Gruppen eingeteilt. Drei Gruppen erhielten Zugang zu je einem KI-Modell, das zu Studienbeginn aktuell war – GPT-4o, Llama 3 oder Command R+. Die Kontrollgruppe durfte beliebige Hilfsmittel nutzen, etwa eine Internetsuche.

KI allein brilliert – mit Menschen versagt sie

Die Ergebnisse offenbaren eine bemerkenswerte Diskrepanz. Ohne menschliche Beteiligung identifizierten selbst die inzwischen nicht mehr aktuellen Sprachmodelle in 94,9 Prozent der Fälle mindestens eine relevante Erkrankung. Bei der Frage nach der richtigen Handlungsempfehlung – Selbstbehandlung, Hausarzt, Notaufnahme oder Rettungswagen – lagen sie im Schnitt in 56,3 Prozent der Fälle richtig.

Sobald jedoch echte Menschen die Modelle befragten, brachen die Werte ein. Teilnehmer mit KI-Unterstützung erkannten relevante Erkrankungen nur in maximal 34,5 Prozent der Fälle – signifikant schlechter als die Kontrollgruppe mit 47 Prozent. Bei der Wahl der richtigen Handlung schnitten alle Gruppen gleich ab: rund 43 Prozent Trefferquote, unabhängig davon, ob ein Chatbot half oder nicht.

Doppeltes Kommunikationsversagen

Die Forscher analysierten die Chat-Protokolle zwischen Nutzern und KI-Modellen, um die Ursachen zu verstehen. Sie identifizierten zwei zentrale Schwachstellen: Erstens gaben die Teilnehmer den Modellen oft unvollständige Informationen. Zweitens verstanden die Nutzer die Antworten der KI nicht richtig – obwohl die Modelle in 65 bis 73 Prozent der Fälle mindestens eine korrekte Diagnose nannten, übernahmen die Teilnehmer diese nicht zuverlässig.

Dr. Anne Reinhardt von der LMU München sieht hier eine grundsätzliche Schere: „Viele Menschen vertrauen KI-Antworten auf Gesundheitsfragen schnell, weil sie leicht zugänglich sind. Sie klingen auch sprachlich sehr überzeugend – selbst dann, wenn der Inhalt eigentlich medizinisch absolut falsch ist.“

Benchmarks führen in die Irre

Die Forscher verglichen die Leistung der Modelle auf dem MedQA-Benchmark – einem Standardtest mit Fragen aus Ärzte-Prüfungen – mit den Ergebnissen der Nutzerstudie. In 26 von 30 Fällen schnitten die Modelle bei den Multiple-Choice-Fragen besser ab als bei der Interaktion mit echten Menschen. Selbst Benchmark-Werte von über 80 Prozent korrespondierten teilweise mit Nutzer-Ergebnissen unter 20 Prozent.

Prof. Ute Schmid von der Universität Bamberg ordnet die hohe Leistung der Modelle „allein“ kritisch ein: „Etwas irreführend finde ich die Aussage, dass die Performanz der Sprachmodelle ‚alleine‘ deutlich höher ist als bei den Nutzenden. In diesem Fall wurden die Anfragen vermutlich von fachlich und mit LLMs erfahrenen Personen formuliert.“

Was müsste ein medizinischer Chatbot können?

Die Experten sind sich einig, dass spezialisierte medizinische Chatbots anders gestaltet werden müssten als heutige Allzweck-Modelle. Prof. Kerstin Denecke von der Berner Fachhochschule formuliert die Anforderungen: „Ein medizinisch spezialisierter Chatbot müsste evidenzbasierte, aktuelle Informationen bieten. Außerdem müsste er Notfallsituationen zuverlässig erkennen, individuelle Risikofaktoren berücksichtigen und transparent seine Grenzen kommunizieren. Er sollte eine strukturierte Anamnese erheben, um zuverlässig triagieren zu können. Und er sollte sich nicht dazu hinreißen lassen, eine Diagnose zu stellen.“

Die Hürden für einen solchen Einsatz seien allerdings erheblich, so Denecke: „Große Hürden sind zum einen die Regulierung – je nach Funktion als Medizinprodukt oder Hochrisiko-KI. Zum anderen sind es die Haftung, der Datenschutz sowie die technische Integration in Versorgungsprozesse.“

Tests mit echten Nutzern unerlässlich

Die Schlussfolgerung der Oxford-Forscher ist eindeutig: Bevor KI-Systeme im Gesundheitswesen eingesetzt werden, müssten sie mit echten Nutzern getestet werden – nicht nur mit Prüfungsfragen oder simulierten Gesprächen. Schmid plädiert für einen differenzierten Ansatz: „Qualitätsgeprüfte Chatbots könnten beispielsweise über die gesetzlichen Krankenkassen angeboten und von Hausarztpraxen als Erstzugang empfohlen werden. Allerdings sollten Menschen nicht gezwungen werden, diese Angebote zu nutzen.“

(mack)

In einem Brief an Bundeskanzler Friedrich Merz (CDU) bringt der Handelsverband HDE einen Importstopp für Waren chinesischer Internethändler wie Temu oder Shein ins Spiel. Alexander von Preen und Geschäftsführer Stefan Genth beklagen in dem Schreiben ungleiche Wettbewerbsbedingungen.

Chinesische Onlineanbieter wie Temu oder Shein würden sich systematisch über die nach EU-Recht geltenden Sicherheits- und Umweltstandards hinwegsetzen, kritisieren die Verbandschefs. In Deutschland ansässige Händler seien deshalb nicht mehr konkurrenzfähig.

Der HDE fordert von Bundeskanzler Merz, sich beim am 12. Februar stattfindenden Sondergipfel der EU für faire Wettbewerbsbedingungen und gegen Wachstumshemmnisse einzusetzen. Ultima Ratio müssten auch drastische Maßnahmen wie ein Importstopp von chinesischen Billigwaren in Erwägung gezogen werden. „Wer sich nicht an die Regeln hält, darf auf unserem Markt nicht mitspielen“, zitiert das Redaktionsnetzwerk Deutschland aus dem Schreiben.

Außerdem befürchtet der HDE, dass die Umsetzung von EU-Richtlinien die Bürokratielasten für den Einzelhandel im Laufe des Jahres erhöht. Mit der 2026 in Kraft tretenden Verschärfung des Entgelttransparenzgesetzes oder der ab Ende dieses Jahres gültigen EU-Entwaldungsverordnung würden zusätzliche bürokratische Hemmnisse entstehen. Wachstums- und Wettbewerbsfähigkeiten des Einzelhandels würden so lahmgelegt.

Temu und Shein wachsen in Deutschland

Laut einer Mitte vergangenen Jahres veröffentlichten Studie „E-Commerce-Markt Deutschland 2025“ des Handelsforschungsinstituts EHI und der Datenplattform ECDB stieg die Popularität chinesischer Onlineshopping-Portale in Deutschland im Jahr 2024 stark an.

Der Nettoumsatz des chinesischen Modekonzerns Shein wuchs 2024 um 18 Prozent 1,1 Milliarden Euro, womit Shein erstmals in die Top Ten der größten Onlineshops in Deutschland aufstieg. Stand September 2025 ist das Unternehmen der siebtgrößte Onlinehändler in Deutschland – 2023 lag das Unternehmen noch auf Platz 18.

Bei Online-Marktplätzen machte Temu 2024 den größten Sprung. Das chinesische Portal vervierfachte sein Bruttohandelsvolumen in Deutschland nahezu auf 3,4 Milliarden Euro, was einem Wachstum von 285 Prozent entspricht. Dieser Wert entspricht dem Gesamtwert aller Bestellungen. Der Konzern stieg damit vom elften auf den fünften Platz der B2C-Marktplätze in Deutschland auf.

Amazon größte Konkurrenz des deutschen Einzelhandels

Unterdessen bleibt Amazon laut der Studie nicht nur wichtigster Online-Shop Deutschlands, sondern auch der größte Online-Marktplatz. Mit einem Nettoumsatz von 15 Millionen Euro und einem Bruttohandelsvolumen von 52 Millionen Euro im Jahr 2024 schlägt das US-Unternehmen die Konkurrenz weit ab.

Shein kommt mit einem Jahresumsatz von rund einer Million Euro nicht einmal auf ein Zehntel des Jahresumsatzes von Amazon in Deutschland. Auch Temu, der mittlerweile fünftgrößte Online-Marktplatz, verzeichnet mit rund 3,4 Millionen Euro nur ein Fünfzehntel des jährlichen Handelsvolumens von Amazon.

Temu und Shein bereits im Fokus der EU-Kommission

Temu und Shein sind schon seit Längerem im Fokus der EU-Kommission. Gegen Temu läuft derzeit ein Untersuchungsverfahren, weil die Kommission dem Konzern vorwirft, den Verpflichtungen aus dem Digital Services Act (DSA) nicht ausreichend nachzukommen.

Mitte letzten Jahres veröffentlichte die EU-Kommission ein vorläufiges Untersuchungsergebnis, demzufolge der Anfangsverdacht bestätigt werden konnte. Für Verbraucher bestehe ein hohes Risiko, auf dem Online-Marktplatz an Produkte zu gelangen, die nicht den innerhalb der EU geltenden Regeln entsprechen. Andere wichtige Aspekte des Verfahrens, etwa ob Temu unzulässig Verbraucher mit sogenannten Dark Pattern beeinflusst, untersucht die Kommission unabhängig davon weiter.

Im vergangenen Jahr hatte die EU-Kommission ebenfalls angekündigt, härter gegen den Online-Modehändler Shein vorgehen zu wollen. Einer Untersuchung der Kommission und des Netzwerks der Verbraucherbehörden der EU-Länder zufolge führt das chinesische Unternehmen Verbraucher systematisch mit sogenannten Dark Pattern in die Irre. Diese verkaufsfördernden, teils manipulativen Methoden können etwa Scheinrabatte, willkürliche Fristen oder irreführende Nachhaltigkeitsaussagen sein und verstoßen gegen das EU-Verbraucherrecht, erklärte die Kommission damals.

(rah)