Stellen sie sich vor: Sie fühlen sich unwohl und rufen ihre Arztpraxis an, um einen Termin zu vereinbaren. Zu ihrer Überraschung bekommen sie ihn bereits für den nächsten Tag. Und damit nicht genug: Bei ihrem Besuch werden sie weder vom Arzt oder Ärztin noch von der Sprechstundenhilfe gehetzt, sondern sie haben eine erstaunliche halbe Stunde Zeit, um ihre Symptome und Sorgen sowie alle Details ihrer Krankengeschichte zu schildern. Ihr Gegenüber hört aufmerksam zu und stellt durchdachte Fragen. Sie verlassen die Praxis mit einer Diagnose, einem Behandlungsplan und dem guten Gefühl, einmal endlich ausführlich alles Relevante in dem Termin besprechen zu können.

Der Haken an der Sache? Sie haben gar nicht mit einem Arzt oder einer Ärztin gesprochen, sondern mit einer Künstlichen Intelligenz (KI). Das ist bereits die neue Realität für Patienten in einer kleinen Anzahl von Praxen im südlichen Kalifornien, die von dem medizinischen Startup Akido Labs betrieben werden. Die Patienten – von denen einige die öffentliche US-Krankenkasse Medicaid nutzen – können kurzfristig Termine bei Fachärzten vereinbaren, ein Privileg, das normalerweise nur denen vorbehalten ist, die dafür extra zahlen.

Akidos KI-Ansatz: Ärzte effizienter machen

Akido-Patienten verbringen dabei allerdings relativ wenig – oder gar keine – Zeit mit Ärzten. Stattdessen sehen sie medizinische Assistenten, die ihnen zwar ein offenes Ohr entgegenbringen, aber nur über eine begrenzte klinische Ausbildung verfügen. Die Diagnose und den Behandlungsplan erstellt dann ein proprietäres System namens ScopeAI. Dieses große Sprachmodell (LLM) transkribiert und analysiert den Dialog zwischen Patienten und Assistenz. Mediziner genehmigen oder korrigieren dann die Empfehlungen des KI-Systems.

„Unser Fokus liegt darauf, was wir alles tun können, um die Ärzte aus dem Praxisbesuch herauszunehmen“, räumt Jared Goodner, Chief Technology Officer von Akido, freimütig ein. Laut Prashant Samant, CEO von Akido, können Ärzte mit diesem Ansatz vier- bis fünfmal so viele Patienten behandeln wie zuvor. Es gibt gute Gründe, warum Mediziner produktiver sein sollten. Nicht nur die Amerikaner werden älter und gleichzeitig kränker, und viele haben Schwierigkeiten, Zugang zu einer angemessenen Gesundheitsversorgung zu erhalten. Die bevorstehende Kürzung der Bundesmittel für Medicaid um bis zu 15 Prozent wird die Situation nur noch verschlimmern.

Wie KI in der Medizin Einzug hält

Experten sind jedoch nicht davon überzeugt, dass die Verlagerung eines so großen Teils der kognitiven Arbeit in der Medizin auf KI der richtige Weg ist, um den Mangel an Ärzten zu beheben. Es gibt eine große Wissenslücke zwischen Ärzten und KI-gestützten medizinischen Assistenten, sagt Emma Pierson, Informatikerin an der UC Berkeley. Eine solche Lücke zu schließen, kann Risiken mit sich bringen. „Ich bin begeistert vom Potenzial der KI, den Zugang zu medizinischem Fachwissen zu erweitern“, sagt sie. „Ich bin mir nur nicht sicher, ob dies der richtige Weg ist, um dies zu erreichen.“ KI ist in der Medizin zwar längst allgegenwärtig. Computer-Vision-Tools identifizieren Krebserkrankungen bei Vorsorgeuntersuchungen, automatisierte Forschungssysteme, ermöglichen Ärzten eine schnelle Durchsicht der medizinischen Fachliteratur und LLM-gestützte medizinische Schreibkräfte können im Auftrag Notizen machen. Diese Systeme sind jedoch nur darauf ausgelegt, bei typischen medizinischen Routineaufgaben zu unterstützen.

Was ScopeAI laut Goodner auszeichnet, ist die Fähigkeit, die kognitiven Aufgaben, die einen Arztbesuch ausmachen, selbstständig zu erledigen. Von der Erfassung der Krankengeschichte der Patienten über die Erstellung einer Liste möglicher Diagnosen bis hin zur Ermittlung der wahrscheinlichsten Diagnose und dem Vorschlag geeigneter nächster Schritte. Im Hintergrund von ScopeAI arbeitet eine Reihe von LLMs, von denen jedes einen bestimmten Schritt der Visite ausführen kann – von der Generierung geeigneter Folgefragen auf der Grundlage der Aussagen der Kranken bis zur Erstellung einer Liste wahrscheinlicher Störungen. Zum größten Teil handelt es sich bei diesen LLMs um fein abgestimmte Versionen der frei zugänglichen Llama-Modelle von Meta, obwohl Goodner sagt, dass das System auch die Claude-Modelle von Anthropic nutzt.

Arbeit mit Obdachlosen und Drogenkranken

Während des Termins lesen die medizinischen Assistenzpersonen Fragen von ScopeAI vor – und das System generiert neue Fragen, während es die Aussagen der Patienten analysiert. Für die Ärzte, die die Ergebnisse später überprüfen, erstellt ScopeAI eine kurze Notiz, die eine Zusammenfassung des Patientenbesuchs, die wahrscheinlichste Diagnose, zwei oder drei alternative Diagnosen und empfohlene nächste Schritte wie Überweisungen oder Verschreibungen enthält. Außerdem werden für jede Diagnose und Empfehlung Begründungen aufgeführt.

ScopeAI wird derzeit in der Kardiologie, Endokrinologie und in Kliniken für Primärversorgung sowie vom sogenannten Street-Medicine-Team von Akido eingesetzt, das sich um Obdachlose in Los Angeles kümmert. Dieses Team unter der Leitung von Steven Hochman, einem auf Suchtmedizin spezialisierten Arzt, trifft sich mit Patienten, um ihnen den Zugang zu medizinischer Versorgung, inklusive der Behandlung von Drogenerkrankungen, zu erleichtern. Früher musste Hochman noch die Patienten persönlich treffen, um ein Medikament zur Behandlung einer Abhängigkeit von Opioiden zu verschreiben. Jetzt können Sozialarbeiter, die mit ScopeAI ausgestattet wurden, die Betroffenen selbst befragen, und Hochman kann die Empfehlungen des Systems später genehmigen oder ablehnen. „Dadurch kann ich an zehn Orten gleichzeitig sein“, sagt er.

Seitdem sein Team ScopeAI einsetzt, könne es Patienten innerhalb von 24 Stunden Zugang zu Medikamenten verschaffen, die ihnen bei der Behandlung ihrer Sucht helfen – etwas, das Hochman als bislang „beispiellos“ bezeichnet. Diese Regelung ist nur möglich, weil Obdachlose in der Regel über Medicaid, das besagte öffentliche Versicherungssystem, krankenversichert sind. Während Medicaid es Ärzten erlaubt, ScopeAI-Rezepte und Behandlungspläne sowohl für die Obdachlosenmedizin als auch für Klinikbesuche „asynchron“ zu genehmigen, verlangen viele andere Krankenkassen, dass Ärzte vor der Genehmigung dieser Empfehlungen direkt mit den Patienten sprechen. Expertin Pierson sagt, dass diese Diskrepanz Probleme aufwirft. „Man macht sich Sorgen, dass sich dadurch die gesundheitlichen Ungleichheiten verschärfen könnten“, sagt sie.

Gefahr der „gesundheitlichen Ungleichheiten“

Akido-Chef Samant ist sich der Probleme bewusst und sagt, dass diese Diskrepanz nicht beabsichtigt sei – sie ist seiner Ansicht nach lediglich ein Merkmal der derzeitigen Funktionsweise des US-Versicherungssystems. Er merkt an, dass eine schnelle Untersuchung durch einen KI-gestützten medizinischen Assistenten besser sein könne als lange Wartezeiten und eine begrenzte Verfügbarkeit von Praxen, was für Medicaid-Patienten derzeit der Status quo sei. Und alle Akido-Patienten könnten sich auch für traditionelle Arzttermine entscheiden, wenn sie bereit sind, darauf zu warten, sagt er.

Eine der Herausforderungen beim Einsatz von Tools wie ScopeAI besteht darin, sich in einem regulatorischen und versicherungstechnischen Umfeld zurechtzufinden, das nicht für KI-Systeme konzipiert wurde, die selbstständig Diagnosen erstellen können. Glenn Cohen, Professor an der Harvard Law School, sagt, dass jedes KI-System, das effektiv als eine Art „Doctor in a box“ fungiert, wahrscheinlich von der US-Medizinaufsicht FDA zugelassen werden müsse – und gegen die Gesetze zur ärztlichen Zulassung verstoßen könnte, die vorschreiben, dass nur Ärzte und andere zugelassene Fachleute Medizin praktizieren dürfen.

Der California Medical Practice Act besagt tatsächlich, dass KI die Verantwortung von Ärzten für Diagnose und Behandlung von Patienten nicht ersetzen kann. Doch Ärzte dürfen offiziell schon heute KI bei ihrer Arbeit einsetzen und müssen Patienten vor der Diagnose nicht persönlich oder „in Echtzeit“ sehen. Allerdings: Weder die FDA noch der Ärzteausschuss Medical Board of California konnten allein auf der Grundlage einer schriftlichen Beschreibung des Systems sagen, ob ScopeAI auf einer soliden rechtlichen Grundlage steht oder nicht. Samant ist jedoch zuversichtlich, dass Akido alle Vorschriften einhält, da ScopeAI bewusst so konzipiert sei, dass es nicht als vollständiger Arztersatz fungiert. Da das System alle Diagnose- und Behandlungsempfehlungen von einer menschlichen Ärzt:in überprüfen und genehmigen lassen muss, sei keine FDA-Zulassung erforderlich, so Samant.

Patienten nur teilweise aufgeklärt

In einer Akido-Klinik findet dieses Zusammenspiel zwischen KI und ärztlicher Entscheidungsfindung vollständig hinter den Kulissen statt. Der:ie Patient:in sieht die ScopeAI-Schnittstelle nie direkt, sondern spricht mit einer medizinischen Assistenzkraft, die ihm:ihr Fragen stellt, wie es Ärzte bei einem typischen Termin tun würde. Diese Vorgehensweise kann dazu beitragen, dass sich die Patienten wohler fühlen. Zeke Emanuel, Professor für Medizinethik und Gesundheitspolitik an der University of Pennsylvania, der in den Regierungen der US-Präsidenten Obama und Biden tätig war, befürchtet jedoch, dass dies eine Illusion ist. Es könnte im Gegenteil den Umfang verschleiern, in dem ein Algorithmus die Behandlung beeinflusst. KI-Expertin Pierson stimmt dem zu. „Das entspricht sicherlich nicht dem, was traditionell unter menschlicher Nähe in der Medizin verstanden wurde“, sagt sie.

DeAndre Siringoringo, arbeitet als medizinischer Assistent in Akidos Kardiologiepraxis in Rancho Cucamonga. Er sagt, dass er den Patienten zwar mitteilt, dass ein KI-System den Termin mitschreibt, um Informationen für die Ärzte zu sammeln. Er gibt ihnen aber keine Einzelheiten über die Funktionsweise von ScopeAI an die Hand – auch nicht, dass es stets eine Diagnoseüberprüfung durch den Menschen gibt.

Da alle Empfehlungen von ScopeAI von Ärzte überprüft werden, scheint das auf den ersten Blick keine große Sache zu sein – schließlich trifft dieser die endgültige Diagnose, nicht die KI. Es ist jedoch weitgehend dokumentiert, dass Ärzte, die KI-Systeme verwenden, dazu neigen, den Empfehlungen des Systems häufiger zu folgen, als sie sollten – ein Phänomen, das als Automatisierungsbias bekannt ist.

Das Problem des Automatisierungsbias

Zum jetzigen Zeitpunkt ist es unmöglich zu sagen, ob dies die Entscheidungen der Ärzte in den Akido-Kliniken beeinflusst. Pierson sagt aber, dass dies ein Risiko darstellt – insbesondere, wenn die Ärzte bei den Terminen nicht physisch anwesend sind. „Ich befürchte, dass man dadurch dazu neigt, einfach zuzustimmen – was man vielleicht nicht tun würde, wenn man tatsächlich im Raum wäre und das Geschehen mitverfolgen würde.“

Eine Sprecherin von Akido erklärt, dass solche Probleme bei jedem KI-Tool auftreten, das Ärzte bei ihrer Entscheidungsfindung unterstützt, und dass das Unternehmen Anstrengungen unternommen habe, um diesen Bias zu mindern. „Wir haben ScopeAI speziell entwickelt, um dies zu reduzieren, indem wir proaktiv blinden Flecken im System entgegenwirken, die medizinische Entscheidungen beeinflussen können, die bislang stark von der Intuition und persönlichen Erfahrung der Ärzte abhängen“, sagt sie. „Wir schulen Ärzte auch ausdrücklich darin, ScopeAI umsichtig einzusetzen, damit sie ihre Verantwortung wahrnehmen und eine übermäßige Abhängigkeit von dem System vermeiden.“

Besserer Zugang, wenig Evaluation

Akido bewertet die Leistung von ScopeAI, indem es das System anhand historischer Daten testet und überwacht, wie oft Ärzte die Empfehlungen korrigieren. Diese Korrekturen werden auch zur weiteren Schulung der zugrunde liegenden Modelle verwendet. Bevor ScopeAI in einem bestimmten Fachgebiet eingesetzt wird, stelle Akido sicher, dass das System bei Tests mit historischen Datensätzen in mindestens 92 Prozent der Fälle die richtige Diagnose in seinen drei wichtigsten Empfehlungen einhält.

Das Startup hat allerdings keine strengeren Tests durchgeführt – auch keine Studien, in denen ScopeAI-Termine mit persönlichen oder telemedizinischen Terminen verglichen werden, um festzustellen, ob das System den Gesundheitszustand verbessert oder zumindest aufrechterhält. Erst solche Studien könnten Aufschluss darüber geben, ob der Automatisierungsbias ein ernstzunehmendes Problem darstellt. „Die medizinische Versorgung billiger und zugänglicher zu machen, ist ein lobenswertes Ziel“, meint KI-Expertin Pierson. Dennoch hofft sie auf eine fundiertere Bewertung der Technik vor deren breitem Einsatz.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)