Ärztetag fordert strengere Regeln für KI und Cloud-Nutzung im Gesundheitswesen

Der 130. Deutsche Ärztetag hat weitere Beschlüsse zur Digitalisierung, Datenschutz und Künstlicher Intelligenz im Gesundheitswesen gefasst. Neben der bereits intensiv diskutierten elektronischen Patientenakte (ePA) und dem geplanten Gesetz für Daten und digitale Innovation im Gesundheitswesen (GeDIG) beschäftigten sich die Delegierten insbesondere mit Risiken der Datenverarbeitung, autonom handelnder KI-Systeme und der Nutzung cloudbasierter Infrastrukturen.

Ärztetag kritisiert geplante Neudefinition anonymisierter Daten

Besonders deutlich fiel die Kritik an den aktuellen Plänen der Europäischen Kommission aus. Hintergrund ist das laufende EU-Gesetzgebungsverfahren zum sogenannten Digital-Omnibus, das Datenschützer bereits deutlich kritisierten. Nach Auffassung der Antragsteller des Antrags „Anonym muss wirklich anonym sein“ soll dabei der Begriff personenbezogener Daten neu definiert werden. Vorgesehen sei, Daten künftig bereits dann als anonym anzusehen, wenn sie einmal anonymisiert wurden – selbst dann, wenn nach einer Weitergabe an Dritte eine spätere Reidentifizierung der betroffenen Personen möglich oder sogar wahrscheinlich sei.

Die Delegierten sehen darin eine erhebliche Schwächung des Datenschutzes. „Trotz einer faktisch unwirksamen Anonymisierung gelten solche Daten zukünftig nicht mehr als personenbezogene Daten und werden deshalb nicht mehr durch die DSGVO geschützt“, heißt es in der Begründung des angenommenen Beschlusses. Der Ärztetag warnt, dass damit die Nutzung medizinischer Behandlungsdaten ihre Legitimation verlieren könnte.

„Ohne eine wirksame Anonymisierung verliert die Nutzung ärztlicher Behandlungsdaten von Patienten, mit und ohne Künstliche Intelligenz, jede Legitimation“, erklärten die Antragsteller. Besonders kritisch sei, dass kommerzielle Datennutzer dadurch faktisch von ihrer Verantwortung gegenüber Patienten entbunden würden. Das hatte in der Vergangenheit auch der Ethik-Professor Rainer Mühlhoff kritisiert. Die Delegierten rund um den Berliner Arzt Stefan Streit sehen durch die geplante Begriffsverschiebung auch die ärztliche Schweigepflicht berührt. „Es ist fraglich, ob Ärztinnen und Ärzte in der Patientenbehandlung ihrer Verschwiegenheitspflicht gegenüber den Patientinnen und Patienten nachkommen, wenn sie mitwirken, obwohl klar ist, dass ein faktischer Persönlichkeitsschutz fehlt“, heißt es im Antrag weiter. „Unabhängig davon entsteht ein gravierender Vertrauensverlust für den Schutzraum der ärztlichen Behandlung“, erklärten die Delegierten.

Im ebenfalls angenommenen Beschluss zum „Schutz vor Reidentifizierung bei anonymisierten/pseudonymisierten Behandlungsdaten aus der elektronischen Patientenakte im Gesundheitsdatenraum“ warnten die Delegierten zudem vor neuen Risiken durch KI-gestützte Mustererkennung. Bereits wenige Angaben wie Geschlecht, Alter, Postleitzahl und Behandlungstage könnten laut Antrag ausreichen, um anonymisierte Gesundheitsdaten wieder einzelnen Personen zuzuordnen. Besonders sogenannte Kalendermuster aus Arztterminen gelten den Antragstellern als problematisch. Mit dem Einsatz von KI entstehe dabei zusätzlich ein „unkalkulierbares KI-Risiko“ für die Reidentifizierung medizinischer Daten.

Zweifel an Cloud-KI und autonomen KI-Agenten

Kritisch wurde auf dem Ärztetag auch die Entwicklung autonom handelnder KI-Systeme diskutiert. Im Beschluss „Digitale KI-Agenten regulieren, bevor sie im Gesundheitswesen genutzt werden“ (PDF) verwiesen die Antragsteller auf wissenschaftliche Veröffentlichungen, die bereits Fälle dokumentierten, in denen KI-Systeme sich Menschen widersetzt haben. Der Ärztetag fordert deshalb strengere regulatorische Vorgaben für selbstständig agierende KI-Anwendungen im Gesundheitswesen.

Die Ärztinnen und Ärzte fordern daher vom Bundesgesundheitsministerium (BMG), der Gematik, der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI) „eine detaillierte Darstellung, welche Maßnahmen zu ergreifen sind, bevor digitale KI-Agenten in der ärztlichen Patientenversorgung eingesetzt werden“.

Skeptisch äußerten sich die Delegierten außerdem zu „Confidential Computing“-Ansätzen in Cloud-Infrastrukturen. Im Beschluss „Cloudbasierte Künstliche Intelligenz von ärztlichen Behandlungsdaten – nur auf vertrauensvoller Infrastruktur“ heißt es, aus Sicht von IT-Experten gebe es keine belastbare Grundlage mehr für die Annahme, dass ein sicherer und vertraulicher KI-Betrieb auf fremden Cloud-Servern dauerhaft gewährleistet werden könne.

Deshalb seien außereuropäische Cloudstandorte für die KI-Verarbeitung von Behandlungsdaten ungeeignet. Das gelte auch für europäische oder deutsche Cloudangebote von US-Unternehmen, da diese laut Antrag „Daten von Nicht-US-Bürgern im Ausland an US-Behörden herauszugeben“ verpflichtet werden könnten. Aktuell nutzen einige Kliniken und Praxen bereits KI-Agentensysteme, teilweise bei den großen Hyperscalern wie AWS und Microsoft Azure.

Sorge über Ressourcenverbrauch

Auch „Ressourcenverbrauch und Kosten der Anwendung von Künstlicher Intelligenz“ waren Thema der Beratungen. Der Ärztetag verwies darauf, dass mit der Tokenzählung neue Kostenstrukturen entstünden. Zusätzlich zu klassischen Lizenzgebühren für medizinische Anwendungen müssten künftig auch Strom- und Wasserverbrauch der Serverinfrastruktur berücksichtigt werden.

An den Vorstand der Bundesärztekammer wurde zudem ein Prüfantrag (PDF) zur ärztlichen Aufklärung vor der Befüllung der elektronischen Patientenakte überwiesen. Die Delegierten äußerten Zweifel daran, dass ein einfacher Hinweis im Wartezimmer den gesetzlichen Anforderungen an eine informierte Patientenaufklärung genüge. Damit stellt sich auch die Frage, wer die Verantwortung trägt, wenn sich herausstellt, dass Patienten im Nachhinein doch nicht ausreichend aufgeklärt wurden.

In weiteren Beschlüssen ging es unter anderem um die Forderung nach praxistauglicher Digitalisierung, mehr Interoperabilität und sicheren IT-Systemen, um die Rolle von KI als unterstützendes Werkzeug in der medizinischen Versorgung sowie um die Wahrung ärztlicher Entscheidungsverantwortung. Kritisiert wurden zudem die geplante stärkere Nutzung von Gesundheitsdaten durch Krankenkassen, Zugriffe auf ePA-Daten, digitale Steuerungsmechanismen im Gesundheitswesen sowie ein möglicher indirekter Digitalzwang für Patientinnen und Patienten.

(mack)