Connect with us

Künstliche Intelligenz

Ärztetag fordert strengere Regeln für KI und Cloud-Nutzung im Gesundheitswesen


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Der 130. Deutsche Ärztetag hat weitere Beschlüsse zur Digitalisierung, Datenschutz und Künstlicher Intelligenz im Gesundheitswesen gefasst. Neben der bereits intensiv diskutierten elektronischen Patientenakte (ePA) und dem geplanten Gesetz für Daten und digitale Innovation im Gesundheitswesen (GeDIG) beschäftigten sich die Delegierten insbesondere mit Risiken der Datenverarbeitung, autonom handelnder KI-Systeme und der Nutzung cloudbasierter Infrastrukturen.

Weiterlesen nach der Anzeige

Ärztetag kritisiert geplante Neudefinition anonymisierter Daten

Besonders deutlich fiel die Kritik an den aktuellen Plänen der Europäischen Kommission aus. Hintergrund ist das laufende EU-Gesetzgebungsverfahren zum sogenannten Digital-Omnibus, das Datenschützer bereits deutlich kritisierten. Nach Auffassung der Antragsteller des Antrags „Anonym muss wirklich anonym sein“ soll dabei der Begriff personenbezogener Daten neu definiert werden. Vorgesehen sei, Daten künftig bereits dann als anonym anzusehen, wenn sie einmal anonymisiert wurden – selbst dann, wenn nach einer Weitergabe an Dritte eine spätere Reidentifizierung der betroffenen Personen möglich oder sogar wahrscheinlich sei.

Die Delegierten sehen darin eine erhebliche Schwächung des Datenschutzes. „Trotz einer faktisch unwirksamen Anonymisierung gelten solche Daten zukünftig nicht mehr als personenbezogene Daten und werden deshalb nicht mehr durch die DSGVO geschützt“, heißt es in der Begründung des angenommenen Beschlusses. Der Ärztetag warnt, dass damit die Nutzung medizinischer Behandlungsdaten ihre Legitimation verlieren könnte.

„Ohne eine wirksame Anonymisierung verliert die Nutzung ärztlicher Behandlungsdaten von Patienten, mit und ohne Künstliche Intelligenz, jede Legitimation“, erklärten die Antragsteller. Besonders kritisch sei, dass kommerzielle Datennutzer dadurch faktisch von ihrer Verantwortung gegenüber Patienten entbunden würden. Das hatte in der Vergangenheit auch der Ethik-Professor Rainer Mühlhoff kritisiert. Die Delegierten rund um den Berliner Arzt Stefan Streit sehen durch die geplante Begriffsverschiebung auch die ärztliche Schweigepflicht berührt. „Es ist fraglich, ob Ärztinnen und Ärzte in der Patientenbehandlung ihrer Verschwiegenheitspflicht gegenüber den Patientinnen und Patienten nachkommen, wenn sie mitwirken, obwohl klar ist, dass ein faktischer Persönlichkeitsschutz fehlt“, heißt es im Antrag weiter. „Unabhängig davon entsteht ein gravierender Vertrauensverlust für den Schutzraum der ärztlichen Behandlung“, erklärten die Delegierten.

Im ebenfalls angenommenen Beschluss zum „Schutz vor Reidentifizierung bei anonymisierten/pseudonymisierten Behandlungsdaten aus der elektronischen Patientenakte im Gesundheitsdatenraum“ warnten die Delegierten zudem vor neuen Risiken durch KI-gestützte Mustererkennung. Bereits wenige Angaben wie Geschlecht, Alter, Postleitzahl und Behandlungstage könnten laut Antrag ausreichen, um anonymisierte Gesundheitsdaten wieder einzelnen Personen zuzuordnen. Besonders sogenannte Kalendermuster aus Arztterminen gelten den Antragstellern als problematisch. Mit dem Einsatz von KI entstehe dabei zusätzlich ein „unkalkulierbares KI-Risiko“ für die Reidentifizierung medizinischer Daten.

Weiterlesen nach der Anzeige

Zweifel an Cloud-KI und autonomen KI-Agenten

Kritisch wurde auf dem Ärztetag auch die Entwicklung autonom handelnder KI-Systeme diskutiert. Im Beschluss „Digitale KI-Agenten regulieren, bevor sie im Gesundheitswesen genutzt werden“ (PDF) verwiesen die Antragsteller auf wissenschaftliche Veröffentlichungen, die bereits Fälle dokumentierten, in denen KI-Systeme sich Menschen widersetzt haben. Der Ärztetag fordert deshalb strengere regulatorische Vorgaben für selbstständig agierende KI-Anwendungen im Gesundheitswesen.

Die Ärztinnen und Ärzte fordern daher vom Bundesgesundheitsministerium (BMG), der Gematik, der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI) „eine detaillierte Darstellung, welche Maßnahmen zu ergreifen sind, bevor digitale KI-Agenten in der ärztlichen Patientenversorgung eingesetzt werden“.

Skeptisch äußerten sich die Delegierten außerdem zu „Confidential Computing“-Ansätzen in Cloud-Infrastrukturen. Im Beschluss „Cloudbasierte Künstliche Intelligenz von ärztlichen Behandlungsdaten – nur auf vertrauensvoller Infrastruktur“ heißt es, aus Sicht von IT-Experten gebe es keine belastbare Grundlage mehr für die Annahme, dass ein sicherer und vertraulicher KI-Betrieb auf fremden Cloud-Servern dauerhaft gewährleistet werden könne.

Deshalb seien außereuropäische Cloudstandorte für die KI-Verarbeitung von Behandlungsdaten ungeeignet. Das gelte auch für europäische oder deutsche Cloudangebote von US-Unternehmen, da diese laut Antrag „Daten von Nicht-US-Bürgern im Ausland an US-Behörden herauszugeben“ verpflichtet werden könnten. Aktuell nutzen einige Kliniken und Praxen bereits KI-Agentensysteme, teilweise bei den großen Hyperscalern wie AWS und Microsoft Azure.

Sorge über Ressourcenverbrauch

Auch „Ressourcenverbrauch und Kosten der Anwendung von Künstlicher Intelligenz“ waren Thema der Beratungen. Der Ärztetag verwies darauf, dass mit der Tokenzählung neue Kostenstrukturen entstünden. Zusätzlich zu klassischen Lizenzgebühren für medizinische Anwendungen müssten künftig auch Strom- und Wasserverbrauch der Serverinfrastruktur berücksichtigt werden.

An den Vorstand der Bundesärztekammer wurde zudem ein Prüfantrag (PDF) zur ärztlichen Aufklärung vor der Befüllung der elektronischen Patientenakte überwiesen. Die Delegierten äußerten Zweifel daran, dass ein einfacher Hinweis im Wartezimmer den gesetzlichen Anforderungen an eine informierte Patientenaufklärung genüge. Damit stellt sich auch die Frage, wer die Verantwortung trägt, wenn sich herausstellt, dass Patienten im Nachhinein doch nicht ausreichend aufgeklärt wurden.

In weiteren Beschlüssen ging es unter anderem um die Forderung nach praxistauglicher Digitalisierung, mehr Interoperabilität und sicheren IT-Systemen, um die Rolle von KI als unterstützendes Werkzeug in der medizinischen Versorgung sowie um die Wahrung ärztlicher Entscheidungsverantwortung. Kritisiert wurden zudem die geplante stärkere Nutzung von Gesundheitsdaten durch Krankenkassen, Zugriffe auf ePA-Daten, digitale Steuerungsmechanismen im Gesundheitswesen sowie ein möglicher indirekter Digitalzwang für Patientinnen und Patienten.


(mack)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

ADFC stellt ausgewählte Radtouren auf Komoot bereit


Der Allgemeine Deutsche Fahrrad-Club e. V. (ADFC) hat mit dem Outdoor-Navigationsanbieter Komoot vereinbart, künftig ausgewählte Touren seiner regionalen Untergliederungen als Collections zu veröffentlichen, damit Radfahrbegeisterte die Routen nachfahren können. Das teilte Komoot am Dienstag mit. Bei den angebotenen Routen handelt es sich um geführte Touren, die von ADFC-Tourenleiter geplant und durchgeführt wurden.

Weiterlesen nach der Anzeige

Rund 14.000 geführte Touren führt der ADFC über seine regionalen Gliederungen pro Jahr durch. Die Auswahl erstreckt sich dabei über kurze und lange, einfache und schwierigere Strecken. Die Routen sind von ADFC-Tourenleitern geplant und mit Informationen zu Sehenswürdigkeiten und praktischen Tipps angereichert. Entsprechend sollten sie zuverlässiger sein als einige Routen, die von Privatleuten veröffentlicht worden sind. Eine Auswahl dieser Touren beabsichtigt der ADFC nun als Collections auf Komoot bereitzustellen. Das Angebot umfasst genaues Kartenmaterial und Informationen der Tourleiter, etwa zur Strecke, zu Sehenswürdigkeiten und Aussichtspunkten. Zusätzlich stehen die Routen zur Offline-Navigation bereit.

Unterstützung für ADFC-Tourleiter

Die Kooperation zwischen dem ADFC und Komoot umfasst verschiedene Unterstützungsleistungen für die ADFC-Gliederungen. So stellt Komoot für ADFC-Tourenleiter und -leiterinnen zur Erstellung und Verwaltung von Routen Komoot Premium bereit. Zugleich bietet Komoot auch Unterstützung bei der Erstellung und Verwaltung von Collections, die mit Radbegeisterten geteilt werden können. Die ADFC-Gliederungen können ihre regionalen Tourtipps über Komoot einbetten und auf ihren Websites einbinden.

Wie viele Touren des ADFC letztlich über Komoot angeboten werden, ist derzeit noch unklar. Denn die Entscheidung über die Veröffentlichung regionaler Touren auf Komoot liegt bei den einzelnen Gliederungen des Fahrrad-Clubs, nicht aber beim Bundesverband. Dieser will jedoch die regionalen ADFC-Gliederungen dazu animieren, die Touren auf Komoot einzustellen, sodass auch Menschen die Routen nachfahren können, die nicht an den geführten ADFC-Touren teilnehmen können oder wollen.


(olb)



Source link

Weiterlesen

Künstliche Intelligenz

Deutschland-App: KI soll Anträge vereinfachen


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Lange Zeit war nebulös, was die geplante Deutschland-App des Bundesdigitalministeriums (BMDS) leisten soll. Nun hat das Ministerium mehr Klarheit geschaffen: Die App soll Bürgern dabei helfen, Online-Anträge auszufüllen. Nutzer sollen dabei die bestehenden Onlinedienste zum Beispiel ihrer Kommune gar nicht mehr zu Gesicht bekommen. „Die Bürger interagieren also nur mit der App und können leichter Verwaltungsleistungen beantragen“, erklärte BMDS-Staatssekretär Markus Richter in einem Interview mit c’t.

Weiterlesen nach der Anzeige

Im Hintergrundsystem der App sollen Crawler die Onlineportale von Behörden durchsuchen und erfassen, welche Formulare dort bereitstehen. Sprachmodelle verarbeiten die Formulare semantisch, sodass die App die Abfragen vereinfachen und Rückfragen beantworten kann. Außerdem sollen die Abfragen an die individuelle Konstellation des Nutzers angepasst werden: „Dadurch können ganze Seiten der Formulare unsichtbar werden“, sagte Richter.

Anträge im Gespräch mit einem Avatar

Nutzer können laut den aktuellen Plänen des Ministeriums zwischen drei „Interaktionsmodi“ wählen: einem vereinfachten Formular, einem Chatmodus sowie einem „KI-Avatar“, der per Sprachinteraktion durch den Antrag führt. Dafür setzt die App auf spezialisierte KI-Modelle zum Beispiel von ElevenLabs.

Alle News und Debatten zum Thema Digitalisierung: Abonnieren Sie jetzt den kostenlosen c’t-Newsletter D.digital.

E-Mail-Adresse

Ausführliche Informationen zum Versandverfahren und zu Ihren Widerrufsmöglichkeiten erhalten Sie in unserer Datenschutzerklärung.

Die Sorge, dass App-Nutzer aufgrund von KI-Falschaussagen zum Beispiel weniger Wohngeld erhalten, als ihnen zusteht, relativierte Richter im Interview: Schon heute gebe es fehlerhafte Anträge. Er gehe davon aus, dass die Deutschland-App die Fehlerquote reduziert, weil sie Nutzer durch den Prozess führe und Plausibilitäten prüfe.

Deutschland-App soll Open Source werden

Weiterlesen nach der Anzeige

Zur Frage, ob es nicht sinnvoller wäre, komplexe Antragsverfahren von Grund auf zu reformieren, erwiderte Richter: „Wir machen das eine, ohne das andere zu lassen.“ Das BMDS habe sich als Ministerium für Staatsmodernisierung die Vereinfachung von Prozessen auf die Fahne geschrieben. Man bewege sich aber in einer „Bestandslandschaft“ und wolle daher den Zugang zu bestehenden Verfahren vereinfachen.

Mit der Entwicklung eines Prototyps der Deutschland-App hat das BMDS die Telekom und SAP beauftragt und dadurch viel Kritik von mittelständischen Softwarefirmen hervorgerufen. Das Ministerium plant nun eine Ausschreibung und will die App als Open Source bereitstellen, „damit sie transparent und durch andere nachnutzbar ist“, wie Richter im Interview sagte.

Das vollständige Interview zur Deutschland-App sowie zum Deutschland-Stack lesen Sie bei heise+


(cwo)



Source link

Weiterlesen

Künstliche Intelligenz

Oracle E-Business Suite: Angriffe auf Payments beobachtet


In Oracles E-Business Suite können Angreifer an einer Schwachstelle in Oracle Payments ansetzen, um die Systeme vollständig zu übernehmen. IT-Sicherheitsforscher haben nun Angriffe auf die Lücke in freier Wildbahn beobachtet.

Weiterlesen nach der Anzeige

Die IT-Forscher von DefusedCyber haben am Montag auf X gepostet, dass sie seit dem Wochenende Angriffe auf diese Sicherheitslücke in ihren Honeypot-Systemen beobachtet haben. Bis dahin war noch kein Missbrauch der Lücke oder Proof-of-Concept-Code bekannt, erklären die IT-Sicherheitsforscher. Weitere Hinweise, wie die Angriffe genau aussehen oder in welchem Umfang sie stattfinden, nennt DefusedCyber jedoch nicht. Aus dem Ausschnitt der Anfrage, die der Screenshot auf X zeigt, lässt sich dahingehend nichts ableiten. Es gibt daher auch keine Hinweise auf erfolgreiche Angriffe (Indicators of Compromise, IOC), anhand derer Admins ihre Systeme auf Spuren von Attacken untersuchen könnten.

Oracle E-Business Suite: Angriffe aus dem Netz

Die Sicherheitslücke ermöglicht nicht authentifizierten Angreifern aus dem Netz, die HTTP-Zugriff auf verwundbare Systeme haben, eine Schwachstelle in der Dateitransfer-Komponente von Oracle Payments aus der Oracle E-Business Suite zum Kompromittieren von Oracle Payments auszunutzen. Das Leck ist einfach zu missbrauchen, schreibt Oracle in der Schwachstellenbeschreibung (CVE-2026-46817, CVSS 9.8, Risiko „hoch“). Betroffen ist Oracle Payments in den Versionen 12.2.3 bis einschließlich 12.2.15.

Oracle hat die Sicherheitslücke am ersten „Critical Security Patch Update“ (CSPU) im Mai dieses Jahres mit einem Softwareflicken versorgt. In der Übersicht zu dem Mai-Patchday von Oracle findet sich jedoch bislang noch kein Hinweis darauf, dass die Sicherheitslücke aktiv angegriffen wird.

Die Schwachstelle weckt Erinnerungen an Sicherheitslücken in Oracles E-Business Suite, die im Herbst vergangenen Jahres massiv angegriffen wurden. Die Täter haben die Oracle-Kunden im Anschluss um Lösegeld erpresst.


(dmk)



Source link

Weiterlesen

Beliebt