Schwere Vorwürfe hinsichtlich Diskriminierung behinderter Fahrgäste erhebt die US-Regierung in einer neuen Klage gegen den Fahrtenvermittler Uber. Dessen Chauffeure, aber auch Uber selbst, verletzen demnach wiederholt das US-Bundesgesetz ADA (Americans with Disabilities Act). Passagiere mit faltbaren Rollstühlen oder Blindenhunden würde regelmäßig die Beförderung verweigert.

Hinzu kämen unzulässige Preisaufschläge, Stornogebühren trotz Verweigerung der Beförderung, Beschimpfungen, Herabwürdigungen und ungebührliche Fragen. Selbst der Wunsch von Fahrgästen mit Mobilitätseinschränkung, den Beifahrersitz zu nutzen, werde oft abgelehnt.

Uber wisse von den Übelständen, unternähme aber zu wenig dagegen. Das Training der Chauffeure und des Kundendienstes sei ebenso unzureichend wie deren Kontrolle. Kunden, die regelmäßig Opfer von Übervorteilung geworden sind, würde die Rückerstattung unzulässiger Gebühren verweigert, weil sie schon zu oft die Rückerstattungen unzulässiger Gebühren beantragt hätten.

Nach einer Verwarnung durch das US-Justizministerium habe Uber lediglich oberflächliche Veränderungen vorgenommen, die Diskriminierung aber nicht abgestellt. Die zivilrechtliche Klage (USA v Uber Technologies, US-Bundesbezirksgericht für den Norden Kaliforniens, Az. 3:25-cv-7731) fordert Feststellung der ADA-Verletzung, eine Unterlassungsverfügung, Auflagen zu besserem Training und neuen internen Vorschriften, Schadenersatz und eine Geldstrafe.

Vorwürfe sind nicht neu

Uber stellt die Vorwürfe in Abrede. Gegenüber heise online verweist der Fahrtenvermittler auf seine Null-Toleranz-Politik; Chauffeure würden regelmäßig an die rechtlichen Vorgaben erinnert. Stelle Uber eine Gesetzesverletzung fest, ergreife es Maßnahmen bis hin zur permanenten Deaktivierung des Chauffeurkontos. Außerdem investiere Uber in Technik, Training und eine Hotline, damit sich betroffene Fahrgäste beschweren können.

Die Probleme bestehen praktisch seit es Uber gibt. Speziell die Ablehnung von Fahrgästen mit Blindenhunden war bereits mehrfach Gegenstand von Rechtsverfahren. Der US-Blindenverband (National Federation of the Blind) hat beispielsweise vor elf Jahren beim selben Gericht eine Sammelklage angestrengt (National Federation of the Blind et al v Uber Technologies, Az. 3:14-cv-04086), die zwei Jahre später in einen Vergleich mündete.

Dabei erkannte Uber zwar keine Rechtsverletzung an, versprach aber, Chauffeure in den USA einem Quiz zu unterziehen und sie schon nach der ersten, wissentlichen Verweigerung der Beförderung eines Fahrgastes mit Blindenhund hinauszuwerfen. Ist die Wissentlichkeit nicht erwiesen, sollten sie nach zwei glaubhaften Vorwürfen gefeuert werden. Unter anderem über diesen Vergleich sprach heise online 2017 mit Kenneth Shiotani, Anwalt des National Disability Rights Network (NDRN). Damals führte das NDRN einen Prozess gegen Uber, mit dem erzwungen wurde, dass Ubers US-Flotte eine Mindestzahl rollstuhlkompatibler Fahrzeuge aufweist (Access Living v Uber, US-Bundesbezirksgericht für den Norden Illinois‘, 16-cv-9690).

Wenig später verklagten New Yorks RolIi-Fahrer Uber auf Beförderung (Brooklyn Center for Independence of the Disabled (BCID) et al v Uber Technologies et al, zunächst Supreme Court of New York des County of New York, dann US-Bundesbezirksgericht für den Süden New Yorks, Az. 1:17-cv-06399). Nachdem die Stadt New York per Verordnung Uber und Lyft dazu gezwungen hatte, einen bestimmten Anteil rollstuhlkompatibler Fahrzeuge vorzuhalten, wurde die Klage fallengelassen. „Schlussendlich wollen wir 100 Prozent barrierefreie Taxis, Ubers und Lyfts“, erklärte Joe Rappaport vom BCID heise online am Donnerstag, „aber Rollstuhlfahrer haben jetzt in bestimmten Teilen der Stadt eine vernünftige Chance, ein Rollstuhl-taugliches Fahrzeug zu ergattern.“

Versprechen an Blinde nicht eingehalten

Umfassend effektiv war der Vergleich zwischen Uber und dem Blindenverband offenbar nicht. In den dreieinhalb Jahren seiner Gültigkeit hat Uber mehr als 20.000 Beschwerden über Diskriminierung von Fahrgästen mit Blindenhunden oder anderen Assistenztieren in den USA erhalten.

2021 verurteile ein Schiedsgericht Uber zur Zahlung von 1,1 Millionen US-Dollar, weil Uber-Chauffeure der blinden Einwohnerin San Franciscos Lisa Irving mehr als zwei Dutzend Mal die Beförderung mit ihrem Blindenhund verweigert hatten. Ubers Argument, Fahrten nur zu vermitteln und für das Fehlverhalten der Beförderer nicht verantwortlich zu sein, fruchtete bei dem Schiedsgericht nicht. Es stellte fest, dass Uber direkt vom ADA erfasst ist.

Eine im Vorjahr eingereichte Sammelklage eines Blinden wegen wiederholter Diskriminierung konnte Uber im Keim ersticken, indem es auf die Schiedsgerichtsklausel seiner AGB pochte (Hilbert v Uber Technologies, US-Bundesbezirksgericht für den Hauptstadtbezirk District of Columbia, Az. 1:24-cv-00584). Für die Betroffenen ist die Klage der US-Regierung daher von großer Bedeutung, weil sie der Schiedsgerichtsklausel nicht unterliegt.

(ds)

Der Verein der „E‑Rezept-Enthusiasten“ – die sich 2022 mit Mitgliedern aus der IT, Apotheken, Ärzteschaft und Privatpersonen gründeten – sieht in der ePA das Potenzial, die Koordination der Versorgung deutlich zu verbessern. Zwar wurden bereits über 70 Millionen elektronische Akten angelegt, dennoch nutzen erst rund 3,4 Millionen Versicherte die ePA aktiv.

Große Probleme sieht der Verein beim Identifikationsverfahren, das viele Patienten von der Nutzung abhält. Die Identifikation erfolgt über den Personalausweis, über PostIdent, „Video-Ident in Dritt-Anwendung (neuerdings möglich) oder Identifikation per eGK + PIN“, heißt es im Positionspapier. Diese Verfahren seien „technisch anspruchsvoll, unflexibel, nicht an den digitalen Alltag der Bevölkerung angepasst und abhängig von weiteren Tätigkeiten (wie Beantragen eines eGK-PINs)“.

Identifikation über Apotheken, Hausärzte und Co. gefordert

Daher wollen die Enthusiasten einfachere Zugangsmöglichkeiten – zunächst über den Hausarzt, beim Gesundheitsamt oder in der Apotheke. Eine entsprechende Möglichkeit, sich in den Apotheken zu identifizieren, sei „aus verschiedensten Gründen“ nicht umgesetzt worden. Später sollen die Möglichkeiten von einer staatlich getragenen digitalen Identitätsplattform abgelöst werden.

Wer über die PIN seines Personalausweises verfügt, kann sich schnell identifizieren. Künftig soll es möglich sein, die PIN online zurückzusetzen, ein entsprechender Verordnungsentwurf ist laut Bundesministerium des Inneren in Arbeit. Ebenso fordert der Verein eine stärkere Information und Einbindung der Versicherten. Mit einem verbesserten Berechtigungsmanagement sollten Versicherte steuern können, welcher Arzt wie lange ein Dokument sieht.

Zentral sei laut E-Rezept-Enthusiasten, die Patientenzentrierung konsequent in den Fokus zu rücken. Eine verpflichtende, automatische Befüllung mit relevanten Daten – etwa über Rezepte und Medikationslisten – sei dafür entscheidend. Besonderes Potenzial sehen die Enthusiasten in der neuen Architektur der ePA 3.x, die künftig nicht nur Datenspeicherung, sondern auch sichere Datenverarbeitung ermöglicht. So könnten im geschützten Bereich der Telematik-Infrastruktur KI-gestützte Analysen, Medikationsprüfungen oder intelligente Zusammenfassungen von Befunden entstehen – immer mit Zustimmung der Versicherten. Von der Gematik werden daher Spezifikationserweiterungen für sichere „Verarbeitungsdienste innerhalb der VAU [Anm. d. R. Vertrauenswürdige Ausführungsumgebung]“ gefordert.

ePA muss mehr sein als „digitaler Aktenschrank“

„Die ePA kann, soll und muss mehr sein als ein digitaler Aktenschrank. Sie muss komplexe und rechenintensive KI-gestützte Datenauswertung und Aufbereitung im sicheren Schutzraum in der vertrauenswürdigen Anwendungsumgebung ermöglichen“, fordert Christian Klose, Vorstandsmitglied der E-Rezept-Enthusiasten. Daher drängt der Verein auch auf „die Nutzung KI-basierter Algorithmen für Mustererkennung, Entscheidungshilfen und semantische Zusammenfassungen“. Laut Gematik ist die ePA bereits „KI-ready“, bei der Umsetzung scheint es aber noch Schwierigkeiten zu geben. Für die Zukunft ist viel geplant, wie einer aktuellen Roadmap und ePA-Erweiterungsplänen der Gematik-Gesellschafter zu entnehmen ist.

„Chaos Computer Club weist auf Defizite hin“

Cybersicherheit bei der ePA sehen die Enthusiasten nicht als „sicher“, sondern halten den Prozess für gut etabliert. Deshalb sehen sie keinen akuten Verbesserungsbedarf im Vergleich zu anderen Baustellen. „Da sehen wir in jedem Fall jetzt den geringsten Verbesserungsbedarf. […] es gibt ja nie die perfekte Sicherheit, das muss permanent nachgearbeitet werden. […] Im Zweifel weist der Chaos Computer Club auf Defizite hin […]. Letztendlich geht es ja immer darum, die Technik entsprechend auf den Stand der Bedrohungslage zu bringen. Und das ist aber aus unserer Sicht ein etablierter Prozess, wo jetzt kein Aufwand mehr ist“, so Klose. Jedoch hieße das nicht, dass sie sicher ist. Dabei handele es sich um einen kontinuierlichen Verbesserungsprozess.

Auf die Frage nach der aktuellen Sicherheit der ePA antwortete Bianca Kastl, die an beiden IT-Sicherheitsmeldungen bei der ePA mitgewirkt hat: „Die ePA benutzt zur Authentifizierung nach wie vor Methoden, die nicht den anerkannten Regeln der Technik entsprechen. Von sicher zu sprechen, ist also hier eher Glückssache“.

Es scheint, als ob der Datenschutz von manchen Vertretern der Gesundheitsbranche immer weniger ernst genommen wird. Christoph Straub, der Vorstandsvorsitzende der Barmer, bezeichnete den Datenschutz kürzlich als wesentliches Hemmnis. Für das BSI und den damaligen Bundesbeauftragten für Datenschutz und Informationsfreiheit sei „das höchste militärische Sicherheitsniveau gerade ausreichend“. Er hofft auf einen unkomplizierteren Umgang mit Gesundheitsdaten.

(mack)

Wie messen, testen und überwachen US-Datenkonzerne ihre öffentlichen KI-Chatbots auf deren negative Auswirkungen auf Kinder und Jugendliche? Dieser Frage geht die US-Bundesbehörde FTC (Federal Trade Commission). Dazu hat sie interne Unterlagen von Alphabet, Character Technologies, Meta Platforms (inklusive Instagram), OpenAI, Snap und X.Ai angefordert.

Besondere Sorge hat die FTC in Bezug auf Fälle, bei denen ein Chatbot nicht für ein einzelnes Anliegen kurz benutzt wird, sondern wenn er länger, als Bezugsperson (Companion), fungiert. Die behördliche Untersuchung soll laut Mitteilung ergründen, welche Schritte die Firmen gesetzt haben, um die Sicherheit ihrer Chatbots bei Einsatz als Bezugsperson zu evaluieren, die Nutzung durch Kinder und Jugendliche einzuschränken und potenzielle negative Effekte auf sie hintanzuhalten, und wie sie die Anwender und deren Eltern auf die von ihren Bots ausgehenden Gefahren hinweisen. Zudem will sie die Einhaltung des US-Kinderdatenschutzrechts (beruhend auf dem Gesetz COPPA) überprüfen und sich über die Geschäftsmodelle informieren.

Abstoßende Anlässe

Aktueller Anlass sind die Mitte August durchgesickerten internen Richtlinien Meta Platforms für Training wie Betrieb generativer KI (GenAI: Content Risk Standards). Sie erlauben Rassismus, falsche medizinische Behauptungen und anzügliche Chats mit Minderjährigen. Dass Metas KI-Chatbots mit Teenagern flirten oder sexuelle Rollenspiele durchführen, war bereits bekannt. Neu ist der Nachweis, dass dies kein Fehler war, sondern Metas expliziten Richtlinien entsprochen hat.

Nach einer Anfrage Reuters hat Meta den Abschnitt, der Flirts und romantische Chats mit Kindern erlaubt, entfernt. Das muss man Meta glauben: Die neuen Richtlinien hält der Datenkonzern unter Verschluss. Da ist es kein Wunder, dass Behörden genauer hinschauen. Ein US-Senator hat bereits eine Untersuchung Metas angeregt, ein anderer möchte amerikanische KI-Unternehmen hingegen ein Jahrzehnt lang ohne rechtliche Einschränkungen frei experimentieren lassen.

In den USA sind bereits mehrere Klagen hinterbliebener Eltern gegen Betreiber generativer KI-Chatbots anhängig, weil sie Kinder in den Suizid getrieben, dabei mit Anleitungen und Ermunterungen unterstützt und/oder keine Hilfe organisiert haben sollen. Im August haben die Justizminister aus 44 US-Staaten der KI-Branche die Rute ins Fenster gestellt. „Ihr werdet dafür verantwortlich gemacht, wenn Ihr wissentlich Kindern schadet“, heißt es in einem offenen Brief, den die National Association of Attorneys General an mehrere Datenkonzerne geschickt hat. Es gäbe bereits Hinweise auf strukturelle und systematische Gefahren, die von KI-Assistenten für Heranwachsende ausgehen.

(ds)