Connect with us

Künstliche Intelligenz

US-Behörde untersucht Chatbots auf Kindersicherheit


Wie messen, testen und überwachen US-Datenkonzerne ihre öffentlichen KI-Chatbots auf deren negative Auswirkungen auf Kinder und Jugendliche? Dieser Frage geht die US-Bundesbehörde FTC (Federal Trade Commission). Dazu hat sie interne Unterlagen von Alphabet, Character Technologies, Meta Platforms (inklusive Instagram), OpenAI, Snap und X.Ai angefordert.

Besondere Sorge hat die FTC in Bezug auf Fälle, bei denen ein Chatbot nicht für ein einzelnes Anliegen kurz benutzt wird, sondern wenn er länger, als Bezugsperson (Companion), fungiert. Die behördliche Untersuchung soll laut Mitteilung ergründen, welche Schritte die Firmen gesetzt haben, um die Sicherheit ihrer Chatbots bei Einsatz als Bezugsperson zu evaluieren, die Nutzung durch Kinder und Jugendliche einzuschränken und potenzielle negative Effekte auf sie hintanzuhalten, und wie sie die Anwender und deren Eltern auf die von ihren Bots ausgehenden Gefahren hinweisen. Zudem will sie die Einhaltung des US-Kinderdatenschutzrechts (beruhend auf dem Gesetz COPPA) überprüfen und sich über die Geschäftsmodelle informieren.

Aktueller Anlass sind die Mitte August durchgesickerten internen Richtlinien Meta Platforms für Training wie Betrieb generativer KI (GenAI: Content Risk Standards). Sie erlauben Rassismus, falsche medizinische Behauptungen und anzügliche Chats mit Minderjährigen. Dass Metas KI-Chatbots mit Teenagern flirten oder sexuelle Rollenspiele durchführen, war bereits bekannt. Neu ist der Nachweis, dass dies kein Fehler war, sondern Metas expliziten Richtlinien entsprochen hat.

Nach einer Anfrage Reuters hat Meta den Abschnitt, der Flirts und romantische Chats mit Kindern erlaubt, entfernt. Das muss man Meta glauben: Die neuen Richtlinien hält der Datenkonzern unter Verschluss. Da ist es kein Wunder, dass Behörden genauer hinschauen. Ein US-Senator hat bereits eine Untersuchung Metas angeregt, ein anderer möchte amerikanische KI-Unternehmen hingegen ein Jahrzehnt lang ohne rechtliche Einschränkungen frei experimentieren lassen.

In den USA sind bereits mehrere Klagen hinterbliebener Eltern gegen Betreiber generativer KI-Chatbots anhängig, weil sie Kinder in den Suizid getrieben, dabei mit Anleitungen und Ermunterungen unterstützt und/oder keine Hilfe organisiert haben sollen. Im August haben die Justizminister aus 44 US-Staaten der KI-Branche die Rute ins Fenster gestellt. „Ihr werdet dafür verantwortlich gemacht, wenn Ihr wissentlich Kindern schadet“, heißt es in einem offenen Brief, den die National Association of Attorneys General an mehrere Datenkonzerne geschickt hat. Es gäbe bereits Hinweise auf strukturelle und systematische Gefahren, die von KI-Assistenten für Heranwachsende ausgehen.


(ds)



Source link

Künstliche Intelligenz

Berlin: Brandanschlag durch Linksextreme – dritter Tag ohne Strom


Der Brandanschlag auf die Stromversorgung im Berliner Südosten geht nach Einschätzung der Ermittler auf das Konto linksextremer Täter. Ein im Internet veröffentlichtes Bekennerschreiben werde als authentisch eingeschätzt, sagte Berliner Innensenatorin Iris Spranger (SPD) im Abgeordnetenhaus. Es weise Ähnlichkeiten auf mit einem Bekennerschreiben zu einem ähnlichen Brandanschlag im Februar nahe der Tesla-Autofabrik in Brandenburg.

„Wir gehen vom Täterkreis aus dem linksextremistischen Spektrum aus“, sagte die Innensenatorin. „Das heißt also: Nicht aus dem Ausland, sondern aus dem Inland.“ Die Täter seien mit hoher krimineller Energie und sehr professionell vorgegangen.

Der Brandanschlag auf zwei Strommasten nahe dem Stadtteil Adlershof mit seinem Technologiegelände im Südosten Berlins hatte am frühen Dienstagmorgen zunächst rund 50.000 Kunden betroffen. Im Laufe des ersten Tages und der ersten Nacht wurden 30.000 Haushalte wieder an das Netz gebracht, sodass am Mittwoch noch 20.000 ohne Strom blieben. Am dritten Tag waren dann am heutigen Donnerstag trotz aller Bemühungen der Stromnetz GmbH noch immer Tausende Menschen ohne Elektrizität.

Der Technologiepark Adlershof konnte den Betrieb noch nicht wieder aufnehmen. „Wir haben noch keinen Strom„, sagt Roland Sillmann, Geschäftsführer des Parks, im RBB-Inforadio. Viele Firmen hofften, am Wochenende arbeiten zu können, um Verluste zumindest teilweise auszugleichen.

Besonders betroffen seien Unternehmen mit Laboren, Produktion oder Messtechnik. „Die sind momentan kaum arbeitsfähig“, sagte Sillmann. In einer typischen Woche liege der Umsatz aller Firmen bei etwa 100 Millionen Euro. Der Schaden sei aktuell noch nicht bezifferbar. Einige Firmen lagerten Kühlgut zu Angestellten nach Hause aus. Sogenannte Reinräume müssten teilweise komplett neu hochgefahren werden – das könne Tage oder Wochen dauern.

Der Netzbetreiber Stromnetz sprach zuletzt von 13.700 betroffenen Kunden im Bezirk Treptow-Köpenick, wie viele Menschen genau in den betroffenen Wohnungen leben, war nicht bekannt. Bis spätestens zum Donnerstagabend sollen alle Wohnungen, Läden, Straßenlaternen und andere Einrichtungen wieder Elektrizität haben, so das Versprechen.

„Wir sind sehr optimistisch, dass wir am frühen Abend mit der Zwischenlösung fertig sind und alle versorgen können“, sagte ein Sprecher. „Die Arbeit ist sehr, sehr komplex, aber wir machen Fortschritte.“

Mittwochnachmittag erhielten über eine Zwischenlösung weitere rund 6000 Haushalte wieder Strom. Diese Verbindungsleitung fiel allerdings schnell wieder aus und wurde erst am heutigen Morgen wieder aufgebaut.

Auch in der vergangenen Nacht sei in vier Meter Tiefe an dem vom Brandanschlag beschädigten Strommast gearbeitet worden. Dort werden Starkstromkabel freigelegt und verbunden, um die zerstörten Stellen und den Mast zu umgehen. Diese Zwischenlösung werde auch länger bestehen bleiben, wenn dann demnächst der Mast repariert werden könne, sagte der Sprecher. Zum Glück sei der Mast trotz des Feuers weiter nutzbar.

Stromnetz Berlin appellierte weiter an alle Kunden, die vom Stromausfall betroffen waren und schon wieder versorgt sind: „Bitte reduzieren Sie Ihren Stromverbrauch. So können wir Ihre eigene Stromversorgung stabil halten und – wenn technisch möglich – weitere Kunden ans Netz anschließen.“

Zugleich wies das Unternehmen darauf hin, dass es nochmals zu kurzzeitigen Stromunterbrechungen kommen könne, wenn alle Leitungen wieder angeschlossen seien.

Der Bezirk Treptow-Köpenick teilte mit, dass auch Menschen, die Sauerstoff benötigten, an einer der Anlaufstellen der Hilfsorganisationen unterstützt würden.

Zudem wies das Bezirksamt Betriebe auf die Gefahr hin, die von Lebensmitteln ausgehen könnte, wenn sie aufgrund des Stromausfalls nicht ordnungsgemäß gekühlt werden könnten. Betriebe wurden aufgefordert, Nahrungsmittel zu kontrollieren und im Zweifel zu entsorgen.

Den Angaben zufolge ist der Stromausfall bereits der längste in Berlin seit mindestens 25 Jahren. Beim letzten großen Blackout 2019 in Köpenick waren mehr als 30.000 Haushalte rund 30 Stunden lang ohne Elektrizität.


(mho)



Source link

Weiterlesen

Künstliche Intelligenz

Uber wegen Verweigerung behinderter Fahrgäste vor US-Gericht


Schwere Vorwürfe hinsichtlich Diskriminierung behinderter Fahrgäste erhebt die US-Regierung in einer neuen Klage gegen den Fahrtenvermittler Uber. Dessen Chauffeure, aber auch Uber selbst, verletzen demnach wiederholt das US-Bundesgesetz ADA (Americans with Disabilities Act). Passagiere mit faltbaren Rollstühlen oder Blindenhunden würde regelmäßig die Beförderung verweigert.

Hinzu kämen unzulässige Preisaufschläge, Stornogebühren trotz Verweigerung der Beförderung, Beschimpfungen, Herabwürdigungen und ungebührliche Fragen. Selbst der Wunsch von Fahrgästen mit Mobilitätseinschränkung, den Beifahrersitz zu nutzen, werde oft abgelehnt.

Uber wisse von den Übelständen, unternähme aber zu wenig dagegen. Das Training der Chauffeure und des Kundendienstes sei ebenso unzureichend wie deren Kontrolle. Kunden, die regelmäßig Opfer von Übervorteilung geworden sind, würde die Rückerstattung unzulässiger Gebühren verweigert, weil sie schon zu oft die Rückerstattungen unzulässiger Gebühren beantragt hätten.

Nach einer Verwarnung durch das US-Justizministerium habe Uber lediglich oberflächliche Veränderungen vorgenommen, die Diskriminierung aber nicht abgestellt. Die zivilrechtliche Klage (USA v Uber Technologies, US-Bundesbezirksgericht für den Norden Kaliforniens, Az. 3:25-cv-7731) fordert Feststellung der ADA-Verletzung, eine Unterlassungsverfügung, Auflagen zu besserem Training und neuen internen Vorschriften, Schadenersatz und eine Geldstrafe.

Uber stellt die Vorwürfe in Abrede. Gegenüber heise online verweist der Fahrtenvermittler auf seine Null-Toleranz-Politik; Chauffeure würden regelmäßig an die rechtlichen Vorgaben erinnert. Stelle Uber eine Gesetzesverletzung fest, ergreife es Maßnahmen bis hin zur permanenten Deaktivierung des Chauffeurkontos. Außerdem investiere Uber in Technik, Training und eine Hotline, damit sich betroffene Fahrgäste beschweren können.

Die Probleme bestehen praktisch seit es Uber gibt. Speziell die Ablehnung von Fahrgästen mit Blindenhunden war bereits mehrfach Gegenstand von Rechtsverfahren. Der US-Blindenverband (National Federation of the Blind) hat beispielsweise vor elf Jahren beim selben Gericht eine Sammelklage angestrengt (National Federation of the Blind et al v Uber Technologies, Az. 3:14-cv-04086), die zwei Jahre später in einen Vergleich mündete.

Dabei erkannte Uber zwar keine Rechtsverletzung an, versprach aber, Chauffeure in den USA einem Quiz zu unterziehen und sie schon nach der ersten, wissentlichen Verweigerung der Beförderung eines Fahrgastes mit Blindenhund hinauszuwerfen. Ist die Wissentlichkeit nicht erwiesen, sollten sie nach zwei glaubhaften Vorwürfen gefeuert werden. Unter anderem über diesen Vergleich sprach heise online 2017 mit Kenneth Shiotani, Anwalt des National Disability Rights Network (NDRN). Damals führte das NDRN einen Prozess gegen Uber, mit dem erzwungen wurde, dass Ubers US-Flotte eine Mindestzahl rollstuhlkompatibler Fahrzeuge aufweist (Access Living v Uber, US-Bundesbezirksgericht für den Norden Illinois‘, 16-cv-9690).

Wenig später verklagten New Yorks RolIi-Fahrer Uber auf Beförderung (Brooklyn Center for Independence of the Disabled (BCID) et al v Uber Technologies et al, zunächst Supreme Court of New York des County of New York, dann US-Bundesbezirksgericht für den Süden New Yorks, Az. 1:17-cv-06399). Nachdem die Stadt New York per Verordnung Uber und Lyft dazu gezwungen hatte, einen bestimmten Anteil rollstuhlkompatibler Fahrzeuge vorzuhalten, wurde die Klage fallengelassen. „Schlussendlich wollen wir 100 Prozent barrierefreie Taxis, Ubers und Lyfts“, erklärte Joe Rappaport vom BCID heise online am Donnerstag, „aber Rollstuhlfahrer haben jetzt in bestimmten Teilen der Stadt eine vernünftige Chance, ein Rollstuhl-taugliches Fahrzeug zu ergattern.“

Umfassend effektiv war der Vergleich zwischen Uber und dem Blindenverband offenbar nicht. In den dreieinhalb Jahren seiner Gültigkeit hat Uber mehr als 20.000 Beschwerden über Diskriminierung von Fahrgästen mit Blindenhunden oder anderen Assistenztieren in den USA erhalten.

2021 verurteile ein Schiedsgericht Uber zur Zahlung von 1,1 Millionen US-Dollar, weil Uber-Chauffeure der blinden Einwohnerin San Franciscos Lisa Irving mehr als zwei Dutzend Mal die Beförderung mit ihrem Blindenhund verweigert hatten. Ubers Argument, Fahrten nur zu vermitteln und für das Fehlverhalten der Beförderer nicht verantwortlich zu sein, fruchtete bei dem Schiedsgericht nicht. Es stellte fest, dass Uber direkt vom ADA erfasst ist.

Eine im Vorjahr eingereichte Sammelklage eines Blinden wegen wiederholter Diskriminierung konnte Uber im Keim ersticken, indem es auf die Schiedsgerichtsklausel seiner AGB pochte (Hilbert v Uber Technologies, US-Bundesbezirksgericht für den Hauptstadtbezirk District of Columbia, Az. 1:24-cv-00584). Für die Betroffenen ist die Klage der US-Regierung daher von großer Bedeutung, weil sie der Schiedsgerichtsklausel nicht unterliegt.


(ds)



Source link

Weiterlesen

Künstliche Intelligenz

E-Patientenakte: E-Rezept-Enthusiasten fordern einfachen Zugang, KI und mehr


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Der Verein der „E‑Rezept-Enthusiasten“ – die sich 2022 mit Mitgliedern aus der IT, Apotheken, Ärzteschaft und Privatpersonen gründeten – sieht in der ePA das Potenzial, die Koordination der Versorgung deutlich zu verbessern. Zwar wurden bereits über 70 Millionen elektronische Akten angelegt, dennoch nutzen erst rund 3,4 Millionen Versicherte die ePA aktiv.

Große Probleme sieht der Verein beim Identifikationsverfahren, das viele Patienten von der Nutzung abhält. Die Identifikation erfolgt über den Personalausweis, über PostIdent, „Video-Ident in Dritt-Anwendung (neuerdings möglich) oder Identifikation per eGK + PIN“, heißt es im Positionspapier. Diese Verfahren seien „technisch anspruchsvoll, unflexibel, nicht an den digitalen Alltag der Bevölkerung angepasst und abhängig von weiteren Tätigkeiten (wie Beantragen eines eGK-PINs)“.

Daher wollen die Enthusiasten einfachere Zugangsmöglichkeiten – zunächst über den Hausarzt, beim Gesundheitsamt oder in der Apotheke. Eine entsprechende Möglichkeit, sich in den Apotheken zu identifizieren, sei „aus verschiedensten Gründen“ nicht umgesetzt worden. Später sollen die Möglichkeiten von einer staatlich getragenen digitalen Identitätsplattform abgelöst werden.

Wer über die PIN seines Personalausweises verfügt, kann sich schnell identifizieren. Künftig soll es möglich sein, die PIN online zurückzusetzen, ein entsprechender Verordnungsentwurf ist laut Bundesministerium des Inneren in Arbeit. Ebenso fordert der Verein eine stärkere Information und Einbindung der Versicherten. Mit einem verbesserten Berechtigungsmanagement sollten Versicherte steuern können, welcher Arzt wie lange ein Dokument sieht.

Zentral sei laut E-Rezept-Enthusiasten, die Patientenzentrierung konsequent in den Fokus zu rücken. Eine verpflichtende, automatische Befüllung mit relevanten Daten – etwa über Rezepte und Medikationslisten – sei dafür entscheidend. Besonderes Potenzial sehen die Enthusiasten in der neuen Architektur der ePA 3.x, die künftig nicht nur Datenspeicherung, sondern auch sichere Datenverarbeitung ermöglicht. So könnten im geschützten Bereich der Telematik-Infrastruktur KI-gestützte Analysen, Medikationsprüfungen oder intelligente Zusammenfassungen von Befunden entstehen – immer mit Zustimmung der Versicherten. Von der Gematik werden daher Spezifikationserweiterungen für sichere „Verarbeitungsdienste innerhalb der VAU [Anm. d. R. Vertrauenswürdige Ausführungsumgebung]“ gefordert.

„Die ePA kann, soll und muss mehr sein als ein digitaler Aktenschrank. Sie muss komplexe und rechenintensive KI-gestützte Datenauswertung und Aufbereitung im sicheren Schutzraum in der vertrauenswürdigen Anwendungsumgebung ermöglichen“, fordert Christian Klose, Vorstandsmitglied der E-Rezept-Enthusiasten. Daher drängt der Verein auch auf „die Nutzung KI-basierter Algorithmen für Mustererkennung, Entscheidungshilfen und semantische Zusammenfassungen“. Laut Gematik ist die ePA bereits „KI-ready“, bei der Umsetzung scheint es aber noch Schwierigkeiten zu geben. Für die Zukunft ist viel geplant, wie einer aktuellen Roadmap und ePA-Erweiterungsplänen der Gematik-Gesellschafter zu entnehmen ist.

Cybersicherheit bei der ePA sehen die Enthusiasten nicht als „sicher“, sondern halten den Prozess für gut etabliert. Deshalb sehen sie keinen akuten Verbesserungsbedarf im Vergleich zu anderen Baustellen. „Da sehen wir in jedem Fall jetzt den geringsten Verbesserungsbedarf. […] es gibt ja nie die perfekte Sicherheit, das muss permanent nachgearbeitet werden. […] Im Zweifel weist der Chaos Computer Club auf Defizite hin […]. Letztendlich geht es ja immer darum, die Technik entsprechend auf den Stand der Bedrohungslage zu bringen. Und das ist aber aus unserer Sicht ein etablierter Prozess, wo jetzt kein Aufwand mehr ist“, so Klose. Jedoch hieße das nicht, dass sie sicher ist. Dabei handele es sich um einen kontinuierlichen Verbesserungsprozess.


Übersicht der E-Rezept-Enthusiasten

Übersicht der E-Rezept-Enthusiasten

Als größte Baustellen sehen die E-Rezept-Enthusiasten, dass nur ein geringer Teil des medizinischen Fachpersonals Dokumente in die ePA lädt und den ePA-Zugang für Versicherte.

(Bild: E-Rezept-Enthusiasten)

Auf die Frage nach der aktuellen Sicherheit der ePA antwortete Bianca Kastl, die an beiden IT-Sicherheitsmeldungen bei der ePA mitgewirkt hat: „Die ePA benutzt zur Authentifizierung nach wie vor Methoden, die nicht den anerkannten Regeln der Technik entsprechen. Von sicher zu sprechen, ist also hier eher Glückssache“.

Es scheint, als ob der Datenschutz von manchen Vertretern der Gesundheitsbranche immer weniger ernst genommen wird. Christoph Straub, der Vorstandsvorsitzende der Barmer, bezeichnete den Datenschutz kürzlich als wesentliches Hemmnis. Für das BSI und den damaligen Bundesbeauftragten für Datenschutz und Informationsfreiheit sei „das höchste militärische Sicherheitsniveau gerade ausreichend“. Er hofft auf einen unkomplizierteren Umgang mit Gesundheitsdaten.


(mack)



Source link

Weiterlesen

Beliebt