Künstliche Intelligenz
EU-Fahrplan für „Entschlüsselung“ und Vorratsdatenspeicherung steht
Die EU-Kommission hat am Dienstag einen Fahrplan vorgelegt, wie sie Strafverfolgungsbehörden in der Gemeinschaft im Rahmen ihrer Strategie für die innere Sicherheit („ProtectEU“) wirksamen Zugang zu Daten geben will. Im Kern geht es dabei um seit Jahren umkämpfte Überwachungsinstrumente wie eine EU-weite Neuauflage der verdachtsunabhängigen Vorratsdatenspeicherung sowie die Möglichkeit von Ermittlern, bei verschlüsselter Kommunikation etwa über Messenger wie WhatsApp, Signal und Threema oder E-Mail im Klartext mitzulesen.
Laut dem Zeitplan, der sich auf sechs Schlüsselbereiche konzentriert, will die Kommission noch in diesem Jahr eine Folgenabschätzung durchführen, um neuen EU-Vorschriften für das anlasslose Protokollieren von Nutzerspuren den Weg zu ebnen. Gerade erst führte die Kommission eine öffentliche Konsultation dazu durch, bei der die Eingabefrist vorige Woche ablief.
Insgesamt sind bei der Sondierung über 5000 Stellungnahmen eingegangen, 95 Prozent davon von besorgten Bürgern. Der Arbeitskreis Vorratsdatenspeicherung warnt in seiner Stellungnahme: Bei dem Werkzeug handle es sich um „die am tiefsten in die Privatsphäre eingreifende und unpopulärste Überwachungsmaßnahme, die die EU jemals hervorgebracht hat“. Das Instrument habe sich „für viele Bereiche der Gesellschaft als höchst schädlich“ und sogar überflüssig erwiesen. Es drohten erhebliche Risiken des Missbrauchs und des Verlusts vertraulicher Informationen „über unsere persönlichen Kontakte, Bewegungen und Interessen“.
Crypto Wars und Entschlüsselung
Der Europäische Gerichtshof (EuGH) erklärte eine frühere EU-Richtlinie zur Vorratsdatenspeicherung vor Jahren für nichtig und hat seine Rechtsprechung mit der Zeit nur teilweise – etwa mit Blick auf IP-Adressen – gelockert. Die Luxemburger Richter betonen immer wieder, dass ein solches grundrechtsrelevantes Instrument auf das absolut notwendige Maß beschränkt werden müsse.
2026 will die Kommission dann das nicht weniger brisante Thema „Entschlüsselung“ angehen. Sie werde „einen Technologiefahrplan zur Verschlüsselung vorlegen“, heißt es. Dieser solle helfen, „Lösungen zu ermitteln und zu bewerten, die den rechtmäßigen Zugang der Strafverfolgungsbehörden zu verschlüsselten Daten unter Wahrung der Cybersicherheit und der Grundrechte ermöglichen“.
Werden Ermittler blind im Datenmeer?
Hintergrund sind die heftig umstrittenen Empfehlungen der Hochrangigen Gruppe der EU zum Datenzugang für eine wirksame Strafverfolgung (HLEG), die der EU-Ministerrat voriges Jahr unterstützte. Diese arbeitete im Rahmen der Crypto Wars hinter verschlossenen Türen an Lösungen für das von Innenpolitikern und Ermittlern ausgemachte „böse Problem“ der Verschlüsselung („Going Dark“).
Dabei geht es darum, bei durchgängig verschlüsselten Diensten einen Zugriff auf Meta- und Kommunikationsdaten möglichst in Echtzeit zu ermöglichen. Die belgische Bundespolizei etwa drängt hier auf ein Verfahren über den „Vordereingang“, das keine Hintertüren in verschlüsselten Produkten erfordere: Eine Strafverfolgungsbehörde stelle eine standardisierte Anfrage an den Dienstleister, der dann im Klartext die begehrten Daten schicken müsse.
Die EU-Telekommunikationsnormungsbehörde ETSI machte sich im HLEG-Umfeld Gedanken über eine „vertrauenswürdige authentifizierte Stelle“, die einen Zugangsschlüssel erhalten und verwalten soll. Der Einbezug solcher Drittparteien gilt IT-Sicherheitsexperten als indiskutable Sollbruchstelle.
Big-Data-Analysen mit KI
Zudem sollen Europol und Eurojust dem Plan zufolge die Zusammenarbeit zwischen Strafverfolgungsbehörden und Diensteanbietern beim Zugang zu elektronischen Beweismitteln unter dem Stichwort „rechtmäßige Überwachung“ verstärken. Dazu will die Kommission auch die europäische Ermittlungsanordnung bis 2027 ausbauen. Sie hat ferner vor, Fortschritte bei Instrumenten für die digitale Forensik mit EU-Mitteln und öffentlich-privaten Partnerschaften zu unterstützen und bei Europol dazu ein Kompetenzzentrum einzurichten.
Die Kommission will bis 2028 die Entwicklung und den Einsatz von KI-Instrumenten fördern, die es den Behörden ermöglichen, „große Mengen beschlagnahmter Daten rechtmäßig und wirksam zu verarbeiten“. Ihr schwebt zudem ein „EU-Ansatz für die Normung im Bereich der inneren Sicherheit“ vor. Henna Virkkunen, Kommissionsvizepräsidentin für technologische Souveränität, unterstrich: „Um die Sicherheit der Bürger im digitalen Zeitalter zu gewährleisten, müssen die Strafverfolgungsbehörden über die Instrumente, Fähigkeiten und rechtlichen Mittel verfügen, um auf Daten zuzugreifen.“ Notwendig- und Verhältnismäßigkeit sowie die Grundrechte blieben gewahrt.
(dahe)
Künstliche Intelligenz
Wie der EU-Gerichtshof die DSGVO nachschärft
Im September 2025 hat die Datenschutzwelt gebannt nach Luxemburg geschaut. Gleich drei wegweisende Entscheidungen zur Auslegung der Datenschutz-Grundverordnung (DSGVO) standen beim Gerichtshof der Europäischen Union (Court of Justice of the European Union, CURIA) an, dem mehrgliedrigen Gerichtssystem der EU. Gebannt deshalb, weil die dortigen Rechtsauslegungen die teils unscharfen EU-Datenschutzvorschriften mit Leben füllen und für die Gerichte der Mitgliedsstaaten als sakrosankt gelten.
Los ging es am 3. September mit dem „Latombe“-Urteil (Az. T-553/23). Phillippe Latombe, ein Abgeordneter der französischen Nationalversammlung, hatte Ende 2023 eine Nichtigkeitsklage gegen die EU-Kommission eingereicht. Derlei Klagen verhandelt nicht der Europäische Gerichtshof (EuGH), sondern nur die zweithöchste Instanz, das Europäische Gericht (EuG) – so auch in diesem Fall.
Latombe wollte mit seiner Organklage den im Juli 2023 verabschiedeten Angemessenheitsbeschluss zu Fall bringen, der nach Art. 45 DSGVO die Rechtsgrundlage für Datentransfers zwischen EU- und US-Unternehmen bildet. Der Beschluss war zustande gekommen, weil die damalige US-Regierung von Präsident Joe Biden im Oktober 2022 mit dem „Trans-Atlantic Data Privacy Framework“ (TADPF) neue Schutzmechanismen für Daten europäischer Bürger in den USA installiert hatte. Allerdings hatte Biden diese Mechanismen nicht mit einem Gesetz abgesichert, sondern lediglich per präsidialem Dekret erlassen.
Das war die Leseprobe unseres heise-Plus-Artikels „Wie der EU-Gerichtshof die DSGVO nachschärft“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Für KI-Training: US-App zahlt Geld für abgehörte Telefonate
„Neon – Money Talks“ ist auf iPhones in den USA derzeit die viertmeistinstallierte Anwendung, noch vor Google und Whatsapp. In der Sparte Soziale Netzwerke liegt sie sogar auf Platz 2, nur geschlagen von Threads. Der Grund für den rasanten Aufstieg ist Geld. Neon zeichnet die mithilfe der App initiierten Telefongespräche auf und schüttet dafür 15 US-Cent pro Minute aus, maximal 30 US-Dollar pro Tag. Die Aufnahmen, so der Betreiber, würden dann für Trainings Künstlicher Intelligenzen weiterverkauft, bereinigt um personenbezogene Daten.
Um rechtliche Abhörverbote nicht zu verletzen, wird laut den Angaben nur der lokale Ton vom Handy selbst aufgenommen, nicht der Ton des Gesprächspartners am anderen Ende der Leitung. Nur wenn beide Gesprächspartner Neon-Teilnehmer sind, nimmt die dahinter stehende Firma Neon Mobile, Inc. demnach das volle Telefonat auf. Weil das natürlich deutlich aussagekräftiger ist, zahlt Neon dann auch jedem der Teilnehmer 30 Cent pro Minute.
Die App ist in den US-App-Stores sowohl Apples als auch Googles gelistet. In den Nutzungsbedingungen Neons sind eine Schiedsgerichtsklausel sowie ein Sammelklageverbot enthalten. Die Schiedsgerichtsklausel lässt sich ausschließen, indem man binnen 30 Tagen ab Vertragsabschluss (durch Installation der App) einen Brief an eine bestimmte Adresse in New York schickt.
„Don’t worry“ im Minenfeld
„Keine Sorge, unsere Technik filtert automatisch Namen, Nummer und andere persönliche Details heraus“, verspricht Neon. Allerdings gibt es kein Versprechen, dass die Aufnahmen geheim gehalten oder ausschließlich für KI-Trainings genutzt werden.
Im Gegenteil, die Vertragsklauseln Neons sind ein juristisches Minenfeld für Teilnehmer. Neon Mobile, Inc., sichert sich unwiderrufliche, weltweite, gebührenfreie, übertragbare und sublizenzierbare Lizenzen. Sie erlauben unter anderem, die Aufnahmen teilweise oder zur Gänze zu verkaufen, zu verwenden, zu kopieren, öffentlich aufzuführen, zum öffentlichen Abruf bereitzustellen und abgeleitete Werke zu erstellen, egal in welcher Form oder welchem Medium.
Noch dazu ist die Lizenz exklusiv. Das bedeutet, dass Teilnehmer etwaig selbst angefertigte Aufnahmen ihrer eigenen Telefongespräche nicht an Dritte verkaufen oder sonst lizenzieren können. Wer das schon getan haben sollte, haftet gegenüber Neos dafür. Auf Ansprüche bezüglich dessen, was Neon oder Neons Kunden aus den Aufnahmen generieren, verzichten Teilnehmer sowieso.
Selbstredend haften Teilnehmer auch, wenn sie bei ihren Unterhaltungen Rechte Dritter verletzen, also etwa, wenn sie bei einem Telefon einen Copyright-geschützten Text aussprechen oder eine Melodie summen. Das landet dann womöglich in LLMs, was teuer kommen kann. Und sollte der Einsatz der App irgendwo verboten sein und dennoch dort erfolgen, haften die Teilnehmer gegenüber Neon auch dafür. Selbst verbittet sich Neon betrügerische Nutzung zur unredlichen Lukrierung von Ausschüttungen, etwa durch ausführliches Schweigen, das Vorspielen von Aufnahmen oder einseitige Monologe.
(ds)
Künstliche Intelligenz
Amazon.com zahlt Rekordstrafe für untergeschobene Prime-Abos
Amazon.com soll Millionen Verbrauchern in den USA durch verwirrende und irreführende Designs kostenpflichtige Prime-Abonnements untergeschoben haben. Gleichzeitig soll der Online-Händler die Kündigung von Prime-Abos absichtlich schwierig gemacht haben. Mit diesen Vorwürfen hat die US-Handelsaufsicht FTC (Federal Trade Commission) Amazon 2023 verklagt. Das Unternehmen sowie zwei verantwortliche Amazon-Manager akzeptieren jetzt einen Vergleich, in dessen Rahmen der Konzern eine Milliarde US-Dollar Strafe zahlt.
Das entspricht größenordnungsmäßig der Hälfte des weltweit erzielten Konzernumsatzes an einem durchschnittlichen Tag. Die Hälfte der Strafe ist alsbald fällig, die zweite Hälfte in eineinhalb Jahren. Zusätzlich muss Amazon 1,5 Milliarden US-Dollar an übervorteilte US-Kunden zurückzahlen. Es wird das zweitgrößte von der FTC je erwirkte Rückerstattungsprogramm. Nur bei Volkswagen hat die FTC in Folge des Dieselskandals einen größeren Geldberg abtragen lassen, nämlich 9,5 Milliarden Dollar.
„Die Beweislage hat gezeigt, dass Amazon hoch entwickelte Abo-Fallen entworfen hat, um Verbraucher zu manipulieren, damit sie sich zu Prime anmelden“, zürnt FTC-Vorsitzender Andrew N. Ferguson, „Und dann hat es es Verbrauchern überaus schwer gemacht, ihre Abonnements zu beenden.“ Interne Amazon-Unterlagen würden belegen, dass das wissentlich geschah; beispielsweise wurden die untergejubelten Abos als „unausgesprochener Krebs“ bezeichnet.
Konkrete Maßnahmen
Im Vorfeld der Klage soll Amazon Unterlagen unterdrückt und bewusst falsche Angaben gemacht haben, um die FTC-Untersuchung zu behindern und hinauszuzögern. Diese Vorwürfe stellt das Unternehmen in Abrede.
Die nun erzielte Vereinbarung mit Amazon soll sicherstellen, dass der Konzern solches nicht mehr tut. Zu den Maßnahmen zählt eine deutliche, auffallende Schaltfläche zur Ablehnung des Prime-Abos im Bestellvorgang. „Amazon darf keine Schaltfläche mehr haben, die sagt ‚Nein, ich möchte keine spesenfreie Zustellung.'“, betont die FTC.
Zudem verpflichtet sich Amazon dazu, Abonnementkündigungen einfach zu gestalten. Sie dürfen weder schwierig noch zeitaufwendig sein, und müssen über die gleiche Methode erfolgen können, mit der das Abo ursprünglich abgeschlossen wurde. Diese Verpflichtungen beziehen sich nur auf die Vereinigten Staaten von Amerika.
Auch dem Autor dieser Zeilen hat Amazon es irgendwann geschafft, ein ungewolltes Prime-Abonnement unterzujubeln. Dabei passe ich da auf, wie ein Haftlmacher. Was ich da falsch geklickt habe, weiß ich bis heute nicht. Es reichte auch nur ein einzelner Klick – und das, bevor ich die wirklich gewünschte Bestellung überhaupt abgeschlossen hatte.
Als ich dieses ungewollte Abo sofort kündigen wollte, stellte sich heraus, dass es dazu während der gebührenfreien Einführungsphase offenbar keine Möglichkeit gab. Zumindest konnte ich ihn auf der Webseite des Online-Shops nicht finden. Ich musste das Storno über einen Chat mit einem Amazon-Mitarbeiter aushandeln.
Die FTC feiert die Zahlung in Höhe von einer Milliarde Dollar als die bislang höchste Strafe für Verletzung einer FTC-Regel. Das ist korrekt, allerdings hat die FTC auf anderer Rechtsgrundlage schon härter durchgegriffen: In Folge des Cambridge-Analytica-Skandals hat die Behörde Facebook (Meta Platforms) 2019 mit fünf Milliarden Dollar zur Kasse gebeten. Dieser Fall (Az. C-4365) wird bis heute vor Gericht verhandelt.
(ds)
-
UX/UI & Webdesignvor 1 Monat
Der ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 4 Wochen
Adobe Firefly Boards › PAGE online
-
Social Mediavor 1 Monat
Relatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
Entwicklung & Codevor 1 Monat
Posit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Entwicklung & Codevor 3 Wochen
EventSourcingDB 1.1 bietet flexiblere Konsistenzsteuerung und signierte Events
-
UX/UI & Webdesignvor 1 Woche
Fake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
-
Digital Business & Startupsvor 3 Monaten
10.000 Euro Tickets? Kann man machen – aber nur mit diesem Trick
-
Digital Business & Startupsvor 3 Monaten
80 % günstiger dank KI – Startup vereinfacht Klinikstudien: Pitchdeck hier