Großbritannien will auf Kinderhandys alle Bilder für Nacktbild-Blockade scannen

Großbritannien will verhindern, dass Minderjährige auf ihren Smartphones und Tablets Nacktbilder aufnehmen, speichern, teilen oder ansehen können. Premierminister Keir Starmer stellte die Pläne diese Woche auf der London Tech Week vor und gab Betriebssystemanbietern wie Apple und Google ein Ultimatum von drei Monaten, um entsprechende Schutzmechanismen geräteübergreifend zu aktivieren. Datenschützer sind alarmiert – sowohl wegen der Umgehung von Ende-zu-Ende-Verschlüsselungen, die das bedeuten könnte, als auch weil für eine Altersverifikation in der Regel eine ID und damit Klarnamen notwendig sind.

Wie die britische Regierung in ihrer Ankündigung erläutert, sollen die Unternehmen „eingebaute Funktionen oder technische Lösungen“ bereitstellen, die Nacktinhalte auf Kindergeräten systemweit erkennen und blockieren – in Kamera-App und Galerie, aber auch in Apps von Drittanbietern wie Messengern und Browsern. Erwachsene sollen nach einer Altersverifikation weiterhin uneingeschränkten Zugang haben. Falls die Konzerne nicht freiwillig handeln, droht die Regierung mit einer entsprechenden Gesetzgebung, die sie zwingen soll.

On-Device-KI statt Cloudscan

Konkrete technische Vorgaben macht die Regierung bewusst nicht, verlangt aber, dass die Maßnahmen „ohne Gefährdung der Privatsphäre oder Erhebung von Daten“ funktionieren müssen. Das schränkt die Möglichkeiten sehr ein. Ein On-Device-Machine-Learning wäre möglich: Lokal auf dem Gerät eingebettete KI-Modelle analysieren Bilddaten im Arbeitsspeicher, klassifizieren Inhalte anhand von Pixelmustern, Hautanteilen und Körperposen und liefern dem Betriebssystem lediglich eine Entscheidung – blockieren oder durchlassen. Weder Rohbilder noch Feature-Vektoren müssten dabei das Gerät verlassen.

Technisch würde eine solche geräteweite Nackterkennung vor der Ende-zu-Ende-Verschlüsselung greifen. Die Integrität von E2E bliebe damit formal unangetastet. Doch Kritiker warnen, dass einmal etablierte On-Device-Scanning-Infrastrukturen politisch leicht auf weitere Inhaltskategorien ausgeweitet werden könnten – etwa auf „Extremismus“, Urheberrechtsverletzungen oder politische Inhalte. Dieselben Modelle ließen sich theoretisch auch in Ende-zu-Ende-verschlüsselten Apps einsetzen, bevor Nachrichten verschlüsselt werden.

Reaktionen und internationaler Kontext

Der britische Vorstoß reiht sich in eine internationale Entwicklung ein: Erst Ende Mai hatten sich die G7-Digitalminister in Paris auf sieben Kernprinzipien für besseren Jugendschutz im Netz geeinigt und einen „Safety by Design“-Ansatz gefordert, bei dem Dienste von vornherein so gestaltet werden, dass sie Minderjährige schützen. Auch in der EU schwelt die Debatte um Client-Side-Scanning seit den umstrittenen Vorschlägen zur sogenannten Chatkontrolle weiter. Dort haben Bürgerrechtsorganisationen, Datenschutzaufsichtsbehörden und Kryptografen wiederholt vor einem faktischen Verbot sicherer Ende-zu-Ende-Verschlüsselung gewarnt – eine Diskussion, die mit den britischen Plänen neue Nahrung bekommt.

(rie)