Der Vorwurf, der aus Kreisen der Politik und von Nutzern erhoben wurde, wog schwer: Fassen Apple und Google die Apps von finanz- und reichweitenstarken Unternehmen selbst bei eklatanten Verstößen gegen die App-Store-Regeln mit Samthandschuhen an? Dieser Verdacht ist in der Vergangenheit schon mit Blick auf die Apps von Meta laut geworden. Als jedoch bekannt wurde, dass das KI-Modell Grok uneinvernehmlich erstellte Deepfake-Nacktbilder von Frauen und mutmaßlich auch von Kindern ermöglichte, schüttelten Kritiker nur noch mit dem Kopf. Wieso duldeten Apple und Google dies?

In einem nicht öffentlichen Brief an US-Senatoren, der jetzt durch NBC News veröffentlicht wurde, tritt Apple dem Eindruck entgegen, dass das Unternehmen untätig geblieben sei. Sowohl xAI als Herausgeber der KI Grok als auch X als soziales Netzwerk, das Grok integriert, seien nach Beschwerden und Medienberichten kontaktiert worden. Auch habe Apple Verstöße gegen die Richtlinien festgestellt und den Firmen ein Ultimatum gestellt. Nur wenn sie ein Maßnahmenpaket zur Verbesserung der Content-Moderation umsetzen, bleibe ihnen der Rauswurf erspart. Auf politischer Ebene wird bereits über ein Verbot von KI-Systemen für Deepfakes ohne Zustimmung diskutiert.

Grok angeblich kurz vor Rauswurf

X und xAI haben zwischenzeitlich reagiert und das Erstellen von Deepfakes erschwert. Laut NBC News sollen die Schutzmechanismen weiterhin umgehbar sein. Veröffentlichungen in einem Ausmaß von vor einigen Monaten waren zuletzt aber nicht mehr festzustellen. xAI habe Apple unter anderem Einschränkungen der Bildbearbeitungsfunktionen und stärkere Zugriffsbeschränkungen versprochen.

Laut dem Bericht soll Grok auch tatsächlich kurz vor dem Rauswurf gestanden haben. Während bei X rasch nachgebessert wurde, habe sich der Entwickler der Grok-App Zeit gelassen. In der Öffentlichkeit war von alledem freilich nichts zu bemerken: Apple äußerte sich öffentlich zu den Vorgängen nicht. Kritiker beharren indessen darauf, dass der iPhone-Hersteller im Falle eines Einzelentwicklers oder Start-ups die Regeln konsequenter durchsetzen würde. Erst kürzlich wurde bekannt, dass Apple Updates für Vibe-Coding-Apps blockiert, weil diese gegen technische Richtlinien verstießen.

(mki)

Die Zeit der unverbindlichen Appelle an große Tech-Konzerne scheint in Brüssel vorbei zu sein. In einer gemeinsamen Erklärung haben EU-Kommissionspräsidentin Ursula von der Leyen (CDU) und die für die Tech-Souveränität zuständige Vizepräsidentin Henna Virkkunen am Mittwoch den Startschuss für eine neue Ära des digitalen Jugendschutzes gegeben. Kern der Offensive ist eine europaweite, von mehreren Staaten bereits getestete App zur Altersverifikation, die laut von der Leyen nun technisch bereit ist und in Kürze den Bürgern zur Verfügung stehen werde.

Damit reagiert die Kommission auf die Sorge über Risiken wie Online-Mobbing, Suchtfaktoren durch algorithmisches Design und Cyber-Grooming, also das Heranpirschen an Kinder und Jugendliche übers Netz. Die Diagnose der Kommissionschefin fällt düster aus: Jedes sechste Kind werde online gemobbt. Soziale Medien förderten ferner durch unendliches Scrollen Abhängigkeiten, die die Gehirnentwicklung beeinträchtigen könnten.

Da Plattformen bisher keine wirksamen Mechanismen vorweisen konnten, um Minderjährige vor schädlichen Inhalten zu schützen, greift die EU zur Selbsthilfe. Die neue App soll es Nutzern ermöglichen, ihr Alter gegenüber Online-Diensten nachzuweisen, ohne dabei die gesamte digitale Identität preiszugeben.

Datenschutz nach höchstem Standard

Technisch orientiert sich das Projekt am digitalen Covid-Zertifikat. Wie beim Pandemie-Begleiter setzt die Kommission auf ein Modell, das auf Smartphones, Tablets und Computern funktioniert. Nach dem Download wird die App einmalig mit einem Ausweisdokument eingerichtet. Ein besonderes Augenmerk liegt auf der Privatsphäre. Von der Leyen betonte: Die Anwendung erfülle „die weltweit höchsten Datenschutzstandards“. Das Alter werde nachgewiesen, ohne weitere persönliche Informationen preiszugeben. Die App sei „vollkommen anonym – Nutzer können nicht zurückverfolgt werden.“

Die Anwendung basiert auf dem Zero-Knowledge-Proof. Dieses kryptografische Prinzip ermöglicht es, die Korrektheit einer Information – hier das Erreichen eines bestimmten Alters – zu beweisen, ohne die zugrunde liegenden Daten selbst zu offenbaren. Das soll die informationelle Selbstbestimmung wahren. Plattformen erhalten lediglich die Bestätigung „alt genug“, ohne den Ausweis scannen zu müssen. Österreichs Alterskontrolle baut bereits auf diesem Verfahren auf.

Durchsetzung des DSA und EU-Schulterschluss

Der Vorstoß ist eng mit der Durchsetzung des Digital Services Act (DSA) verknüpft. Virkkunen machte deutlich, dass die Kommission gegen Unternehmen wie TikTok, Facebook oder Instagram bereits wegen suchterzeugender Designs vorgehe. Auch gegen pornografische Plattformen seien Maßnahmen eingeleitet worden, da diese oft keine funktionierenden Alterskontrollen verwendeten. Die neue Anwendung entzieht den Konzernen nun die Ausrede, es gäbe keine einfache technische Lösung.

Länder wie Frankreich, Italien und Irland gelten als Vorreiter und planen, die App in ihre nationalen digitalen Brieftaschen zu integrieren. Um einen Flickenteppich zu vermeiden, will Virkkunen noch diesen Monat einen EU-weiten Koordinierungsmechanismus für die Akkreditierung nationaler Lösungen schaffen. Der Quellcode der App ist im Rahmen der digitalen Bürgeridentität EUDI offen zugänglich, um Vertrauen zu schaffen und die Einbindung etwa auch in Firmenlösungen zu erleichtern. Hierzulande soll zunächst ein Expertengremium Empfehlungen für die Sicherheit von Kindern im Netz erarbeiten.

(mki)

Die diesjährige Bitkom-Bildungskonferenz geht von Anfang an hart mit dem aktuellen Status des deutschen Bildungssystems ins Gericht. Bitkom-Präsident Dr. Ralf Wintergerst stellte klar, dass das aktuelle Bildungssystem nicht mehr dem Wohlstandserhalt Deutschlands dient. Davon kündeten etwa die mittlerweile chronisch enttäuschenden PISA-Ergebnisse. Wichtig sei deshalb das Zusammenbringen von „Innovationen und Verantwortung“.

Drei Punkte für einen Kurswechsel in der Bildung stellte er besonders heraus. Die Ausstattung der Schulen müsse verbessert beziehungsweise an die heutige Zeit angepasst werden. Zudem solle Künstliche Intelligenz in der Schule vermittelt und genutzt werden. Und die Vermittlung von Medienkompetenz in Bildungseinrichtungen sei besonders wichtig. Um das hinzubekommen, müsse Deutschland allerdings auch an seinem Tempo arbeiten. Veränderungen würden zwar angestoßen, andere Länder seien aber schlicht schneller als die Bundesrepublik.

Einigkeit, ungleiches Recht und …

Dass der Bitkom dies nicht allein so sieht, unterstrich schon das erste Panel des Tages. Bedeutungsschwanger fragte der Titel: „Digitales in der Krise? Bildungspolitik neu denken“. Wie im Bildungskontext üblich wurden die Beteiligten zu Beginn um eine Benotung des aktuellen Bildungssystems gebeten. Prof. Dr. Samuel Greiff vom Zentrum für internationale Bildungsvergleichsstudien, Prof. Dr. Susanne Lin-Klitzing, Bundesvorsitzende des Deutschen Philologenverbands, und Katharina Günther-Wünsch (CDU), Senatorin für Bildung, Jugend und Familie des Landes Berlin, konnten sich mit nur teils stark verkniffenen Mienen Abstufungen der Note „befriedigend“ abringen lassen. Amy Kirchhoff von der Bundesschülerkonferenz zog das Pflaster hingegen rasch ab und verteilte gerade so 6 Punkte – eine 4+ (ausreichend). Der Moderator fasste dies mit einer großen Portion Galgenhumor zusammen: Das System ist (offenbar) so schlecht, dass wenigstens noch Verbesserungen möglich sind. Das ist ein bisschen so, als würde man sagen: Ruinen nehmen uns einen Großteil der Abrissarbeiten ab und der Neuaufbau wird durch die kleine Zahl der noch heilen Gebäude, die wir berücksichtigen sollten, gleich viel einfacher. So einfach ist es dann aber doch nicht.

Einig sind sich Bitkom und die ersten Geladenen, dass die datengestützte Schulentwicklung – etwa bekannt aus Kanada – ein Schritt in die richtige Richtung sein könnte. Nötig seien dafür auch Schüler-IDs, um Bildungsverläufe richtig verstehen und bessern zu können. Das Curriculum müsste auch auf den Prüfstand, um Platz für Modernes zu machen. Lehrkräfte müssten entsprechende Fortbildungen genießen, damit es nicht zu Kirchhoffs anschaulichem Beispiel kommt, dass es zwar nun Notebooks in den Schulen gibt, Lehrkräfte diese aber nicht benutzen können. Am Datenschutz könne auch geschraubt, zumindest das System „One for all“ etabliert werden (ein Bundesland prüft, andere übernehmen). Diese Forderungen sind nicht neu, aber aufgrund langsamer Transformationsgeschwindigkeit bleiben sie auf der To-do-Liste.

Die Kritik am Grundsätzlichen wurde mit viel Nachdruck vorgebracht: Deutschland packe die Digitalisierung im Schulsystem immer noch falsch an. Symptome dieser Denke seien der DigitalPakt Schule (I) und der neue DigitalPakt (2.0). Statt Digitalisierung systematisch in das Bildungssystem zu integrieren und auch die Infrastruktur und Pflege dauerhaft zu finanzieren, werde immer noch projektbezogen und mit zeitlich limitierten Geldtöpfen hantiert. Deren Fülle und Ausgestaltung landen dadurch immer schon nach kurzer Zeit auf den Verhandlungstischen und werden je nach Weltlage und Bund-Landesbefinden konstruiert. Stetigkeit und Verstetigung sind hier die gesuchten Schlüsselwörter. Um in Bildern des Systems zu bleiben: Ein modernes Schulsystem behandelt Digitalität nicht nur wie eine Schul-AG am Nachmittag. Digitalität mit all ihren Implikationen gehört in die Schulentwicklung und -ausstattung sowie ins Curriculum und braucht feste Haushaltsposten.

Die Bitkom-Bildungskonferenz findet am 15. und 16. April 2026 statt und kann online verfolgt werden.

(kbe)