Die niederländische Gemeinde Heerlen baut mit fünf Millionen Euro Förderung der Europäischen Union ein KI-gestütztes System auf, das Kriminalität und Störungen der öffentlichen Ordnung vorhersagen soll. Das im letzten Jahr begonnene Projekt heißt „Pulse-Twin“. Noch in diesem Jahr soll eine erste Version fertiggestellt sein, die dann bis zum Frühjahr 2028 erprobt wird.

Vorhersagesoftware für Polizeibehörden wird seit rund zwei Jahrzehnten weltweit erprobt. Bisherige Systeme zielten vor allem auf die Prognose bestimmter Delikte wie Einbrüche oder Diebstähle. Künstliche Intelligenz soll diese Ansätze auf ein neues Niveau heben.

Technische Grundlage ist ein sogenannter digitaler Zwilling – eine kontinuierlich aktualisierte digitale Nachbildung der realen Stadt mit Daten aus sozialen, statistischen und polizeilichen Quellen. Ein Algorithmus verarbeitet diese Informationen und errechnet Wahrscheinlichkeiten für Ordnungsstörungen oder Straftaten. Auf Basis dieser Prognosen sollen Behörden dann „präventiv“ handeln können. Neben der Kriminalitätsvorhersage ist das System laut Projektverantwortlichen auch für Verkehrssteuerung und das Energiemanagement in Gebäuden einsetzbar.

Weltweit erstes Projekt im urbanen Raum

Die EU-Mittel für „Pulse-Twin“ stammen aus dem europäischen COVID-Wiederaufbaufonds. Das Projekt soll nach Angaben seiner Betreiber*innen „urbane Herausforderungen mit datengetriebenen Lösungen“ angehen. Heerlen gilt dabei als erste Stadt der Welt, die ein derartiges System einführt.

Die niederländische Sektion von Amnesty International kritisiert das Projekt: „Bei Systemen, die Belästigungen oder Kriminalität vorhersagen und für die Strafverfolgung durch die Polizei eingesetzt werden, besteht ein großes Risiko des ethnischen Profilings. Amnesty International hofft daher, dass die Gemeinde Heerlen den Einsatz von Pulse-Twin noch einmal überdenkt.“

Hintergrund dieser Warnung ist ein strukturelles Problem algorithmischer Systeme, die auf historischen Polizeidaten basieren: Wurden in der Vergangenheit bestimmte Bevölkerungsgruppen oder Stadtteile unverhältnismäßig stark kontrolliert, bildet das Modell diese Muster ab und reproduziert sie.

Das ist auch die Kritik an Systemen wie Gotham von Palantir, die bereits in vier deutschen Bundesländern eingeführt wurden oder werden. Nach Darstellung von Behörden und dem US-Hersteller kann Gotham aber nicht auf Daten im Internet zugreifen und funktioniert auch nicht nach dem Prinzip des digitalen Zwillings.

Frontex lädt Hersteller zu „Industrietag“

Das Konzept des digitalen Zwillings wird längst auch zur Entscheidungsfindung oder Befehlsführung im militärischen Bereich angewendet. Als virtuelle Repräsentation etwa von Panzern, Flugzeugen oder Truppenverbänden verknüpft die KI Sensordaten, um Einsätze vor dem Auslösen einer Waffe zu simulieren oder Probleme beim Nachschub vorherzusagen. Sie optimiert außerdem militärische Ausbildung und Wartungsbedarfe.

Auch die EU-Grenzagentur Frontex beschäftigt sich mit dem Konzept. Im Rahmen ihres Copernicus-Grenzüberwachungsdienstes arbeitet die Behörde daran, digitale Zwillingsmodelle der EU-Außengrenzen zu entwickeln. Diese sollen Beamt*innen ermöglichen, spezifische Szenarien zu simulieren – etwa irreguläre Grenzübertritte unter verschiedenen Wetterbedingungen.

Frontex will damit Ressourcen gezielter einsetzen sowie die Überwachungstechnik effizienter nutzen. Das System soll geografisch skalierbar sein und unterschiedliche Grenztypen abbilden können, von Flussläufen über Küstenabschnitte bis hin zu Waldgebieten und Gebirgsregionen.

Im vergangenen Juni hat Frontex einen zweitägigen, mit insgesamt 180.000 Euro dotierten Wettbewerb durchgeführt, bei dem die drei Firmen Kondorcad Landsurv aus Rumänien, GMV aus Spanien sowie das Institut für Geodäsie und Kartographie aus Polen „digitale Zwillingslösungen“ für ein Geländegebiet nahe des rumänischen Dubova präsentierten. Für die mögliche Beschaffung digitaler Zwillinge für Grenztruppen in den EU-Mitgliedstaaten hat Frontex im Februar europäische Hersteller zu einem „Industrietag“ eingeladen.

Täglich um die Zeit am Handy streiten, Einstellungen prüfen, den Überblick behalten darüber, was das eigene Kind auf TikTok, Instagram oder YouTube sieht und tut – das sorgt bei vielen Eltern für Stress. Sie treten an gegen mächtige Tech-Konzerne, deren Produkte mit Finesse darauf optimiert sind, möglichst oft und lange die Aufmerksamkeit zu binden. Viele fühlen sich ohnmächtig angesichts dieser Anziehungskraft.

Ein Social-Media-Verbot verspricht da eine scheinbar schnelle Lösung. Statt selbst dem Teenagerkind TikTok zu verbieten und dafür Türenknallen zu kassieren, könnten Eltern einfach auf ein gesetzliches Verbot verweisen.

Zum Schutz von Kindern im Netz und als Entlastung für Eltern drängen gerade viele Politiker*innen international auf ein Social-Media-Verbot für Minderjährige. In Deutschland wollen es der Bundeskanzler und der Vize-Kanzler, ebenso die Ministerinnen für Familie und Justiz: Ein Social-Media-Verbot nach australischem Vorbild. Jungen Menschen bis zu einer festen Altersgrenze sollen dann keine Accounts mehr auf TikTok, YouTube oder Instagram haben dürfen – und auch alle Älteren müssten ihr Alter nachweisen, um dort weiterhin liken, posten oder kommentieren zu dürfen.

Politiker*innen der SPD hatten im Februar ein Forderungspapier veröffentlicht, in dem sie ein umfassendes Verbot sozialer Medien für Kinder bis 14 Jahre verlangten. Für unter 16-Jährige soll es demnach eine entschärfte Jugendversion geben. Die CDU hat sich auf ihrem Parteitag Ende Februar auf ein ähnliches Modell verständigt. Einig ist sich die Bundesregierung aber noch nicht: Wichtige Politiker*innen der CSU sind gegen ein Social-Media-Verbot.

Hört man den Politiker*innen zu, dann soll das gesetzliche Verbot nicht nur junge Menschen schützen, sondern auch Eltern entlasten. Familienministerin Karin Prien (CDU) spricht von einer „enormen Herausforderung“ für Eltern, die das digitale Aufwachsen ihrer Kinder begleiten müssen. „Wir bekommen es auch im Elternhaus nicht mehr reguliert“, sagt auch der Ministerpräsident von Rheinland-Pfalz, Alexander Schweitzer (SPD). Was dabei regelmäßig unter den Tisch fällt: Die im selben Zug geforderten Alterskontrollen für alle, die das Social-Media-Verbot durchsetzen sollen, können Eltern auch belasten.

Der genaue mögliche Ablauf solcher Kontrollen in Deutschland ist nicht bekannt; noch ist nichts beschlossen. Es gibt aber das australische Modell als Vorbild – und es gibt konkrete Konzepte, wie Kontrollen in Deutschland oder der EU aussehen könnten. Einige Methoden von Alterskontrollen gibt es sogar schon jetzt in Deutschland; sie werden bislang allerdings nur für den Zugang zu Pornoseiten genutzt.

Worauf genau müssten sich Eltern also einstellen, wenn ein Social-Media-Verbot und Alterskontrollen in Deutschland real werden? Hierfür haben wir mehrere, wahrscheinliche Szenarien formuliert.

• Szenario 1: Ihr Kinder lässt sein Gesicht scannen
• Szenario 2: Ihr Kind lädt seinen Ausweis hoch
• Szenario 3: Sie schalten Ihr Kind mit Ihrem Account frei
• Szenario 4: Was, wenn Sie keine Papiere haben?
• Szenario 5: Was, wenn Sie keine (minderjährigen) Kinder haben?

Szenario 1: Ihr Kinder lässt sein Gesicht scannen

Stellen wir uns vor, Ihr 15-Jähriges Kind hat bereits Instagram und möchte es nach Einführung der verpflichtenden Altersgrenze weiter nutzen. Nach kurzer Zeit fordert die Plattform Ihr Kind auf, sein Alter zu verifizieren. Dafür bietet die Plattform eine Altersschätzung über einen biometrischen Gesichtsscan.

Ihr Kind muss der App dafür Zugriff auf die Handykamera erlauben und sein Gesicht abfilmen. Die Aufnahme wird von einem Unternehmen ausgewertet, das sich auf solche digitalen Alterskontrollen spezialisiert hat. Dort analysiert ein KI-Modell die biometrischen Daten und gibt eine Schätzung ab, wie alt Ihr Kind wahrscheinlich ist. Auf das Versprechen, dass der Anbieter diese Aufnahmen zügig wieder löscht, müssen Sie sich verlassen.

KI-basierte Alterseinschätzung macht häufig Fehler. Sie kann Menschen als zu alt oder zu jung einschätzen. Stellen wir uns vor, Ihr Kind hat in diesem Fall Pech gehabt: Weil seine Gesichtszüge für die Software zu kindlich aussehen, wird es vom System auf unter 14 Jahre geschätzt. (Stand aktuell ist das Mindestalter für Instagram noch 13 Jahre.) Die Plattform teilt Ihrem Kind mit, dass es seinen Account nicht länger nutzen darf; es kann sich nicht mehr einloggen. Gemeinsam wühlen Sie sich durch Infoseiten, um herauszufinden, wie Sie einer falschen Alterseinschätzung widersprechen können, und eine erneute Prüfung anstoßen.

Biometrische Daten wie jene zu einem Gesicht gelten als besonders sensibel, denn sie bleiben ein Leben lang gleich. Anders als ein Passwort können sie nicht „zurückgesetzt“ werden. Sollte eine Datenbank mit derart sensiblen Daten Sicherheitslücken haben, wie es in der Vergangenheit schon passiert ist, könnten Angreifer*innen die Daten erbeuten und etwa für Betrug oder Identitätsdiebstahl missbrauchen.

Viele Eltern posten vorsichtshalber keine Bilder ihrer Kinder im Internet und wollen auch nicht, dass deren Gesichter biometrisch gescannt werden.

Szenario 2: Ihr Kind lädt seinen Ausweis hoch

Stellen wir uns vor, Ihr Kind, 14 Jahre alt, folgt auf YouTube gerne Influencern und kommentiert dort deren Videos. Auf der Suche nach zu jungen Nutzer*innen analysiert YouTube in Hintergrund das Verhalten Ihres Kindes. Die Plattform prüft möglicherweise, welche Videos Ihr Kind schaut und mit welchen Accounts es interagiert. Dabei kommt YouTube zu dem Schluss, dass Ihr Kind vielleicht doch noch nicht 14 Jahre alt ist. Die Plattform schickt Ihrem Kind deshalb eine Nachricht mit der Aufforderung, sein Alter überprüfen zu lassen.

Wieder landet ihr Kind bei einem Unternehmen, das für digitale Alterskontrollen zuständig ist. Dieses Mal soll es dort ein Ausweisdokument hochladen. Einen eigenen Personalausweis hat ihr Kind noch nicht, aber einen Reisepass. Ihr Kind soll den Pass fotografieren; die Fotos landen dann auf den Servern des Unternehmens. Dort prüft eine Software das Dokument und liest das Geburtsdatum aus. YouTube selbst bekommt den Reisepass nicht zu sehen, sondern nur den Hinweis, dass Ihr Kind über 14 Jahre alt ist.

Staaten sollen Social-Media-Verbote stoppen

Möglicherweise muss Ihr Kind noch beweisen, dass es wirklich den eigenen Ausweis hochgeladen hat. Dafür soll es zusätzlich sein Gesicht vor die Kamera halten, sodass eine Software diese Aufnahme mit dem Gesicht auf dem Passfoto vergleichen kann. Mehrfach bittet die Software Ihr Kind, sein Gesicht aus einem anderen Winkel aufzunehmen. Auf diese Weise prüft die Software, dass Ihr Kind nicht bloß das Foto einer anderen Person präsentiert. Der Prozess, den Ihr Kind dabei durchläuft, heißt Lebenderkennung. Auch hier kommt sogenannte KI zum Einsatz.

Sie und Ihr Kind müssen sich nun darauf verlassen, dass der Drittanbieter die Daten Ihres Kindes und die Fotos seines Reisepasses wieder löscht. Im Herbst musste etwa die Team-Software Discord eingestehen: Ausweisdaten von rund 70.000 Menschen, die über einen Drittanbieter ihr Alter verifizieren ließen, sind einem Leak zum Opfer gefallen.

Szenario 3: Sie schalten Ihr Kind mit Ihrem Account frei

Ihr 15-Jähriger will endlich einen eigenen TikTok-Account, um dort Creator*innen zu folgen und Videos von Freund*innen zu kommentieren. Stellen wir uns vor, für diese Altersgruppe zwischen 14 und 16 Jahren gibt es eine verpflichtende Jugendversion, wie es Politiker*innen der SPD vorgeschlagen haben. In dieser Version darf es keinen personalisierten, optimierten Feed geben. Auch Funktionen wie endloses Scrollen gäbe es nicht. Außerdem gilt: „Der Zugang erfolgt ausschließlich nach Verifizierung durch die Erziehungsberechtigten über deren EUDI-Wallet.“

Diese europäische digitale Brieftasche soll bald allen EU-Bürger*innen zu Verfügung stehen. Sie können damit ihren Führerschein und Personalausweis auf dem Handy speichern oder ihr Alter im Internet nachweisen. In Deutschland soll eine erste Version Anfang 2027 eingeführt werden.

Als Elternteil sind sie jetzt in der Verantwortung nachzuweisen, dass ihr Kind bereits 14 ist und ein Konto auf der Plattform eröffnen darf. Dazu müssen sie sich allerdings zunächst selbst die App herunterladen und einen TikTok-Account anlegen. Dabei geben sie TikTok unter anderem Ihre E-Mail-Adresse und Telefonnummer preis, sowie möglicherweise Standortdaten und viele weitere Eckdaten über Ihr Handy.

Als nächstes müssen Sie TikTok mithilfe Ihrer staatlichen Ausweis-App beweisen, dass zumindest Sie schon erwachsen sind. Danach können Sie das Konto Ihres Kindes mit Ihrem eigenen Konto verknüpfen und dafür bürgen, dass es bereits über 14 Jahre alt sind. Möglicherweise möchte die Plattform noch prüfen, dass Sie wirklich erziehungsberechtigt sind und nicht einfach nur der große Bruder – wie das technisch funktionieren soll, ist bislang nicht geklärt. Ist Ihr Konto mit dem Ihres Kindes verbunden, können Sie künftig auch den Überblick über die Einstellungen und Bildschirmzeiten Ihres Kindes behalten.

Einen „begleiteten Modus“ für Accounts von Minderjährigen bietet TikTok bereits heute an. Eltern die ihn nutzen wollen, brauchen dazu auch jetzt schon einen eigenen TikTok-Account. Allerdings müssen Eltern bislang nicht beweisen, dass sie bereits erwachsen sind.

Szenario 4: Was, wenn Sie keine Papiere haben?

Die geplante digitale Brieftasche (EUDI-Wallet) ist für EU-Bürger*innen gedacht sowie für Menschen, die in der EU leben. Wer künftig sein Alter mit der digitalen Brieftasche nachweisen will, muss dafür wahrscheinlich eine App herunterladen und dort die eigenen Ausweisdaten hinterlegen. Stellen wir uns vor, Sie gehören zu den schätzungsweise Hunderttausenden Menschen in Deutschland, die schlicht keine oder keine passenden Ausweispapiere besitzen. Oder Sie haben kein Smartphone – oder finden es schlicht unangenehm, Ihre Ausweisdaten einer App auf dem Handy anzuvertrauen.

In beiden Fällen könnten weder Sie noch Ihr Kind die Alterskontrollen zu Facebook, Instagram oder YouTube auf die Weise überwinden, die viele andere nutzen. Sie können sich jedoch auf ein Recht berufen, dass die EU in der Verordnung für die digitale Brieftasche vorgesehen hat: Die Nutzung der Brieftasche muss demnach freiwillig sein. Es braucht also Alternativen. Möglicherweise bleibt ihnen also noch die Möglichkeit, Ihr Alter mit einem Gesichtsscan schätzen zu lassen.

Vielleicht ist das KI-Scan für Sie kein Problem und funktioniert einwandfrei. Vielleicht gehören Sie aber auch zu einer Gruppe von Personen, deren Alter von KI-Systemen überdurchschnittlich häufig falsch eingeschätzt wird. Denn KI-Systeme sind oftmals auf Gesichter von weißen Männern optimiert.

Szenario 5: Was, wenn Sie keine (minderjährigen) Kinder haben?

Stellen wir uns vor, Sie haben keine Kinder, oder Ihre Kinder sind schon längst erwachsen. Müssen Sie sich dann überhaupt mit Alterskontrollen herumschlagen? – Ja.

In der Debatte spielt das bislang nur eine Nebenrolle: Kommt ein Social-Media-Verbot mit Alterskontrollen, werden nicht nur Kinder und Jugendliche ihr Alter nachweisen müssen, damit sie Zutritt zu Plattformen bekommen, sondern alle.

Sie wollen ein Brettspiel-Video auf YouTube kommentieren; einer Köchin auf Instagram folgen? Möglicherweise bezweifelt die Plattform, ob sie bereits erwachsen sind, und bittet sie per Pop-up um einen Altersnachweis. Dann haben Sie wiederum die Wahl, ob Sie Ihr Gesicht biometrisch scannen lassen, Ihre digitale Brieftasche verwenden oder Ihre Ausweispapiere bei einem Anbieter hochladen wollen.

Alterskontrollen in Deutschland: So geht es jetzt weiter

Derzeit arbeitet eine von Bundesfamilienministerin Karin Prien eingesetzte Expert*innen-Kommission an Vorschlägen für einen effektiven Schutz von Kindern und Jugendlichen im Netz. Ergebnisse sollen es noch vor der parlamentarischen Sommerpause geben. Parallel arbeitet eine ähnliche Kommission auf EU-Ebene am gleichen Thema.

Sowohl SPD als auch CDU drängen auf eine EU-weite Lösung für ein Social-Media-Verbot. Sollte die EU jedoch bis Sommer „keine ausreichenden Fortschritte“ erzielen, hält Prien auch einen deutschen Alleingang für möglich. Die rechtlichen Spielräume für beide Vorhaben sind jedoch schmal.

Auf EU-Ebene gibt es derzeit keine Pflicht für Plattformen, das Alter ihrer Nutzer*innen zu überprüfen oder Kinder auszusperren. Es gelten lediglich Auflagen, die Risiken für Minderjährige auf den Plattformen zu mindern– im Rahmen des Gesetzes für digitale Dienste (DSA).

Kaum beachtet von der breiten Öffentlichkeit verhandeln Kommission, Parlament und Mitgliedstaaten zudem über ein neues Gesetz, das Alterskontrollen in der EU zur Pflicht machen könnte. Anlass ist die Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern, kurz: CSA-VO. Demnach sollen Anbieter mit Chatfunktion flächendeckende Alterskontrollen einführen, um minderjährige Nutzer*innen etwa vor Grooming zu schützen, also die Anbahnung sexuellen Kontakts durch Erwachsene. Entschieden ist jedoch nichts: Während sich Kommission und Rat für solche Kontrollen einsetzen, ist das Parlament dagegen.

Viele Elternverbände in Deutschland haben Bedenken, dass Daten junger Menschen bei Alterskontrollen nicht ausreichend geschützt werden. Hier geht es zu unserem Bericht: Elternverbände sehen Daten von Kindern in Gefahr.

Einkaufen mit Hilfe von Künstlicher Intelligenz: Der Kreditkartenanbieter Visa will mit Banken und Händlern die Abwicklung von Zahlungen, die durch KI-Agenten initiiert werden, unter realistischen Bedingungen testen. Im ersten Schritt seien unter anderem Commerzbank und DZ Bank dabei, teilte Visa in Frankfurt mit.

Sogenannter Agentischer Handel wird nach Einschätzung der Partner maßgeblich verändern, wie Menschen bezahlen. Dabei recherchieren KI-Agenten im Namen von Verbrauchern oder Unternehmen, verhandeln und schließen Käufe ab, oft ohne direkte menschliche Intervention.

„Im Unternehmen der Zukunft könnten verschiedene Agenten bis zu einer festgelegten Rechnungshöhe eigenständig Büromaterial einkaufen, Ausschreibungen anstoßen und Preisverhandlungen übernehmen“, schrieb der Leiter Firmenkunden von Visa Zentraleuropa, Oliver Scharf, im Januar in einem Gastbeitrag für das Handelsblatt.

Weltweites Angebot wird schrittweise eingeführt

Visa will sein Programm „Visa Agentic Ready“ nach dem Start in Europa schrittweise weltweit einführen. In der ersten Phase liege der Schwerpunkt darauf, zu validieren, dass von KI-Agenten initiierte Zahlungen in realen Umgebungen von kartenausgebenden Banken sicher und im großen Maßstab funktionierten, erläuterte das Unternehmen.

„Mit zunehmender Automatisierung des Einkaufserlebnisses stellt dieser Ansatz sicher, dass KI-Agenten im Auftrag der Menschen handeln können – bei voller Kontrolle durch die Nutzerinnen und Nutzer“, schreibt Visa.

Traditionelle Zahlungsabwickler wie die Kreditkartenfirmen Visa und Mastercard stehen in einem neuen Wettbewerb mit Start-ups wie Stripe, die sich ebenfalls um das Thema Einkaufen mit KI kümmern.

(dmk)