Wenige Monate vor Inkrafttreten des Social-Media-Verbots für unter 16-Jährige in Australien nährt ein von der Regierung in Auftrag gegebener Bericht Zweifel an der technischen Umsetzbarkeit. Untersucht wurde dabei unter anderem, ob Softwarelösungen der Anbieter mithilfe eines Selfie-Fotos das Alter der Nutzer korrekt erkennen können. Während für Menschen über 19 Jahren eine recht zuverlässige Erkennung von über 95 Prozent gewährleistet werden konnte, gibt es rund um die Altersgrenze von 16 Jahren offenbar eine Grauzone. Besonders seien davon junge Frauen und Menschen mit einer nicht-weißen Hautfarbe betroffen, heißt es.

Laut Bericht wurden 59 Prozent der 14-Jährigen von der Technik fälschlich für über 16 befunden. Selbst bei den 13-Jährigen waren es immer noch 38,3 Prozent. Bei Frauen und Menschen indigener Bevölkerungsgruppen seien die Fehlerkennungen noch höher gewesen. Bei letztgenannter Gruppe wird dies darauf zurückgeführt, dass möglicherweise zu wenige Trainingsdaten in die KI eingeflossen sind. Für die Altersgruppen mit geringer Genauigkeit bei der Erkennung wird diskutiert, zusätzlich eine Altersprüfung per Ausweis oder Bestätigung durch die Eltern vorzunehmen. Hier wäre der Aufwand aber deutlich höher.

Insgesamt wurden 60 Erkennungsmethoden von 48 Anbietern genauer in Augenschein genommen. Die Spanne der Methoden reichte von Altersverifikation per Prüfung von Unterlagen über Gesichts- und bewegungsbasierte Altersschätzung bis hin zu Rückschlüssen auf das Alter auf Basis vorhandener Informationen.

Regierung zeigt sich zufrieden

Die Alterserkennung per Selfie ist aus Sicht der australischen Regierung eine schnelle, zuverlässige und datenschutzfreundliche Methode, um das im Dezember in Kraft tretende Verbot durchzusetzen. Unternehmen wie Meta und Alphabet müssen dann den Nachweis antreten, dass sie ernsthafte Anstrengungen zur Altersprüfung unternehmen. Andernfalls drohen ihnen Bußgelder in zweistelliger Millionenhöhe.

Der mehrteilige Regierungsbericht untersuchte auch die Möglichkeit, Alterskontrollen nicht nur in einzelnen Apps, sondern im gesamten digitalen System einzubauen. Statt dass jede Website oder App selbst prüft, wie alt ein Nutzer ist, könnten diese Kontrollen bereits auf dem Smartphone, im App-Store, beim Internetanbieter oder an anderen Stellen im System greifen. Große Firmen wie Meta und Snap schlagen vor, dass Apple und Google die Altersverifikation zentral übernehmen und diese Information dann sicher an Apps weitergeben sollten.

Expertin nennt Bericht „besorgniserregend“

Der Bericht zeigt jedoch, dass diese Ideen noch nicht ausgereift sind. Viele Technologien existieren nur als Konzepte und wurden noch nicht richtig getestet. Außerdem gibt es rechtliche Probleme: Wer ist verantwortlich, wenn das System versagt? Wie schützt man die Privatsphäre von Kindern? Und wie verhindert man, dass Jugendliche die Kontrollen einfach umgehen, etwa durch VPN-Software? Während der Bericht grundsätzlich optimistisch ist, dass solche systemweiten Lösungen möglich sind, warnt er auch, dass es noch ein weiter Weg ist, bis sie voll einsatzfähig sind.

Die Meinungen darüber, ob das Social-Media-Verbot wirklich zum Jahresende umsetzbar ist, gehen nach dem Bericht auseinander. Australiens Kommunikationsministerin Anika Wells sagte laut der US-Nachrichtenagentur Reuters, dass es zwar keine Einheitslösung zur Altersprüfung gebe, aber dennoch viele effektive Möglichkeiten. Justine Humphry, eine Medienforscherin an der Universität Sydney, die sich auf Online-Sicherheit spezialisiert hat, nannte die Erkenntnisse des Berichts „besorgniserregend“.

(mki)

Meta arbeitet daran, die Sicherheitsvorkehrungen zu verbessern, die vor allem Kinder und Jugendliche schützen sollen. Das soll schon direkt beim Training der KI-Modelle beginnen. Hintergrund sind Vorkommnisse mit fehlgeleiteten Chatbots und ein Leak zu den Richtlinien, die auf wenig Anklang stießen.

KI-Modelle werden bei Meta künftig so trainiert, nicht mit Jugendlichen im Austausch zu bleiben, wenn es um Selbstverletzungen, Suizid, Essstörungen und unangemessene romantische Gespräche geht. Das heißt nicht, die Trainingsdaten können entsprechend darauf ausgelegt sein, im nachgelagerten Training jedoch können den KI-Modellen bereits solche Reaktionen antrainiert werden. Künftige Modelle sollen laut einer Meta-Sprecherin von vornherein robuster sein.

Zunächst arbeite man an zwischenzeitlichen Änderungen bestehender Modelle. Meta sagt, man verstehe, dass die bisherigen Regeln ein Fehler waren. So war es Jugendlichen erlaubt, romantische Gespräche mit KI-Chatbots zu führen, erst die Beschreibung sexueller Handlungen führte zum Ende des Gesprächs in dieser Form. Das solle nun schneller passieren, die Leitplanken werden angepasst.

Manche KI-Charaktere sollen zudem für Jugendliche gar nicht mehr verfügbar gemacht werden, stattdessen wird der Zugang auf KI-Personas begrenzt, bei denen es um Bildung und Kreativität geht. Bei Meta können private Nutzer Charaktere erstellen und diese veröffentlichen. TechCrunch schreibt, es habe beispielsweise eher unangebrachte Chatbots mit dem Titel „Stiefmutter“ und „Russisches Mädchen“ gegeben.

Untersuchungen gegen KI-Anbieter

In den USA gibt es bereits eine Untersuchung gegen Meta. Der texanische Generalstaatsanwalt sorgt sich, Meta AI schade Heranwachsenden. Er geht zudem davon aus, Meta sage hinsichtlich der Datensammelei nicht die Wahrheit. Im Fokus steht Meta AI direkt, also der grundsätzliche Chatbot, der keiner bestimmten Persönlichkeit entspricht. Er soll unter anderem gefährliche Gesundheitstipps geben. Dieser Vorwurf trifft allerdings auch auf andere Chatbots zu. Die Untersuchung richtet sich konkret etwa gegen Character AI.

Zuletzt hat Reuters KI-Charaktere gefunden, die bekannten Persönlichkeiten entsprachen – etwa Taylor Swift und Anne Hathaway. Auch sie sollen zum Teil unangemessene Inhalte ausgegeben haben. Ein Meta-Sprecher soll gesagt haben, dass diese Vorfälle nicht hätten passieren dürfen. Er hat demnach allerdings auch gesagt, dass KI-Kopien von Prominenten erlaubt seien, es sich dabei um Parodien handeln muss, die auch gekennzeichnet werden. Auch hier sei erwähnt, dass andere Anbieter solche Chats ebenfalls erlauben und vor ähnlichen Problemen stehen.

(emw)

Der IT Summit 2025 stellt die digitale Souveränität ins Zentrum. Renommierte Speaker aus Wirtschaft, Wissenschaft und Politik zeigen wie Unternehmen und Behörden Abhängigkeiten bei Cloud, KI, IT-Security und Software reduzieren, um ihre IT resilienter und verlässlicher aufzustellen. Die zweitägige Konferenz findet am 11. und 12. November im Nemetschek Haus in München statt. Sie richtet sich an IT-Verantwortliche, die bewusst entscheiden wollen, wo sie Abhängigkeiten eingehen und wo sie ihre IT unabhängiger aufstellen wollen Das Programm kommt aus der iX-Redaktion und liefert praxisnahe Fallstudien, fundierte Technikimpulse und eine strategische Einordnung.

Im Fokus stehen konkrete Wege, wie europäische Cloud-Hoster die Abhängigkeit von US-Hyperscalern verminden, wie KI lokal betrieben wird, sodass sensible Daten das Unternehmen nicht verlassen, und warum Open Source als Hebel für Unabhängigkeit wirkt. Ergänzend adressiert das Programm selbstverwaltete Identitäten als Schlüssel für IT-Sicherheit und Souveränität sowie Maßnahmen, mit denen Organisationen ihre Abhängigkeiten systematisch abbauen können. Mehrere Vorträge präsentieren Fallstudien aus der Praxs und zeigen wie Unternehmen die Transformation tatsächlich umgesetzt haben. Den zweiten Tag eröffnet ein Impulsvortrag von Digitalminister Karsten Wildberger.

Zu den spannenden Praxisbeiträgen zählen die Cloud-Strategie von Commerz Real: IT-Chef Nikolaus Schmidt erläutert, warum das Unternehmen auf eine hybride Cloud setzt und Workloads von einem US-Hyperscaler zu einem europäischen Anbieter migriert hat. Aus dem Finanzsektor berichtet Marcus Schröter (Generalbevollmächtigter Finanz Informatik), wie eine lokal betriebene KI für Sparkassenberater funktioniert. Frank Benke von der HAHN Automation Group skizziert die Open-Source-Strategie eines global aufgestellten Mittelständlers – von zentralen Serveranwendungen bis zum Desktop – und beschreibt deren Effekte auf Unabhängigkeit und Betriebsstabilität.

Rahmen und Anspruch des IT Summit by heise 2025 sind klar: In Zeiten geopolitischer Spannungen und wachsender digitaler Abhängigkeiten will die Konferenz Wege zur belastbaren, zukunftssicheren IT aufzeigen – von Architekturentscheidungen über Plattformauswahl bis zur organisatorischen Verankerung. Das vollständige Programm ist online verfügbar; es sind noch Early-Bird-Tickets erhältlich.