Eine Recherche der britischen Rundfunkanstalt BBC bringt schockierende Versäumnisse bei der Bekämpfung von Darstellungen sexualisierter Gewalt gegen Kinder auf Instagram ans Licht: Instagram-Betreiber Meta geht offenbar nur beschränkt gegen solche Werbung auf der Plattform vor, die Nutzer an indischsprachige Telegram-Gruppen für den Handel mit solchen Bildern weiterleitet. Meta streitet seine Untätigkeit ab, während einer der höchsten ehemaligen Richter Indiens die Justiz dringend gefordert sieht.

Mit einem Konstrukt aus mehreren Accounts, die sexualisierten Content von erwachsenen Frauen enthielten, gelang es BBC-Journalisten, den Instagram-Algorithmus zum Ausspielen offensichtlich indischer pornografischer Inhalte zu bringen. Letztere zu verbreiten, ist in Indien schon per se illegal – unabhängig davon, ob es sich dabei um Minderjährige handelt oder nicht. Doch die Recherche offenbarte noch schlimmeres: Unter den Bedingungen zeigte der Algorithmus wiederholt Szenen sexualisierter Gewalt gegen Kinder, sexualisierte Inhalte mit Kindern oder Kinder, die unter Tränen von gerade gemachten Missbrauchserfahrungen berichten – kombiniert mit dem Aufruf an die Nutzer: Hier klicken für mehr!

Links auf Marktplätze für Missbrauchsdarstellungen

Ein entsprechender Link führte laut BBC zu einer Telegram-Gruppe, in der die angepriesenen Videos dann zu niedrigen Preisen angeboten wurden – teilweise für 99 indische Rupien (rund 90 Euro-Cent). Die BBC berichtet von insgesamt 30 solcher oder ähnlicher Fälle. 20 weitere Werbungen für Erwachsenen-Pornografie konnten die Journalisten ausmachen. Im einem näher beschriebenen Fall wendeten sich die Journalisten mit ihren Erkenntnissen an Meta. Der Konzern antwortete innerhalb von 24 Stunden und erklärte, dass der besagte Inhalt nicht entfernt wurde, weil keine Verletzung der Community-Richtlinien erkennbar sei. Bei einem anderen Fall antwortete Meta nach demselben Muster. Das verwundert vor allem, weil Metas Richtlinien für Werbetreibende das Zeigen von Nacktheit, Geschlechtsorganen und Kindesmissbrauch verbieten. Auch an Telegram meldete die BBC die entsprechenden Gruppen hinter den Instagram-Werbungen. Während Telegram sie zumeist entfernte, war eine Gruppe auch einige Zeit später noch aktiv.

Meta überprüft die Inhalte seiner Werbekunden in der Regel automatisiert. Die Prüfung umfasst verwendete Bilder, Videos, Text und Tonspuren sowie Links. Hier scheint das System nicht gegriffen zu haben. In einer Stellungnahme gegenüber der BBC räumt Meta später ein: „Kein System ist perfekt und es ist möglich, dass Verstöße von unseren Prüfungsprozessen unerkannt bleiben.“ Erkannte Fälle von Kindesmissbrauch würden an das National Center for Missing and Exploited Children (NCMEC), eine US-Einrichtung zur Bekämpfung von Kindesmissbrauch, gemeldet.

Meta macht Kasse mit problematischer Werbung

Madan Lokur ist ehemaliger Richter an Indiens oberstem Gerichtshof. Er befürchtet, dass Meta nach den Maßstäben des indischen Gesetzes bereits kriminelle Aktivitäten mit den Praktiken bei sexuellen Werbeinhalten verfolgt, um damit Geld zu verdienen. Das geht aus seiner Sicht soweit, dass das die Justiz nach dem Grundsatz „suo moto cognizance“ handeln könnte: Ein Gericht kann dann ohne vorangegangene Hinweise wie Ermittlungen oder Klagen gegen ein Verbrechen aktiv werden.

Werbung auf Metas sozialen Plattformen bringt dem Unternehmen den allergrößten Teil seines Umsatzes. Laut Geschäftsbericht 2025 rund 196,2 Milliarden US-Dollar von 200,1 Milliarden US-Dollar. Darunter auch etliche betrügerische Werbungen. Mit denen verfolgt Meta ein fragwürdiges System: Ein automatisches System berechnet bei jeder Werbung die Betrugswahrscheinlichkeit. Erst, wenn diese über 95 Prozent liegt, erfolgt die Sperrung. Mit höheren Werten darunter macht Meta Kasse: Die Werbetreibenden müssen für das Risiko, das sie mitbringen, für ihre Werbung draufzahlen. Im Bereich der Betrugsmaschen schlägt Meta also durchaus Profit aus potenziell problematischer Werbung.

Ex-Vizepräsident: Meta schützt Nutzer nicht genug

Das wirft ein Schlaglicht auf Metas Probleme mit Kinderpornografie in Indien. Die BBC sprach darüber auch mit dem ehemaligen Meta-Vizepräsidenten Brian Boland. Von 2009 bis 2020 verantwortete er auch Metas Werbegeschäft. Dabei entfernte er auch massenhaft problematische Werbebeiträge. Doch mit der Zeit habe sich Metas Kurs hier gewandelt. „Der Tauschhandel a la ‚Mehr Nutzerinteraktionen statt Schutz vor schädlichen Inhalten’ wurde bei Meta zu einem der Kernthemen“, kritisiert er. Metas Algorithmus sei darauf ausgelegt, Nutzer auf den Plattformen zu halten, indem ihnen immer „etwas noch extremeres und verlockenderes“ angezeigt werde. Der Algorithmus sei zwar nicht darauf ausgelegt, so wörtlich, „Menschen zu Pädophilen zu machen“. Aber es sei ein mögliches Ergebnis, wenn die Meta-Verantwortlichen nicht aggressiv einen schützenden Kurs im Hinblick auf die Nutzer verfolgen würden.

Ein Problem in seinem Umgang mit dem eigenen Algorithmus und problematischer Werbung wiegelt Meta ab. Dass Meta wissentlich und absichtlich Werbung mit Kindern an Nutzer mit pädophilen Neigungen ausspiele, sei eine „kategorisch unpräzise“ Darstellung, betonte Meta gegenüber der BBC. Kindesmissbrauch sei ein grausames Verbrechen und Meta würde dieses in seinen Apps aggressiv bekämpfen. 2025 seien rund vier Millionen Accounts automatisch deaktiviert worden, nachdem sie „genügend Anzeichen für potenziell verdächtiges Verhalten“ gezeigt hätten. Metas Experten würden kontinuierlich an neuen Technologien arbeiten, um Sexualstraftätern das Handwerk zu legen und Erkenntnisse über diese auch mit anderen Unternehmen teilen.

In Deutschland hängt die Bekämpfung von solchen Inhalten maßgeblich von solchen Hinweisen aus den USA ab. Unternehmen wie WhatsApp, Instagram, Microsoft und Google konnten in der Vergangenheit in Europa etwa Inhalte mit automatisierten Programmen scannen und verbotene Inhalte an das NCMEC melden. Die Organisation leitet solche Hinweise weltweit an Strafverfolgungsbehörden weiter – in Deutschland ans Bundeskriminalamt. Überhaupt erst möglich machen das die automatischen Systeme, die in Indien offenbar nicht funktionierten. Doch in der EU steht die Erlaubnis, Chats auf WhatsApp, Instagram & Co. nach möglichen Straftaten zu scannen, auf der Kippe. Im EU-Parlament geht es kommende Woche darum, eine Ausnahme von europäischen Datenschutzregeln zu verlängern, die Online-Plattformen das Durchsuchen von privater Kommunikation erlaubt.

Zwei Baden-Württemberger Minister appellieren in einem Brief an EU-Abgeordnete, das Vorhaben zu unterstützen: „In den Jahren 2024 und 2025 wurden dem Bundeskriminalamt jeweils über 200.000 Hinweise übermittelt“, heißt es in dem Brief. Mehr als die Hälfte habe sich als strafrechtlich relevant erwiesen, schreiben Innenminister Manuel Hagel und Justizminister Moritz Oppelt (beide CDU) weiter.

Metas früherer Werbe-Chef Boland selbst hat seinen Instagram-Account im vergangenen Jahr gelöscht. Nur darin sieht er noch eine Chance auf einen positiven Kurswechsel. „Aber nur wenn massenhaft Menschen sagen: ‚Es reicht, vergesst es, ich bin raus hier‘ wird Meta letztendlich reagieren.“

(nen)

Die Modernisierung der deutschen Schieneninfrastruktur durch digitale Stellwerkstechnik (DSTW) kommt voran. Sie steht aber vor Herausforderungen, die viele Großprojekte betreffen. Eine entsprechende, grundsätzlich positive Bilanz zum sogenannten Schnellläuferprogramm für die digitale Schiene zieht die Bundesregierung in einer jetzt veröffentlichten Antwort auf eine Anfrage der Grünen-Fraktion. Einschlägige Vorhaben haben demnach unter Beweis gestellt, dass sich der Ersatzneubau von Stellwerken unter den richtigen Rahmenbedingungen und bei entsprechender Priorisierung spürbar beschleunigen lasse.

Das 2020 gestartete Programm verfolgt das Ziel, die Bahn technologisch zu erneuern und den Markt für Stellwerkshersteller breiter aufzustellen. Das soll helfen, die Abhängigkeit von wenigen etablierten Akteuren zu reduzieren.

Die Exekutive versucht schon länger dem Eindruck entgegenzutreten, dass der Bund und die Deutsche Bahn (DB) es mit der Digitalisierung der Schiene nicht ernst nähmen und teure Verzögerungen riskierten. Allein mit dem Haushalt 2024 seien für die Vorhaben der digitalen Schiene rund 2,3 Milliarden Euro an Haushaltsmitteln und Verpflichtungsermächtigungen zusätzlich gebunden, hieß es voriges Jahr. Knapp 350 Millionen Euro sollten in die Ausrüstung des strategisch wichtigen Rhein-Alpen-Korridors mit dem Europäischen Eisenbahnverkehrsleitsystem (ERTMS) fließen.

Technische Meilensteine und offene Schnittstellen

ERMTS zählt neben dem Zugsicherungssystem ETCS (European Train Control System) und digitalen Stellwerken zu den wichtigsten Säulen eines modernen Bahnverkehrs, durch den Zugabstände verdichtet werden und mehr Kapazitäten auf dem bestehenden Netz entstehen. Ein weiterer Baustein für mehr Unabhängigkeit und Effizienz ist die technische Standardisierung auf der Ebene der Stellwerke. Nach Regierungsangaben setzt das Eisenbahn-Bundesamt (EBA) gezielt auf den Einsatz standardisierter Schnittstellen bei der Ausrüstung signaltechnischer Anlagen.

Solche Interfaces ermöglichen es, Komponenten und Systeme unterschiedlicher Hersteller flexibel miteinander zu verschalten. Das stärkt der Exekutive zufolge nicht nur den Wettbewerb. Der Ansatz eröffne auch kleineren Anbietern die Möglichkeit, sich am Markt zu beteiligen. Das EBA begleite diesen Prozess durch einen kontinuierlichen Austausch mit den beteiligten Firmen und unterstützt deren technische Entwicklungen, ist der Antwort zu entnehmen. Parallel wirke die Behörde im Rahmen der Verwendungsprüfung auf einen effizienten Einsatz der Mittel hin.

Zwei neue Lieferanten, weitere möglich

Die Marktöffnung zeigt erste Erfolge. Laut DB konnten neben den zwei etablierten Systemherstellern mittlerweile zwei weitere Lieferanten berücksichtigt werden. Für künftige Vergaben bestehe die Perspektive, dass weitere Hersteller zum Zuge kämen. Diese hätten die strengen technischen Anforderungen bislang zwar noch nicht erfüllt, befänden sich aber in einem guten Entwicklungsprozess.

Dass der Wandel greift, zeigt dem Verkehrsministerium zufolge auch der Lieferantenpool für die Rahmenverträge der elektronischen und digitalen Stellwerke: Er bestehe inzwischen vollständig aus Herstellern, die über das Schnellläuferprogramm eingebunden und aufgebaut worden seien.

Die konkrete Umsetzung einzelner Pilotprojekte ergibt indes ein gemischtes Bild: Es reicht von reibungslosen Punktlandungen bis zu massiven Verzögerungen. Vorzeigebeispiele wie das Vorhaben im sauerländischen Finnentrop laufen planmäßig und sind seit Mai 2022 ohne signifikante Herausforderungen in Betrieb.

Auch in Kleve-Kempen und der Region Wörth-Germersheim rollt der Verkehr seit Ende 2022 über die neue digitale Technik. Dabei mussten die Projektbeteiligten eine hohe Komplexität meistern, die sich aus mehreren Nachbarstellwerken sowie sensiblen Schnittstellen nach Frankreich und zu privaten Betreibern ergab. Kleinere technische Störungen wie Übertragungsprobleme in Kleve-Kempen ließen sich durch den Austausch von Verkabelungen beheben.

Finanzielle Intransparenz

Andererseits offenbaren Projekte wie in Ansbach-Triesdorf oder an der „Zwieseler Spinne“ Tücken des Marktes. In Franken verzögerte die fehlende Verfügbarkeit eines sicherheitsrelevanten Produktes die Inbetriebnahme um fast vier Jahre bis Anfang 2026. Noch deutlicher zeigen sich die Hürden eines Markteintritts bei dem Eisenbahnknoten im Bayerischen Wald: Hier verschiebt sich die Fertigstellung der Innenanlage von 2023 auf voraussichtlich 2028.

Als Grund nennen das Verkehrsressort und die DB eine strategische Neupositionierung des dortigen Lieferanten, der sich aus der Systemfertigung zurückgezogen habe und nur noch Komponenten zuliefere. Um solche Planungsphasen bei neuen Herstellern zu stabilisieren, müsse die Bahn diese „entzerren“, was eine längere Projektlaufzeit bedinge.

Ein vertrauliches Kapitel bleiben die Finanzen der Projekte. Sämtliche Detailfragen zu den ursprünglichen und finalen Kosten der Vorhaben verweigert die Regierung unter Verweis auf die Betriebs- und Geschäftsgeheimnisse der DB InfraGO. Vertragskonditionen würden bundesweit individuell verhandelt, argumentiert das Ministerium. Eine Offenlegung könnte potenziellen Auftragnehmern taktische Vorteile in künftigen Verhandlungen verschaffen und so die fiskalischen Interessen des Bundes schädigen. Entsprechende Wirtschaftsdaten hat die Exekutive als Verschlusssache eingestuft.

(nen)

Das chinesische Onlinehandelsunternehmen Alibaba verbietet seinen Mitarbeitern ab sofort die Nutzung von Anthropics KI-Modell Claude. Beschäftigte sind auch angewiesen, alle Claude-Modelle von ihren Dienstrechnern zu löschen. Hintergrund soll eine versteckte Funktion im Claude-Quellcode sein, die es Anthropic erlaubt, zu sehen, ob ein Nutzer aus China zugreift oder mit einem chinesischen KI-Entwickler in Verbindung steht, berichten die Mitarbeiter.

Sie sprachen mit dem IT-Nachrichtenportal The Information. Obwohl Anthropic die Nutzung seiner Modelle in China generell verbietet, finden chinesische Unternehmen Wege, die Modelle trotzdem unerkannt zu nutzen. Damit verbietet Alibaba seiner Belegschaft etwas, das Anthropic ohnehin nicht mit seiner KI erlaubt.

Schwere Vorwürfe gegen Alibaba

Vorigen Monat hatte Anthropic Alibaba sozusagen des KI-Modell-Diebstahls beschuldigt. Durch massenhafte Zugriffe soll Alibaba versucht haben, die Logik von Claude widerrechtlich abzugreifen. Anthropic fordert deswegen vom US-Kongress Maßnahmen, die solche Attacken verhindern sollen, wie aus einem von der „Financial Times“ veröffentlichten Brief an amerikanische Senatoren hervorgeht. Alibaba hätte demnach zu der Methode der KI-Wissensdestillation gegriffen, bei der Entwickler einer neuen KI sie mit Wissen von einem bereits existierenden Modell anlernen lassen.

Unter anderem dieses Szenario nannte die US-Regierung im Juni als Grund, Anthropics Modelle Fable und Mythos für Nicht-US-Bürger zu verbieten. Alibaba äußerte sich zunächst nicht zu den Vorwürfen. Die jetzigen Berichte von seinen Beschäftigten sind aber ein klarer Hinweis darauf, dass Alibaba die KI von Anthropic widerrechtlich nutzt. Vorher hatte Anthropic bereits die chinesischen KI-Hersteller DeepSeek, Moonshot AI und MiniMax der Destillation beschuldigt.

Alibaba hat vor Kurzem auch gegen das Pentagon geklagt. Dieses hatte das chinesische Unternehmen auf eine Liste von mutmaßlichen Militärunternehmen gesetzt. Die Klage soll dies jetzt rückgängig machen.

(nen)