Instagram-Werbung mit Bildern von Kindesmissbrauch

Eine Recherche der britischen Rundfunkanstalt BBC bringt schockierende Versäumnisse bei der Bekämpfung von Darstellungen sexualisierter Gewalt gegen Kinder auf Instagram ans Licht: Instagram-Betreiber Meta geht offenbar nur beschränkt gegen solche Werbung auf der Plattform vor, die Nutzer an indischsprachige Telegram-Gruppen für den Handel mit solchen Bildern weiterleitet. Meta streitet seine Untätigkeit ab, während einer der höchsten ehemaligen Richter Indiens die Justiz dringend gefordert sieht.

Mit einem Konstrukt aus mehreren Accounts, die sexualisierten Content von erwachsenen Frauen enthielten, gelang es BBC-Journalisten, den Instagram-Algorithmus zum Ausspielen offensichtlich indischer pornografischer Inhalte zu bringen. Letztere zu verbreiten, ist in Indien schon per se illegal – unabhängig davon, ob es sich dabei um Minderjährige handelt oder nicht. Doch die Recherche offenbarte noch schlimmeres: Unter den Bedingungen zeigte der Algorithmus wiederholt Szenen sexualisierter Gewalt gegen Kinder, sexualisierte Inhalte mit Kindern oder Kinder, die unter Tränen von gerade gemachten Missbrauchserfahrungen berichten – kombiniert mit dem Aufruf an die Nutzer: Hier klicken für mehr!

Links auf Marktplätze für Missbrauchsdarstellungen

Ein entsprechender Link führte laut BBC zu einer Telegram-Gruppe, in der die angepriesenen Videos dann zu niedrigen Preisen angeboten wurden – teilweise für 99 indische Rupien (rund 90 Euro-Cent). Die BBC berichtet von insgesamt 30 solcher oder ähnlicher Fälle. 20 weitere Werbungen für Erwachsenen-Pornografie konnten die Journalisten ausmachen. Im einem näher beschriebenen Fall wendeten sich die Journalisten mit ihren Erkenntnissen an Meta. Der Konzern antwortete innerhalb von 24 Stunden und erklärte, dass der besagte Inhalt nicht entfernt wurde, weil keine Verletzung der Community-Richtlinien erkennbar sei. Bei einem anderen Fall antwortete Meta nach demselben Muster. Das verwundert vor allem, weil Metas Richtlinien für Werbetreibende das Zeigen von Nacktheit, Geschlechtsorganen und Kindesmissbrauch verbieten. Auch an Telegram meldete die BBC die entsprechenden Gruppen hinter den Instagram-Werbungen. Während Telegram sie zumeist entfernte, war eine Gruppe auch einige Zeit später noch aktiv.

Meta überprüft die Inhalte seiner Werbekunden in der Regel automatisiert. Die Prüfung umfasst verwendete Bilder, Videos, Text und Tonspuren sowie Links. Hier scheint das System nicht gegriffen zu haben. In einer Stellungnahme gegenüber der BBC räumt Meta später ein: „Kein System ist perfekt und es ist möglich, dass Verstöße von unseren Prüfungsprozessen unerkannt bleiben.“ Erkannte Fälle von Kindesmissbrauch würden an das National Center for Missing and Exploited Children (NCMEC), eine US-Einrichtung zur Bekämpfung von Kindesmissbrauch, gemeldet.

Meta macht Kasse mit problematischer Werbung

Madan Lokur ist ehemaliger Richter an Indiens oberstem Gerichtshof. Er befürchtet, dass Meta nach den Maßstäben des indischen Gesetzes bereits kriminelle Aktivitäten mit den Praktiken bei sexuellen Werbeinhalten verfolgt, um damit Geld zu verdienen. Das geht aus seiner Sicht soweit, dass das die Justiz nach dem Grundsatz „suo moto cognizance“ handeln könnte: Ein Gericht kann dann ohne vorangegangene Hinweise wie Ermittlungen oder Klagen gegen ein Verbrechen aktiv werden.

Werbung auf Metas sozialen Plattformen bringt dem Unternehmen den allergrößten Teil seines Umsatzes. Laut Geschäftsbericht 2025 rund 196,2 Milliarden US-Dollar von 200,1 Milliarden US-Dollar. Darunter auch etliche betrügerische Werbungen. Mit denen verfolgt Meta ein fragwürdiges System: Ein automatisches System berechnet bei jeder Werbung die Betrugswahrscheinlichkeit. Erst, wenn diese über 95 Prozent liegt, erfolgt die Sperrung. Mit höheren Werten darunter macht Meta Kasse: Die Werbetreibenden müssen für das Risiko, das sie mitbringen, für ihre Werbung draufzahlen. Im Bereich der Betrugsmaschen schlägt Meta also durchaus Profit aus potenziell problematischer Werbung.

Ex-Vizepräsident: Meta schützt Nutzer nicht genug

Das wirft ein Schlaglicht auf Metas Probleme mit Kinderpornografie in Indien. Die BBC sprach darüber auch mit dem ehemaligen Meta-Vizepräsidenten Brian Boland. Von 2009 bis 2020 verantwortete er auch Metas Werbegeschäft. Dabei entfernte er auch massenhaft problematische Werbebeiträge. Doch mit der Zeit habe sich Metas Kurs hier gewandelt. „Der Tauschhandel a la ‚Mehr Nutzerinteraktionen statt Schutz vor schädlichen Inhalten’ wurde bei Meta zu einem der Kernthemen“, kritisiert er. Metas Algorithmus sei darauf ausgelegt, Nutzer auf den Plattformen zu halten, indem ihnen immer „etwas noch extremeres und verlockenderes“ angezeigt werde. Der Algorithmus sei zwar nicht darauf ausgelegt, so wörtlich, „Menschen zu Pädophilen zu machen“. Aber es sei ein mögliches Ergebnis, wenn die Meta-Verantwortlichen nicht aggressiv einen schützenden Kurs im Hinblick auf die Nutzer verfolgen würden.

Ein Problem in seinem Umgang mit dem eigenen Algorithmus und problematischer Werbung wiegelt Meta ab. Dass Meta wissentlich und absichtlich Werbung mit Kindern an Nutzer mit pädophilen Neigungen ausspiele, sei eine „kategorisch unpräzise“ Darstellung, betonte Meta gegenüber der BBC. Kindesmissbrauch sei ein grausames Verbrechen und Meta würde dieses in seinen Apps aggressiv bekämpfen. 2025 seien rund vier Millionen Accounts automatisch deaktiviert worden, nachdem sie „genügend Anzeichen für potenziell verdächtiges Verhalten“ gezeigt hätten. Metas Experten würden kontinuierlich an neuen Technologien arbeiten, um Sexualstraftätern das Handwerk zu legen und Erkenntnisse über diese auch mit anderen Unternehmen teilen.

In Deutschland hängt die Bekämpfung von solchen Inhalten maßgeblich von solchen Hinweisen aus den USA ab. Unternehmen wie WhatsApp, Instagram, Microsoft und Google konnten in der Vergangenheit in Europa etwa Inhalte mit automatisierten Programmen scannen und verbotene Inhalte an das NCMEC melden. Die Organisation leitet solche Hinweise weltweit an Strafverfolgungsbehörden weiter – in Deutschland ans Bundeskriminalamt. Überhaupt erst möglich machen das die automatischen Systeme, die in Indien offenbar nicht funktionierten. Doch in der EU steht die Erlaubnis, Chats auf WhatsApp, Instagram & Co. nach möglichen Straftaten zu scannen, auf der Kippe. Im EU-Parlament geht es kommende Woche darum, eine Ausnahme von europäischen Datenschutzregeln zu verlängern, die Online-Plattformen das Durchsuchen von privater Kommunikation erlaubt.

Zwei Baden-Württemberger Minister appellieren in einem Brief an EU-Abgeordnete, das Vorhaben zu unterstützen: „In den Jahren 2024 und 2025 wurden dem Bundeskriminalamt jeweils über 200.000 Hinweise übermittelt“, heißt es in dem Brief. Mehr als die Hälfte habe sich als strafrechtlich relevant erwiesen, schreiben Innenminister Manuel Hagel und Justizminister Moritz Oppelt (beide CDU) weiter.

Metas früherer Werbe-Chef Boland selbst hat seinen Instagram-Account im vergangenen Jahr gelöscht. Nur darin sieht er noch eine Chance auf einen positiven Kurswechsel. „Aber nur wenn massenhaft Menschen sagen: ‚Es reicht, vergesst es, ich bin raus hier‘ wird Meta letztendlich reagieren.“

(nen)