Automatisierter Missbrauchsverdacht: BKA geht gegen harmlose Videos vor

Der Vorwurf wiegt schwer im Strafrecht: Verbreitung illegalen Materials, das den sexuellen Missbrauch von Kindern abbildet. Wenn das Bundeskriminalamt (BKA) als Schnittstelle für die Kriminalitätsbekämpfung eine solche Warnung verschickt, herrscht bei den betroffenen Internet-Dienstleistern Alarm. So erging es dem Hoster Flokinet, als eine dringliche Mitteilung des zuständigen Referats eintraf. Damit verknüpft war die Aufforderung, kriminelle Inhalte auf seinen Systemen unverzüglich zu löschen. Dem Schreiben waren zwei Web-Adressen beigefügt.

Bei den bemängelten Adressen handelte es sich um Links zu einer Invidious-Instanz, die unter der Domain des Providers lief. Invidious fungiert lediglich als alternatives, datenschutzfreundliches Front-End für YouTube. Das bedeutet, dass der Dienst die Videos nicht selbst hostet, sondern die Anfragen an die Video-Plattform weiterleitet.

Hinter dem ersten Link verbarg sich ein harmloser dokumentarischer Ausschnitt, der den Komponisten Hans Zimmer bei der Arbeit an einem Slap-Bass-Solo zeigt. Der zweite führte zu einer Musikaufnahme des Opernsängers Plácido Domingo. Beide Videos waren meilenweit von einer Strafbarkeit entfernt. Zudem war der betroffene Web-Dienst zum Zeitpunkt der BKA-Meldung wegen technischer Probleme bereits seit einem halben Jahr offline.

Automatisierte Erfassung statt Einzelfallprüfung

Der Vorfall wirft ein Schlaglicht auf die Prüfmechanismen der Ermittler. Nachdem Flokinet das BKA umgehend informierte, dass die Inhalte weder strafbar noch auf ihren Servern vorhanden seien, blieb eine Reaktion zunächst aus. Erst nach einer Anfrage von Netzpolitik.org kam Bewegung in die Sache.

Ein BKA-Sprecher räumte gegenüber Netzpolitik ein, dass die Vorwürfe auf automatisierten Abläufen beruhten. In Ermittlungsverfahren mit riesigen Datenmengen würden Links automatisiert erhoben und ungeprüft als Löschaufforderung weitergeleitet. Dabei könnten auch Links „zu nicht strafbaren Inhalten weitergegeben worden sein”.

Das BKA untersucht im Zuge dieser Massenverfahren im Einzelfall also nicht mehr, ob die verlinkten Inhalte tatsächlich illegal sind. Begründung: Die Masse an digitalen Hinweisen überfordere die manuellen Kapazitäten der Strafverfolger.

Arbeitsabwälzung auf Provider

Erst vier Tage nach der ersten Meldung zog das BKA den Löschantrag als irrelevant zurück. Für Provider bleibt ein bitterer Nachgeschmack. Die Praxis, ungeprüfte Listen automatisiert an Hoster zu senden, verlagert die Pflicht zur rechtlichen Bewertung und die Verantwortung auf private Firmen. Das ist hier besonders riskant, weil bereits die bewusste Kenntnisnahme und der Besitz von Missbrauchsmaterial strafrechtliche Konsequenzen nach sich ziehen können.

Zudem schafft dieses System laut Flokinet ein wirtschaftliches Ungleichgewicht auf dem IT-Markt. Große Konzerne könnten die Flut automatisierter Behördenanfragen durch teure KI-Moderationssysteme und eigene Rechtsabteilungen auffangen. Kleinere, unabhängige Provider verfügten nicht über diese Ressourcen. Sie würden durch fehlerhafte Massenmahnungen und das damit verknüpfte Haftungsrisiko existenziell bedroht, was langfristig zu einer ungesunden Marktkonzentration führe.

(vbr)