Ist das schon wie in „Minority Report“? Ein US-Telekommunikationsunternehmen hat ein KI-Modell anhand jahrelang aufgezeichneter Telefon- und Videoanrufe amerikanischer Gefängnisinsassen trainiert. Jetzt testet es dieses Modell, um Anrufe, SMS und E-Mails der Häftlinge zu scannen. So sollen Straftaten „vorhergesagt und verhindert“ werden. Das ist zumindest die Hoffnung von Kevin Elder, Präsident des Unternehmens Securus Technologies.

KI-Training mit Gefängnisdaten

Das Unternehmen hat bereits 2023 mit der Entwicklung von KI-Tools begonnen – und dabei seine riesige Datenbank mit aufgezeichneten Anrufen genutzt, um große Sprachmodelle auf die Erkennung krimineller Aktivitäten zu trainieren. So entstand beispielsweise eines der Systeme auf der Grundlage von Telefonaten von Insassen des texanischen Strafvollzugssystems, die aus sieben Jahren stammten. Aber auch aus anderen US-Bundesstaaten flossen Aufzeichnungen ins Training. Gefängnisinsassen müssen derartigen Aufzeichnungen stets zustimmen, sonst dürfen sie nicht kommunizieren.

Laut Elder hat Securus im vergangenen Jahr seine KI-Tools getestet, um die Gespräche von Insassen sogar in Echtzeit zu überwachen. Das Unternehmen lehnte ab, anzugeben, wo dies geschieht – aber zu seinen Kunden gehören Gefängnisse für Untersuchungshäftlinge, Strafvollzugsanstalten für Verurteilte und Haftanstalten der Grenzschutzbehörde ICE, die zuletzt mit rabiaten Razzien von sich reden machte. „Wir können große Sprachmodelle auf einen ganzen Schatz an Daten anwenden“, sagt Elder, „um zu erkennen und zu verstehen, wann Verbrechen geplant oder in Betracht gezogen werden, sodass man sie viel früher in diesem Zyklus aufdecken kann“.

Funktionsweise der Analyse

Wie bei anderen in den USA gesetzlich erlaubten Überwachungswerkzeugen im Strafvollzug könnten Ermittelnde in Haftanstalten laut Elder die KI-Funktionen nutzen, um zufällig ausgewählte Gespräche zu prüfen – oder solche, bei denen Verdächtige beteiligt sind. Das Modell analysiert Telefon- und Videoanrufe, aber auch Textnachrichten und E-Mails. Es markiert dann Abschnitte, die von Prüfenden gegengecheckt werden sollten. Diese Prüfenden, die offenbar Securus selbst beschäftigt, leiten sie dann zur weiteren Bearbeitung an die Ermittelnden weiter.

In einem Interview sagte Elder, dass die Überwachungsmaßnahmen der Firma dazu beigetragen haben, Menschenhandel und Bandenaktivitäten, die aus Gefängnissen heraus organisiert werden, sowie andere Straftaten zu unterbinden. Die Tools des Unternehmens wurden auch bereits dazu verwendet, Gefängnispersonal zu identifizieren, das Schmuggelgut ins Gefängnis bringt. Das Unternehmen legte MIT Technology Review jedoch bislang keine Fälle vor, die speziell durch seine neuen KI-Modelle aufgedeckt wurden.

Rechte von Gefängnisinsassen

Gefängnisinsassen und die Personen, die sie anrufen, werden stets darüber informiert, dass ihre Gespräche aufgezeichnet werden. Das bedeutet jedoch nicht, dass sie sich bewusst sind, dass diese Gespräche zum Trainieren von KI-Modellen verwendet werden könnten, meint Bianca Tylek, Exekutivdirektorin der Organisation Worth Rises, die sich für die Rechte von Gefängnisinsassen einsetzt.

„Das ist eine erzwungene Einwilligung; es gibt buchstäblich keine andere Möglichkeit, mit der Familie zu kommunizieren“, sagt Tylek. Und da Insassen in den meisten Bundesstaaten für diese Anrufe bezahlen, „entschädigt man sie nicht nur nicht für die Nutzung ihrer Daten, sondern berechnet ihnen sogar Gebühren, während man ihre Daten sammelt.“ Ein Unternehmenssprecher sagte, dass Justizvollzugsanstalten ihre eigenen Richtlinien für Aufzeichnungen und Überwachung festlegen, an die sich Securus nur halte. Er antwortete nicht direkt auf die Frage, ob Insassen die Verwendung ihrer Aufzeichnungen für das Training von KI ablehnen können.

Andere Aktivistinnen und Aktivisten für Strafgefangene meinen, dass Securus in der Vergangenheit deren Bürgerrechte verletzt hat. Beispielsweise zeigten Leaks aus den Aufzeichnungsdatenbanken des Unternehmens, dass es Tausende von Anrufen zwischen Insassen und ihren Anwälten unrechtmäßig aufgezeichnet habe. Corene Kendrick, stellvertretende Direktorin des National Prison Project der US-Bürgerrechtsorganisation ACLU, meint, dass der neue KI-Ansatz ein „System der invasiven Überwachung“ ermögliche und die US-Gerichte nur wenige Grenzen für diese Befugnis setzen. „Werden wir Verbrechen verhindern, bevor sie geschehen, weil wir jede Äußerung und jeden Gedanken von Inhaftierten überwachen?“, fragt sie. „Ich denke, dies ist eine von vielen Situationen, in denen die Technologie dem Gesetz weit voraus ist.“

Der Sprecher von Securus betonte, das Tool „konzentriere sich nicht auf die Überwachung oder gezielte Erfassung bestimmter Personen, sondern vielmehr auf die Identifizierung allgemeiner Muster, Anomalien und rechtswidriger Verhaltensweisen im gesamten Kommunikationssystem“. Der Sinn bestehe darin, die Überwachung angesichts von Personalmangel effizienter zu gestalten, „und nicht darin, Personen ohne Grund zu überwachen“. Securus wird es zudem bald leichter haben, sein KI-Tool zu refinanzieren, da das Unternehmen kürzlich einen Streit mit den zuständigen US-Regulierungsbehörden gewonnen hat. Es ging darum, wie Telekommunikationsunternehmen die Einnahmen aus den Telefonaten von Häftlingen verwenden dürfen.

Streit bei der FCC

Im Jahr 2024 verabschiedete die Federal Communications Commission (FCC) eine umfassende Reform, die von Unterstützenden der Rechte von Strafgefangenen mitgestaltet und sogar gelobt wurde – und die es Telekommunikationsunternehmen zumindest untersagte, die Kosten für die Aufzeichnung und Überwachung von Telefonaten auf die Häftlinge abzuwälzen. Unternehmen durften den Insassen weiterhin einen begrenzten Tarif für Anrufe berechnen. Doch Gefängnisse und Haftanstalten wurden angewiesen, die meisten Kosten für diese Verfahren aus ihren eigenen Budgets zu bezahlen.

Die negativen Reaktionen auf diese Änderung ließen nicht lange auf sich warten. Verbände von US-Sheriffs (die als lokale Polizeiinstanz in der Regel Bezirksgefängnisse leiten) beklagten, dass sie sich eine ordnungsgemäße Überwachung der Anrufe nicht mehr leisten könnten, und Generalstaatsanwältinnen und Generalstaatsanwälte aus 14 Bundesstaaten reichten Klage gegen die Entscheidung ein. Einige Gefängnisse und Haftanstalten drohten gar, den Zugang zu Telefonaten zu sperren.

Während der Entwicklung und Erprobung seines KI-Tools hielt Securus Treffen mit der FCC ab und setzte sich dabei für eine Regeländerung ein. Die Firma argumentierte, dass die Reform von 2024 zu weit gehe, und forderte die Behörde auf, den Unternehmen wieder zu erlauben, von Insassen erhobene Gebühren zur Finanzierung der Überwachung zu verwenden. Im Juni erklärte Brendan Carr, den Präsident Donald Trump zum Leiter der FCC ernannt hatte, dass alle Fristen für die Umsetzung der Reformen von 2024 durch Gefängnisse und Haftanstalten verschoben werden. Er signalisierte sogar, dass die Behörde Telekommunikationsunternehmen dabei helfen will, KI-Überwachungsmaßnahmen mit den von Insassen gezahlten Gebühren zu refinanzieren. In einer Pressemitteilung schrieb Carr dazu, dass eine Rücknahme der Reformen von 2024 „zu einer breiteren Einführung nützlicher Instrumente für die öffentliche Sicherheit führen würde, darunter fortschrittliche KI und maschinelles Lernen“.

Kosten auf Gefängnisinsassen abgewälzt

Am 28. Oktober ging die Behörde noch einen Schritt weiter: Sie stimmte dafür, neue, höhere Preisobergrenzen zu verabschieden. Gleichzeitig wurde Unternehmen wie Securus erlaubt, die Sicherheitskosten im Zusammenhang mit der Aufzeichnung und Überwachung von Anrufen – wie beispielsweise die Speicherung von Aufzeichnungen, deren Transkription oder die Entwicklung von KI-Tools zur Analyse solcher Anrufe – auf die Insassen abzuwälzen. Der Sprecher von Securus erklärte, dass das Unternehmen ein „Gleichgewicht zwischen Erschwinglichkeit und der Notwendigkeit der Finanzierung wichtiger Sicherheitsinstrumente“ anstrebe.

„Diese Werkzeuge, zu denen auch unsere fortschrittlichen Überwachungs- und KI-Funktionen gehören, sind von grundlegender Bedeutung für die Aufrechterhaltung der Sicherheit.“ Das gelte sowohl für das Gefängnis als auch für dessen Insassen und die Öffentlichkeit. FCC-Kommissarin Anna Gomez stimmte in einer Entscheidung vom letzten Monat dagegen. „Die Strafverfolgungsbehörden“, schrieb sie in einer Erklärung, „sollten die Kosten für nicht damit zusammenhängende Sicherheitsmaßnahmen tragen, nicht die Familien der inhaftierten Personen“. Die FCC will nun vor dem endgültigen Inkrafttreten der neuen Regelungen Stellungnahmen einholen.

Dieser Beitrag ist zuerst bei t3n.de erschienen.

(jle)