„Unverantwortlich, die Risikobewertung einem Algorithmus zu überlassen“

In Spanien gibt es seit 2007 das System „VioGén“. Es soll nach Anzeigen in Fällen geschlechtsspezifischer Gewalt angeben, wie groß das Risiko von Betroffenen ist, im weiteren Verlauf Gewalt zu erleben. „VioGén“ steht für Violencia de Género, spanisch für geschlechtsspezifische Gewalt. Der vollständige Titel des System lautet „Sistema de Seguimiento Integral en Casos de Violencia de Género“. Das System wurde wiederholt kritisiert, weil es Fehleinschätzungen lieferte, bei denen es später zu massiver Gewalt bis hin zu Femiziden kam.

Wir sprechen im Interview mit Gala Pin über VioGén. Pin war bis Februar 2025 Mitglied im Abgeordnetenhaus des spanischen Parlaments. Dort war sie unter anderem Sprecherin des linken Parteienbündnisses „Sumar“ für den Staatspakt gegen geschlechtsspezifische Gewalt. Seit den 2000er-Jahren ist Pin Basisaktivistin in den Kämpfen für das Recht auf Stadt und in netzpolitischen Netzwerken, die sich für technologische Souveränität einsetzen.

netzpolitik.org: Was ist VioGén?

Gala Pin: VioGén ist ein polizeiliches IT-System zur Überwachung von Fällen geschlechtsspezifischer Gewalt. In der Praxis ist VioGén ein Algorithmus, der nach einer Anzeige solcher Gewalt bei der Polizei anhand eines strukturierten Interviews feststellt, ob der Fall ein „geringes Risiko“, ein „mittleres Risiko“ oder ein „hohes Risiko“ darstellt. Dabei ist natürlich sehr problematisch, dass VioGén nur eingesetzt wird, wenn Anzeige erstattet wurde, denn wir wissen, dass der Anteil der Frauen, die Anzeige erstatten, sehr gering ist.

Theoretisch kann die Polizei die Gefahren-Einstufung des Algorithmus überprüfen und die Risikobewertung aufgrund eigener Erkenntnisse ändern. Praktisch findet das aber kaum statt. Das liegt vor allem daran, dass die Ausbildung bei den Strafverfolgungsbehörden im Bereich der geschlechtsspezifischen Gewalt große Lücken hat. Dazu kommt die weit verbreitete Überzeugung, ein Algorithmus sei objektiver als ein Mensch. In der Praxis ist es also der Algorithmus, der den Grad des Risikos festlegt. Mit dem Effekt, dass die Gefahr groß ist, dass es zu weiterer Gewalt oder sogar zum Mord kommt.

Keine Anzeige, kein Risiko

netzpolitik.org: Was ist konkret die Aufgabe von VioGén?

Gala Pin: Das System soll die Gefahr der Wiederholung durch den Täter oder die Gefahr eines Tötungsdelikts einschätzen. Nach der Feststellung des Gefährdungsgrades legt die Polizei die notwendigen Schutzmaßnahmen fest.

Problematisch ist dabei nicht nur, dass viele Opfer keine Anzeige erstatten, sondern beispielsweise, dass Kinder oder eine Schwangerschaft jahrelang nicht als relevante Faktoren für die Feststellung des Risikogrades angesehen wurden. Ein weiteres Problem ist, dass VioGén etwa auch rassistische Vorurteile reproduziert.

netzpolitik.org: Inwiefern sind Kinder oder Schwangerschaften ein relevanter Faktor?

Gala Pin: Auch Kinder können Opfer von Gewalt gegen Frauen werden, und die Zunahme solcher Fälle ist in Spanien alarmierend. Wir nennen sie violencia vicaria, übersetzt in etwa „stellvertretende Gewalt“. Damit ist Gewalt gemeint, die der Vater (oder Partner oder Ex-Partner) gegen Kinder richtet, um auf diese Weise die Frau zu verletzen. Er benutzt die Kinder, fügt ihnen Schaden zu, manipuliert oder ermordet sie sogar. Das ist eine der perversesten Formen von Gewalt, die ich mir vorstellen kann. Ich finde sie so schockierend, dass mir die Worte fehlen, um sie zu beschreiben. Aber es kommt vor, und es nimmt immer mehr zu.

Während der Schwangerschaft sind Frauen verletzbarer und je nach Situation kann auch die Entwicklung des Fötus beeinträchtigt werden. Bei der Beurteilung des Ausmaßes der Gewalt, die eine Frau erleidet, müssen also beide Umstände berücksichtigt werden.

netzpolitik.org: Wie gut erfüllt VioGén seinen Zweck?

Gala Pin: Wir können diese Frage nicht beantworten, weil es keine Daten darüber gibt, in wie vielen Fällen die Beteiligung von VioGén einen Tod oder weitere Gewalt verhindert hat. Es gab Fälle, in denen VioGén ein geringes Risiko festgestellt hatte und die mit einem Femizid endeten.

Das Problem ist aus meiner Sicht, dass ein solches Versagen von VioGén den Verlust eines Lebens bedeuten kann. Und wir können es uns nicht leisten, wegen eines Fehlers des Algorithmus’ Leben zu verlieren. Gleichzeitig können wir nicht ignorieren, dass ein Algorithmus oder ein algorithmisches System natürlich die strukturelle Gewalt des Patriarchats in unserer Gesellschaft nicht beseitigen kann.

Ich glaube, wir müssen in der Lage sein, Technologie in diesen Situationen zu nutzen. Ich halte es aber für einen Fehler, einem Algorithmus die vollständige Risikobewertung anzuvertrauen oder ihn als „das Werkzeug“ gegen geschlechtsspezifische Gewalt einzusetzen.

Eine umfassende Strategie zur Bekämpfung von Gewalt gegen Frauen muss mit Prävention beginnen. Maßnahmen müssen möglich sein, ohne dass erst Anzeige erstattet werden muss. Das ist heikel, aber nicht unmöglich.

Keine einfache Panne

netzpolitik.org: Gibt es Zahlen dazu, wie viele Gewalttaten verübt wurden, obwohl VioGén in diesen Fällen im Einsatz war?

Gala Pin: Ja: Im Jahr 2023 betrafen 14 Prozent der Fälle von Femiziden Frauen, die bereits im VioGén-System waren. Wir wissen nicht, wie viele Leben VioGén gerettet hat, aber es lässt sich nicht leugnen, dass dies der Fall war. Der Gleichstellungsminister und der Innenminister sagen ständig: „VioGén hat Fehler, aber es rettet Leben.“ Doch schon ein Fehler kann den Verlust eines Lebens bedeuten.

Das ist dann keine Panne in einem algorithmischen System, das berechnet, wie viel Steuern ich zahlen muss. Sondern eine Panne in einem algorithmischen System, das festlegt, welchen Schutz jemand als Opfer von Gewalt braucht. Das kann ein Leben kosten.

netzpolitik.org: Wie kam es dazu, dass VioGén in Spanien eingesetzt wird?

Gala Pin: Die Entwicklung von VioGén begann 2007. Der Hintergrund war, dass 2004 das erste staatliche Gesetz gegen Männergewalt (geschlechtsspezifische Gewalt, wie es genannt wurde) beschlossen wurde. VioGén ist Teil seiner Umsetzung.

Ich denke, es ist wichtig, hier zwei Dinge hervorzuheben: Zum einen waren damals die Sozialisten an der Regierung und zum anderen, ganz entscheidend: Das Gesetz und seine Umsetzung können nicht ohne die feministischen Bewegungen verstanden werden, die seit Jahrzehnten die männliche Gewalt anprangern. Sie müssen viel zu oft die Versäumnisse von Politik und Verwaltung ausgleichen, also das Fehlen von Reaktion auf die Gewalt und das Fehlen von Prävention.

2004 war auch das Jahr, in dem die Zahl der Frauenmorde anstieg. Um diesen Anstieg zu erklären, ist wichtig zu wissen, dass in Spanien Femizide „erst“ seit 2003 gezählt werden und erst seit 2022 die Femizide außerhalb von Partnerschaften in die Statistiken aufgenommen werden.

VioGén sollte damals auch die Kriterien, die Reaktion und die Daten aller Institutionen vereinheitlichen, die an Fällen von männlicher Gewalt beteiligt sind. Da ich in der Verwaltung gearbeitet habe, muss ich sagen, dass das keine leichte Aufgabe ist.

Mangelhafte Schulung in den Behörden

netzpolitik.org: Werden durch VioGén mehr oder weniger Polizist*innen eingesetzt? Ist es ein Ziel, Kosten zu sparen?

Gala Pin: Ich glaube ehrlich gesagt nicht, dass das das Ziel ist. Ich denke eher, dass es darauf abzielt, die Folgen der mangelhaften Schulung der Strafverfolgungsbehörden, der Justiz und aller an Fällen von geschlechtsspezifischer Gewalt Beteiligten in diesem Bereich aufzufangen.

Dazu gehört, dass die Einführung von VioGén Folge eines Gesetzes war, das mehr Mittel gegen geschlechtsspezifische Gewalt vorsieht und nicht weniger. Wichtig ist also, dass die Einführung von automatisierten Verfahren in eine umfassendere politische Herangehensweise eingebettet ist und eben nicht versucht wird, ein Problem allein mit dem Einsatz von Software zu lösen.

netzpolitik.org: Hältst du es grundsätzlich für sinnvoll, Viogén einzusetzen?

Gala Pin: Ich glaube, dass die Technologie als Werkzeug zur Lösung von Problemen dienen sollte, ich bin also keine Gegnerin davon. Aber die Antwort ist komplex.

Ich glaube, dass die öffentliche Hand angesichts komplexer struktureller Unterdrückung Maßnahmen ergreifen muss, die alle möglichen Mechanismen in Betracht ziehen. Dies ist der Fall bei männlicher Gewalt. Ich halte es aber für unverantwortlich und wirklich verrückt, die Risikobewertung einem Algorithmus zu überlassen, wenn wir wissen, dass dieser nie allein entscheiden darf, wenn das den Menschen betrifft. Und in diesem Fall wissen wir, dass sie Leben gekostet hat. Menschenleben.

Fragen nach der „Herkunftskultur“

netzpolitik.org: Gibt es in Spanien Kritik am Einsatz?

Gala Pin: Organisationen der Zivilgesellschaft wie die Eticas Foundation haben mehrfach eine Prüfung der Algorithmen von VioGén gefordert, wurden aber immer abgewiesen. Schließlich führten sie selbst eine externe Prüfung durch, die aufgrund des fehlenden Zugangs zu den Daten zwangsläufig auf wenig repräsentativen Stichproben basierte. Aber die führten jedenfalls dazu, dass ein Mangel an Transparenz von VioGén aufgedeckt wurde.

Praktisch ist es so, dass viele Frauen Schwierigkeiten haben, den VioGén-Fragebogen zu beantworten, insbesondere wenn sie nach einem Übergriff unter Schock stehen. Es wurde auch kritisiert, dass nur ein kleiner Teil der Beamten, die das Instrument verwenden, eine spezielle Ausbildung zu den Folgen geschlechtsspezifischer Gewalt hat. Das kann die Qualität der Bewertung beeinträchtigen. Darüber hinaus muss VioGén, wie bereits erwähnt, weiter ausgebaut werden, um die bisherige sehr enge geschlechtsspezifische Perspektive zu erweitern, damit ebenfalls intersektionale Aspekte berücksichtigt werden.

Dass die Polizei erst aktiv wird, wenn Anzeige erstattet wurde, wird von der feministischen Bewegung auch unabhängig von VioGén kritisiert. Das Erstatten der Anzeige kann retraumatisieren und es ist ja bekannt, dass nur wenige Frauen überhaupt Anzeige erstatten.

Es wird außerdem kritisiert, dass VioGén wie jedes algorithmische Verfahren Verzerrungen aufweist, und die Tatsache, dass der Fragebogen eine Frage nach der Herkunftskultur des Opfers enthält, ist bereits ein Warnzeichen für eine mögliche rassistische Verzerrung.

VioGén sollte niemals als unfehlbare Antwort angesehen werden.

Vor einiger Zeit erklärte ein Experte, der zu verschiedenen Zeiten an der Entwicklung von VioGén beteiligt war: „Es geht nicht darum, dass ich keine Todesfälle vorhersagen will, sondern darum, dass Risikofaktoren für Mord extrem schwer vorherzusagen sind. Manche sagen, es sei unmöglich. Viele Techniker, die wie ich die Forschung betreiben, halten es für praktisch unmöglich, einen Mord vorherzusagen. Dank der Tatsache, dass wir seit 15 Jahren über VioGén verfügen, war es jedoch möglich, einen kleinen Algorithmus zu entwickeln, mit dem wir versuchen können, Morde vorherzusagen. Aber wo VioGén sehr gut funktioniert, ist im Bereich der schweren und weniger schweren Verletzungen.“

Die Rechtsextremen kritisieren natürlich das Gegenteil und fordern beispielsweise, dass VioGén zur Bestimmung der Suizidwahrscheinlichkeit eines Angreifers eingesetzt wird.

Im Wesentlichen kommt die Kritik aber von der Frauenbewegung, die männliche Gewalt wirklich auf die politische Tagesordnung gesetzt hat und die Tausende von Frauen unterstützt, die von der Verwaltung nicht erreicht werden.

Ohne feministische Bewegung kein Fortschritt

netzpolitik.org: Wurde VioGén seit der Einführung verbessert?

Gala Pin: Dieses Jahr wurde VioGén II vorgestellt, eine neue Version, die erhebliche Verbesserungen enthalten soll. Das ist gut so, und es wird weiter überarbeitet werden müssen. Nur ein Beispiel: Im ersten VioGén spielte digitale Gewalt praktisch keine Rolle – wahrscheinlich, weil sie 2007 weniger häufig vorkam.

In der neuesten Version von VioGén werden beispielsweise auch Daten aus den Bereichen Justiz und Gesundheit berücksichtigt, was vorher nicht der Fall war.

netzpolitik.org: In einer Studie aus dem Jahr 2021, die Femizide in fünf europäischen Ländern untersucht hat, wurde festgestellt, dass nur in Spanien die Zahl der Fälle in den vorangegangenen 10 Jahren signifikant zurückgegangen war. Woran liegt das, warum ist Spanien besser darin, Gewalt gegen Frauen zu bekämpfen?

Gala Pin: In Spanien werden Frauenmorde zwar seit 2003 gezählt, aber erst seit 2022 werden Morde außerhalb von Partnerschaften in diese Zählung einbezogen. Man muss sich also ansehen, welche Fälle in den einzelnen Ländern als Femizide angesehen werden, um absolute Zahlen gut vergleichen zu können.

Eine wichtige Rolle spielt auf jeden Fall, dass es in Spanien durchgehend feministische Bewegungen gibt, die zu bestimmten Zeitpunkten weiter gewachsen sind, etwa durch den Frauenstreik im Jahr 2017. Deswegen gibt es in Spanien einen staatlichen Pakt gegen geschlechtsspezifische Gewalt. Bis heute gibt es mehr als 400 Maßnahmen, die in verschiedene Abschnitte unterteilt sind: Prävention, Gewalt gegen Kinder mit dem Ziel, der Frau zu schaden, Sensibilisierung, Gesetzesänderungen und andere.

Der erste solche Pakt hatte ein Budget von einer Milliarde Euro. Dieses Geld wurde sowohl an die zuständigen Verwaltungen als auch an die Einrichtungen und Gruppen der Zivilgesellschaft zur Bekämpfung geschlechtsspezifischer Gewalt gegeben. Der zweite Pakt wurde gerade verabschiedet.

Der Staatspakt ist wie jede staatliche Politik verbesserungsbedürftig, aber er ist eindeutig eine Errungenschaft der Frauenbewegung und zielt darauf ab, das Problem der Männergewalt umfassend und auch strukturell anzugehen. Ohne die feministischen Bewegungen hätte es all diese Fortschritte nie gegeben.