Soziale Medien sollen künftig in Brasilien für Inhalte von Nutzer:innen haftbar gemacht werden können. Das hat am Mittwoch eine Mehrheit der Verfassungsrichter:innen entschieden, berichtet die Nachrichtenagentur AP. Formell abgeschlossen ist das Verfahren allerdings nicht, da noch nicht alle Richter:innen ihre Entscheidung bekannt gegeben haben. Unklar bleibt zudem, welche Art von Inhalten genau erfasst sein sollen.

Bislang konnten Online-Dienste in Brasilien nur dann zur Verantwortung gezogen werden, wenn sie illegale Inhalte nach einer gezielten richterlichen Anordnung nicht gelöscht oder anderweitig moderiert haben. Das wird auch als „Notice and Takedown“ bezeichnet. Es entspricht grob dem Rechtsrahmen, der in weiten Teilen der Welt gilt und dem Internet in seiner heutigen Form zum Aufstieg verholfen hat. In der EU regelt der Digital Services Act (DSA) diese bedingte Haftungsfreiheit, auch als Providerprivileg bekannt.

AP zufolge geht es in dem brasilianischen Verfahren um zwei Fälle, die den Umgang des Landes mit Online-Inhalten wie Desinformation, Darstellungen von Kindesmissbrauch oder Gewalt unter Jugendlichen abstecken sollen. Zuletzt seien etwa Schießereien an Schulen von sozialen Medien befeuert und dort von Hassrede begleitet worden, sagte der Richter Flávio Dino. Dem setzte der vom rechtsextremen Ex-Präsidenten Jair Bolsonaro bestellte Richter André Mendonça entgegen, dass freie Meinungsäußerung in sozialen Medien öffentliche Institutionen wie Regierungen in Schach halten könne.

Hetze versus Meinungsfreiheit

Das südamerikanische Land ringt schon länger um das richtige Maß an Plattformregulierung. Spätestens seit massiven Desinformationskampagnen im Wahlkampf 2018 versucht das Land mit unterschiedlichen Ansätzen, das Problem rund um problematische Online-Inhalte in den Griff zu bekommen. Vor allem rechtsextreme und antidemokratische Kräfte nutzen inzwischen die Funktionsweise algorithmisch verstärkter Hetze zunehmend gekonnt aus, um damit ein „Klima des Misstrauens und der politischen Instabilität“ zu schüren, wie diverse brasilianische Wissenschaftler:innen ausführen.

Neue Fahrt hatte die Debatte Anfang 2023 aufgenommen, nachdem Anhänger:innen des frisch abgewählten Bolsonaro den Kongress, das Verfassungsgericht und den Präsidentenpalast gestürmt und zeitweise besetzt hatten. Auch hierbei spielten soziale Medien eine Rolle, zumal sich hetzerische Inhalte auf Online-Diensten wie YouTube leicht monetarisieren lassen. Allerdings zeigte sich damals schon, dass etwa automatisierte Moderationswerkzeuge kaum ein Hindernis für findige Nutzer:innen darstellen: Beispielsweise rief ein viral gegangenes Wortspiel statt zu einer harmlosen Party verklausuliert zur gewaltsamen Machtübernahme auf.

Internationale Drohkulisse

Die aktuelle brasilianische Gesetzeslage stelle „einen Schleier der Verantwortungslosigkeit für digitale Plattformen“ dar, sagte der Verfassungsrichter Gilmar Mendes, wie die Nachrichtenagentur Reuters berichtet. „Selbst wenn sie über Straftaten auf ihren Plattformen informiert werden, können sie (derzeit) nicht für Schäden haftbar gemacht werden, die durch die Verbreitung dieser Inhalte entstehen, außer im Falle einer gerichtlichen Anordnung“, so Mendes.

Zugleich stellt sich die Frage, wie Online-Dienste rechtssicher in Brasilien operieren können, wenn sie für die Inhalte Dritter unmittelbar haftbar gemacht werden können. Schließlich geht es um ein Land mit mehr als 210 Millionen Einwohner:innen. Umfragen zufolge verbringen sie im Schnitt mehr als 9 Stunden täglich im Netz. Proaktive, automatisierte Filtersysteme könnten zu Overblocking und Zensur führen; davor warnen insbesondere Minderheiten wie die LGBTIQ+-Community. Wirtschaftsverbände warnen wiederum davor, dass strenge Vorgaben nur von großen IT-Unternehmen umgesetzt werden könnten.

Am heutigen Donnerstag soll das Verfahren weitergehen. Dabei sollen Unklarheiten beseitigt werden, etwa, welche Online-Inhalte künftig als illegal behandelt werden sollen. Nach dem Urteil läge es am Parlament, ob es mit einem neuen Gesetz reagiert. Das könnte allerdings erneut vor dem Gericht landen, wenn Zweifel an seiner Verfassungsmäßigkeit bestehen.

Über all dem schwebt nicht zuletzt eine internationale Drohkulisse: So hatte US-Außenminister Marco Rubio angekündigt, Einreiseverbote gegen Menschen zu verhängen, die angeblich US-Amerikaner:innen oder Unternehmen zensieren würden. AP zufolge könnte dies unter anderem den Höchstrichter Alexandre de Moraes treffen, der sich wiederholt mit Bolsonaro und damit einem Verbündeten Donald Trumps angelegt hatte.