„Bits & Böses“: Wer moderiert den Hass im Netz?

Die Diskussionskultur im Internet hat sich in den letzten 25 Jahren verändert, nicht immer zum Guten. Kai-Uwe Lassowski, zuständig für das heise-Forum, das es seit über 25 Jahren gibt, beobachtet, dass das Internet „immer mehr zu einem Abbild der Gesellschaft wurde und dementsprechend auch ähnliche Probleme mit sich gebracht hat“. War es früher ein „kleiner Haufen Nerds, die da sich freundlich und interessiert ausgetauscht haben“, ist es heute eine „viel, viel breitere Masse“, die „ein anderes Empfinden hat an die Standards, die da herrschen sollten“.

Um einen freundlichen Umgangston zu gewährleisten, gibt es Nutzungsbedingungen, die Beleidigungen, diskriminierende Äußerungen oder Aufrufe zu Straftaten verbieten. Beiträge, die dagegen verstoßen, können gemeldet und gesperrt werden. Kai-Uwe Lassowski erklärt, dass im heise-Forum nur „zwei, drei Prozent aller Beiträge“ gesperrt werden. Die Moderation erfolgt anlassbezogen durch User-Meldungen oder durch ein System mit Schlagwörtern. Dabei muss der Kontext genau geprüft werden, denn manche Begriffe wie „Goldstück“ sind, obwohl auf den ersten Blick harmlos, im Kontext von Diskussionen über Flüchtlinge eine „rassistische Bezeichnung“.

Zahl der Hasspostings steigt massiv

Jutta Brennauer von den Neuen Deutschen Medienmacher*innen sieht einen Zusammenhang zwischen Hass im Netz und rechtsextremer Gewalt im analogen Raum. Zahlen des BKA belegen, dass die „große Mehrheit von digitaler Gewalt aus dem rechtsextremen Spektrum stammt“. Hasspostings verzeichneten 2024 einen Anstieg von 34 %. Die Studie „Lauter Hass, leiser Rückzug“ zeigt, dass fast jede zweite Person online beleidigt wurde und ein Viertel mit körperlicher Gewalt bedroht wurde. Jutta Brennauer betont: „Hass im Netz kann zwar alle treffen, aber er trifft nicht alle gleich.“ Besonders betroffen sind „junge Frauen, Menschen mit Rassismuserfahrung, queere Menschen, Menschen mit sichtbarem Migrationshintergrund“.

Digitale Gewalt hat ernste Folgen, die oft unterschätzt werden. „Nur weil er online erlebt wird, auf sozialen Medien zum Beispiel, hat er aber auch Auswirkungen auf die Offline-Welt“, erklärt Brennauer. Betroffene leiden unter „körperlichen, psychischen Folgen, aber auch beruflichen Folgen“, wie Depressionen oder Schlafstörungen. Journalist*innen ziehen sich aufgrund dieser Erfahrungen aus ihrem Beruf zurück. Die Verharmlosung digitaler Gewalt wird der Schwere des Themas nicht gerecht.

Frauen wird schnell die Kompetenz abgesprochen

Tabea Hartwich, Social-Media-Managerin bei der Heise Gruppe, berichtet, dass auf Unternehmensaccounts meist positive Resonanz herrscht. Anders ist es bei Videos, die Personen zeigen. „Da ist der Ton dann schon rauer geworden“. Frauen im technischen Bereich erleben häufig, dass ihnen „das Fachwissen abgesprochen wird“. Sie werden auch schnell aufgrund ihres Aussehens angegriffen, während bei Männern das Aussehen „überhaupt gar kein Thema“ ist. Sie führt das darauf zurück, dass Frauen mit Technik-Wissen „von der Norm abweichen, von dem, was die Menschen quasi sich vorstellen, wie jemand auszusehen hat“. Eine Kollegin zog sich nach „harschen Beleidigungen“ von der Kamera zurück. Das ist problematisch, da Frauen im MINT-Bereich unterrepräsentiert sind und der heranwachsenden Generation weibliche Vorbilder fehlen.

Die Moderation auf verschiedenen Plattformen unterscheidet sich. Tabea Hartwich beschreibt Facebook als die „kritischste Plattform“, auf der „die schlimmsten Kommentare geschrieben werden“ und sich Unterdiskussionen entwickeln. Hier hilft die Funktion, Kommentare zu verbergen. TikTok sei zumindest bei den von ihr betreuten Unternehmensaccounts „insgesamt ruhiger“. Aber wenn dort ein „Hate-Train losgefahren ist, dann kann man den nicht mehr aufhalten“. Social-Media-Manager*innen müssen Postings „sehr lange beobachten“, da Algorithmen alte Beiträge jederzeit wieder pushen können. Wenn der Hass sich nicht eindämmen lässt, muss ein Beitrag sogar offline genommen oder die Kommentarfunktion eingeschränkt werden.

Die Meldewege auf Plattformen sind oft nicht optimal, auch wenn der Digital Services Act (DSA) eine Standardisierung bringt. Jutta Brennauer und die Neuen deutschen Medienmacher*innen fordern „einfache und schnelle Meldewege“ sowie „sensibilisierte, besser geschulte Strafverfolgungsbehörden“. Nur fünf Prozent der Betroffenen entscheiden sich, Anzeige zu erstatten, da die Hürden zu hoch sind und Verfahren lange dauern und Kosten verursachen. Bislang brauchen Menschen, die sich öffentlich engagieren, ein dickes Fell. Doch Widerstand lohnt sich: Beleidigungen sind strafbar und können vor Gericht kommen.

„Bits & Böses“ erscheint alle zwei Wochen überall, wo es Podcasts gibt. Wenn Sie keine Folge verpassen wollen, können Sie „Bits & Böses“ hier abonnieren.

(igr)