Meta setzt verstärkt auf KI-Moderation statt menschlicher Prüfer

Meta will die Moderation der Inhalte in seinen Netzwerken bis Ende des Jahres weitgehend automatisieren. Bereits jetzt hätten Large Language Models (LLMs) laut Financial Times die Hälfte aller menschlichen Überprüfungsanfragen ersetzt. Bis Ende 2026 soll der Anteil weiter sinken, sodass bei bestimmten Inhaltstypen neun von zehn Moderationen durch die KI erledigt werden. Meta soll die Umwandlung laut Informanten vor allem deshalb vorantreiben, um die enormen KI-Investitionen des Unternehmens gegenzufinanzieren. Der KI-Einsatz spare Milliarden US-Dollar ein. Meta selbst bestreitet dies. Bereits Anfang 2026 hatte Meta-Chef Mark Zuckerberg angekündigt, einzelne Mitarbeiter mit KI-Werkzeugen so auszurüsten, dass sie Aufgaben ganzer Abteilungen übernehmen können.

Die Konzernmutter von Facebook, Threads und Instagram nutzte bislang eine Mischung aus automatisierten Systemen und menschlichen Prüfern, wobei ein Teil davon von Vertragsfirmen übernommen wurde. Die bisherigen Machine-Learning-Tools hätten sich jedoch teilweise mit Satire und Veränderungen in der Alltagssprache schwer getan. Meta selbst begründet den KI-Vorstoß laut FT mit einer Qualitätsverbesserung. Interne Tests hätten gezeigt, dass LLMs im Schnitt 13 Prozent weniger Fehler machen würden und 10 Prozent mehr Verstöße finden als Menschen.

Wechsel von Google Gemini zu Muse Spark

Die Umstellung führt zur Entlassung von Mitarbeitern. Betroffen seien zunächst vor allem Vertragsfirmen, deren Verträge nicht verlängert werden. Bereits im Frühjahr hatte Meta angekündigt, rund zehn Prozent der Belegschaft zu entlassen und gleichzeitig tausende Mitarbeiter in neue KI-Abteilungen zu versetzen. Letztlich dürfte ein hoher Automatisierungsgrad aber auch bei Meta selbst zu Einsparungen beim Personal führen.

Bislang soll Meta für die KI-Moderation Google Gemini eingesetzt haben. Die LLMs seien unter anderem mit früheren Entscheidungen menschlicher Prüfer bei Widerspruchsverfahren trainiert worden. Inzwischen wurden Mitarbeiter aber angewiesen, auf Metas eigenes Modell Muse Spark, dem ersten Modell der Muse-Reihe von Metas Superintelligence Labs umzusteigen. Schon im Juni 2025 hatte Meta begonnen, auch Risikoprüfungen für neue Funktionen weitgehend durch KI zu ersetzen – damals ging es um Datenschutz- und Integritätsbewertungen für Facebook, Instagram und WhatsApp. Laut Informationen der FT soll es intern Kritik geben, dass die KI-Moderation zu schnell ausgerollt wird. Die LLMs machten Fehler wie das Sperren oder Unsichtbarmachen von harmlosen Inhalten. Zudem gebe es unzureichende Metriken zur Leistungsmessung. Meta weist dies zurück.

(mki)