Als Moderation: X will Community Notes von KI verfassen lassen

Bald gibt es bei X „AI Note Writer“, also KI verfasste Hinweise zu Beiträgen. Community Notes werden auf der Plattform genutzt, um Beiträge zu korrigieren oder einzuordnen. Sie stehen unter einem Post, wenn entsprechende Schreiber meinen, es Bedarf eines Hinweises. Das soll eine Art Selbstkorrektur auf X mit sich bringen und Moderation ersetzen. Die KI-Hinweise werden aber nicht automatisch angezeigt. Menschen betreiben und kontrollieren sie. Zuständig für einen KI-Schreiber ist ein Community-Notes-Mitglied.

Community Notes sind ein komplexeres System, als es zunächst klingt. Nicht jeder kann sie verfassen, und für die Veröffentlichung bedarf es der Zustimmung anderer Verfasser – sie müssen den Inhalt der Notes oft genug als hilfreich markieren, erst dann werden sie sichtbar. So wird es auch für die KI-generierten Notes sein. Es handelt sich also quasi um Vorschläge von einer KI, Beiträge mit Notes zu versehen. Zudem sollen die KI-Hinweise deutlich als solche gekennzeichnet werden.

KI und Mensch ergänzen sich bei der Moderation

Zu Beginn, heißt es in einem X-Beitrag des Accounts für Community Notes, kann der AI-Note-Writer auch nicht einfach überall loslegen, sondern nur da Beiträge kommentieren, wo diese Kommentare verlangt werden. Wenn die ersten Tests erfolgreich sind, soll sich das ändern.

X verspricht sich davon schnellere und umfangreichere Community Notes. Das System soll sich quasi selbst verbessern, indem das Feedback der Community die KI-Agenten immer besser mache. Um das zu bestätigen, hat X eine auf arxiv verfügbare Studie gemeinsam mit dem MIT und der University of Washington herausgebracht, in der Wissenschaftler untersucht haben, inwieweit KI Menschen bei der Bewertung von Community Notes unterstützen kann. Sie nennen das Reinforcement Learning from Community Feedback (RLCF) – Menschen bekommen Feedback von KI – vice versa.

Community Notes nach dem Vorbild von X hat auch Meta für seine Plattformen angekündigt. Erste Feldtests laufen bereits. Mark Zuckerberg hofft darauf, dass die Hinweise der Community weniger voreingenommen seien als Faktenchecker. Verträge mit diesen hat er zumindest in den USA aufgelöst. Im selben Zug sind die Moderationsregeln auf Facebook, Instagram und Threads deutlich aufgeweicht worden. Auch hier soll die Community sich selbst maßregeln und weniger von oben herab vorgegeben werden.

(emw)