Gefälschte Reddit-Beiträge: Unternehmen manipulieren ChatGPT und Googles KI-Suche

Unternehmen versuchen mit Spam-Beiträgen auf Reddit, die Antworten in Chatbots wie ChatGPT und Googles KI-Suche zu manipulieren. Das Ziel ist, das Quellenmaterial zu verändern, das die Grundlage für die generierte Antwort ist.

404Media berichtet von Vorfällen im Biohacking-Subreddit. Dessen Moderatoren erklären, dass Unternehmen aus dem Bereich der Peptid- und Hormonersatztherapien (HRT) heimlich das Forum mit Beiträgen überfluten. Um den Missbrauch einzudämmen, lautet die neue Vorgabe im r/biohackers-Subreddit, dass sämtliche neuen Beiträge zu den Themen Peptide und HRT verboten sind.

KI-Antworten über die Datenbasis manipulieren

Was 404Media beschreibt, ist ein Phänomen, das in Marketing-Kreisen als AI Engine Optimization (AEO) bezeichnet wird. Reddit gilt seit Langem als erste Anlaufstelle, um die Antworten der Chatbots zu manipulieren.

Das Portal ist bei den KI-Assistenten beliebt. Je nach Analyse taucht Reddit in fünf bis zehn Prozent der KI-Antworten als Quelle auf, abhängig vom Thema kann der Wert sogar deutlich höher ausfallen. Google hat zudem ein Abkommen mit Reddit geschlossen, was den Wert der Beiträge für die Suchmaschine unterstreicht.

Dementsprechend lukrativ ist es für Unternehmen aus verschiedenen Branchen, systematisch Inhalte einzuschleusen, die KI-Antworten manipulieren sollen. Im Fall des r/biohackers-Subreddits überschwemmte die Welle an neuen Peptid- und HRT-Inhalten reguläre Beiträge. Laut den neuen Vorgaben sollen Diskussionen zu dem Thema nur noch in zwei Megathreads laufen, die wöchentlich erneuert werden. Auf diese Weise will man das „Rauschen“ eindämmen, das die Spam-Beiträge verursachen.

Reddits Jagd nach manipulierten Inhalten

Die Beispiele stehen dennoch für ein Kernproblem des KI-Zeitalters. Indem Chatbots als zentralisierte Instanz für Antworten in den Mittelpunkt rücken, steigt der Anreiz, die Wissensbasis zu manipulieren. Es ist die nächste Stufe von SEO-Spam.

Für Plattformen wie Reddit sind solche Inhalte laut dem Bericht von 404Media immer schwerer zu erkennen, weil die Unternehmen immer professioneller vorgehen. Kritisch ist insbesondere, wenn es um fragwürdige Produkte in Bereichen wie Gesundheit und Medizin geht. Denn diese können eine Gefahr für Nutzer darstellen.

Ein Reddit-Sprecher sagte zu 404Media, dass man ständig an neuen Tools arbeite, die die Moderatoren unterstützen sollen. Manipulationen habe man dabei im Blick. Ein Moderator erklärt laut dem Bericht aber, dass der Einsatz nicht immer einfach ist. Weil es sich um Mustererkennung handelt, bestehe ein reales Risiko für übermäßige Moderation.