Desinformation: Russland soll an Wikipedia-Klon für KI-Chatbots arbeiten

Eine russische Desinformationskampagne soll gezielt auf KI-Chatbots ausgerichtet sein. Nach geleakten Dokumenten arbeitet eine sogenannte Trollfabrik an einem deutschsprachigen Wikipedia-Klon, dessen Inhalte von KI-Systemen als vermeintlich seriöse Quellen übernommen werden könnten.

Desinformationen über Umwege

Nach Angaben von Wikimedia Deutschland geht es dabei nicht nur um die direkte Verbreitung von Falschinformationen über soziale Netzwerke oder gefälschte Nachrichtenseiten. Stattdessen soll offenbar ein Umweg über generative KI genutzt werden. Die manipulierten Texte sollen so im Netz platziert werden, dass Chatbots sie bei deutschsprachigen Anfragen finden, als vertrauenswürdig einstufen und in ihre Antworten übernehmen.

Im Zentrum steht demnach die russische Social Design Agency, kurz SDA. Die Organisation wird bereits mit früheren Desinformationskampagnen in Verbindung gebracht, darunter der sogenannten Doppelgänger-Kampagne. Dabei wurden Webseiten und Social-Media-Auftritte bekannter Medien nachgeahmt, um antiwestliche und prorussische Inhalte zu verbreiten. Nun soll die SDA laut geleakten Dokumenten an einer Art Fake-Wikipedia für den deutschsprachigen Raum arbeiten.

Wikipedia als (vermeintlich) vertrauenswürdige Vorlage

Besonders problematisch ist der Ansatz, weil Wikipedia bei vielen Nutzern als verlässliche Quelle gilt und auch von KI-Systemen häufig als Grundlage für Antworten genutzt wird. Wird diese Vertrauenswürdigkeit durch äußerlich ähnliche, aber manipulierte Seiten nachgeahmt, können falsche oder verzerrte Darstellungen leichter in KI-Antworten gelangen. Wikimedia nennt als mögliche Themen unter anderem den russischen Angriffskrieg gegen die Ukraine oder den verstorbenen Oppositionellen Alexei Nawalny.

Den Berichten zufolge soll die geplante Datenbank bereits rund 200.000 Seiten umfassen. Monatlich sollen etwa 500 manuell verfälschte Artikel in KI-Plattformen eingespeist werden. Zugleich schränkt Wikimedia ein, dass bislang kein konkreter Fall bekannt sei, in dem eine solche Klon-Seite der SDA tatsächlich öffentlich aufgetaucht ist.

Russische Wikipedia-Kopie existiert bereits

Dass Russland bereits Erfahrung mit Wikipedia-Kopien hat, zeigt Ruwiki. Der Klon der russischsprachigen Wikipedia existiert seit Januar 2024 und enthält Inhalte, die an die offizielle russische Sichtweise angepasst wurden. Kritische Einträge wurden dabei entfernt oder umformuliert. Auch wissenschaftliche Untersuchungen zu Ruwiki kamen zu dem Ergebnis, dass in dem Projekt Inhalte der russischsprachigen Wikipedia kopiert und anschließend verändert wurden.

Prüfen, prüfen, prüfen

Der Fall verdeutlicht ein grundsätzliches Problem generativer KI. Chatbots liefern Antworten oft in einem geschlossenen Text, ohne dass Nutzer die verwendeten Quellen unmittelbar prüfen können. Werden manipulierte Webseiten gezielt für solche Systeme optimiert, kann Desinformation nicht nur über klassische Suchmaschinen, sondern auch über KI-Antworten verbreitet werden.

Wikimedia verweist deshalb auf die Bedeutung überprüfbarer Quellen, transparenter Belege und menschlicher redaktioneller Kontrolle. Für Nutzer bedeutet das, dass Antworten von Chatbots gerade bei politischen und gesellschaftlich umstrittenen Themen nicht ungeprüft übernommen werden sollten.