Ein Reddit-Alt, ein anonymer LinkedIn-Kommentar oder ein pseudonymer Thread auf Hacker News galten lange als vergleichsweise sichere Wege, unerkannt im Netz zu agieren. Doch die Studie Large-scale online deanonymization with LLM agents, an der unter anderem Forschende der ETH Zürich und der University of Washington beteiligt waren, zeigt, wie leistungsfähig große Sprachmodelle inzwischen bei der Zuordnung pseudonymer Accounts werden.

Wer also noch glaubt, dank eines Nicknames wirklich anonym zu bleiben, könnte sich täuschen. Denn was Menschen beim Lesen oft übersehen, kann KI inzwischen systematisch erkennen: Muster in Sprache, Interessen oder biografischen Details lassen sich automatisiert analysieren und über Plattformen hinweg miteinander verknüpfen. Über die Analyse berichten unter anderem The Verge und The Guardian. In der Studie untersuchten die Forschenden, wie LLM-Agents öffentlich verfügbare Informationen auswerten und Profile plattformübergreifend miteinander abgleichen können. Die Forschung wurde von der ETH Zürich geleitet, wo auch die zentralen Experimente durchgeführt wurden. Der KI-Sicherheitsforscher Nicholas Carlini von Anthropic unterstützte das Team zusätzlich als wissenschaftlicher Berater.

OpenAI erreicht neues User- und Abo-Hoch:
Stoppt CancelChatGPT den Höhenflug?

Dein Schreibstil ist dein digitaler Fingerabdruck

Die Untersuchung zeigt, dass zur Identifizierung weder Hacks noch Datenlecks nötig sind. Oft reichen bereits Informationen, die Nutzer:innen selbst veröffentlichen. Die in der Studie eingesetzten LLMs analysieren Texte aus anonymen Accounts und suchen im Netz nach wiederkehrenden Mustern. Dabei erkennen sie typische Signale, die Rückschlüsse auf eine Person zulassen können, etwa:

• Schreibstil
• Wortwahl und Satzstruktur
• Interessen und Fachbegriffe
• biografische Hinweise aus Posts

Diese Informationen werden anschließend mit Profilen auf anderen Plattformen abgeglichen. Ziel ist es, mögliche Identitäten hinter pseudonymen Accounts zu identifizieren. Die Ergebnisse sind bemerkenswert. In Tests konnte das System Accounts mit einer Trefferquote von 68 Prozent bei 90 Prozent Präzision den dahinterstehenden Personen zuordnen. Grundlage waren Datensätze aus Plattformen wie Reddit, Hacker News und LinkedIn sowie Interview-Transkripte.

Ein Beispiel aus der Studie zeigt, wie die Methode funktioniert. Ein anonymes Konto berichtet etwa über schulische Schwierigkeiten und erwähnt Spaziergänge mit seinem Hund Biscuit im Dolores Park. Die KI durchsucht anschließend andere Plattformen nach Profilen mit ähnlichen Details und konnte so den anonymen Account @anon_user42 zuordnen. Voraussetzung dafür ist jedoch, dass irgendwo im Netz öffentliche Informationen existieren, etwa ein Profil mit Klarnamen, persönliche Posts oder andere Hinweise, die eine Verbindung ermöglichen. Erst durch solche übereinstimmenden Details kann die KI mehrere Profile derselben Person miteinander verknüpfen. Je mehr Inhalte ein anonymer Account veröffentlicht, desto leichter lässt er sich enttarnen.

Wer heute im Netz anonym bleiben möchte, müsste seine Accounts deshalb deutlich stärker voneinander trennen. Mögliche Gegenmaßnahmen wären etwa:

• bewusst unterschiedliche Schreibstile verwenden
• unterschiedliche Accounts konsequent voneinander trennen
• keine biografischen Details teilen
• wiederkehrende Interessen oder Themen nicht plattformübergreifend posten
• keine spezifischen Ortsangaben oder persönlichen Routinen erwähnen
• unterschiedliche Nutzungszeiten oder Aktivitätsmuster verwenden
• keine identischen Emojis, Formulierungen oder Redewendungen nutzen

Große Sprachmodelle können solche Analysen erstmals kostengünstig skalieren. Was früher Stunden oder sogar Tage manueller Recherche erforderte, lässt sich heute automatisiert durchführen. Gleichzeitig bleiben die Kosten niedrig. Laut der Studie kann eine Analyse lediglich ein bis vier US-Dollar pro Profil kosten. Die KI-Forscher Simon Lermen und Daniel Paleka erklärten, dass LLMs damit „eine grundlegende Neubewertung dessen erzwingen könnten, was im Internet noch als privat gilt“.

Die Risiken der KI-Deanonymisierung: Betrug, Fehlzuordnungen und Druck auf Whistleblower

Die KI-gestützte Überwachung entwickelt sich zu einem schnell wachsenden Forschungsfeld, das bei Informatiker:innen und Datenschutzexpert:innen zunehmend Besorgnis auslöst. Große Sprachmodelle können enorme Mengen öffentlich zugänglicher Informationen über Personen sammeln und miteinander verknüpfen. Für Menschen wäre eine solche Analyse kaum zu bewältigen, für KI lässt sie sich dagegen automatisieren und in großem Maßstab durchführen. Noch handelt es sich allerdings nicht um ein perfektes Überwachungssystem. Die Experimente wurden mit kuratierten Datensätzen durchgeführt, das zugrunde liegende Paper ist bislang nicht peer-reviewed und die Methode wurde nicht mit realen anonymen Accounts im offenen Internet getestet.

Potenzielle Vorteile solcher Technologien liegen vor allem im Bereich der Analyse und Moderation digitaler Kommunikation. KI-Systeme könnten etwa helfen, koordinierte Desinformationskampagnen aufzudecken, Bot-Netzwerke zu identifizieren oder orchestrierte Einflussversuche schneller zu erkennen. Gerade für Plattformen, die mit Manipulation, Fake Accounts oder organisierten Kampagnen kämpfen, könnte eine solche Analyse ein nützliches Werkzeug sein.

Der KI-Forscher Simon Lermen weist jedoch darauf hin, dass öffentlich zugängliche Informationen über Bürger:innen bereits heute „direkt für Betrug missbraucht werden“ könnten. Ein Beispiel ist Spear Phishing. Dabei sammeln Angreifer:innen gezielt Informationen über eine Person – etwa aus Social-Media-Profilen, Kommentaren oder Forenbeiträgen – und nutzen diese, um besonders glaubwürdige Betrugsnachrichten zu erstellen. Die Nachricht wirkt dann so, als käme sie von einer vertrauten Person oder einem bekannten Unternehmen und enthält häufig einen Link oder eine Bitte um persönliche Daten. Durch KI wird dieser Betrugsprozess deutlich einfacher. Große Sprachmodelle können Informationen über eine Person automatisch zusammentragen und daraus personalisierte Nachrichten formulieren.

Ein weiteres Risiko sind mögliche Fehlzuordnungen. Der Informatikprofessor Peter Bentley vom University College London warnt, dass KI-Systeme Accounts auch falsch miteinander verknüpfen könnten. Im schlimmsten Fall könnten Menschen dadurch für Aussagen verantwortlich gemacht werden, die sie nie getätigt haben.

Besonders kritisch ist die Entwicklung zudem für Menschen, die bewusst unter Pseudonym kommunizieren. Dazu zählen etwa Aktivist:innen, Journalist:innen oder Mitarbeitende, die Missstände anonym öffentlich machen wollen. Wenn sich solche Accounts durch KI leichter einer realen Person zuordnen lassen, könnten Betroffene schneller identifiziert und unter Druck gesetzt werden, etwa durch Belästigung im Netz, berufliche Konsequenzen oder rechtliche Schritte.

Wie sieht die Zukunft der Online-Anonymität im KI-Zeitalter aus?

Online-Anonymität verschwindet durch solche Technologien nicht sofort. Sie wird jedoch deutlich fragiler. Wer über verschiedene Plattformen hinweg ähnliche Interessen, Geschichten oder Schreibweisen teilt, hinterlässt einen digitalen Fingerabdruck. Genau diese digitalen Spuren können große Sprachmodelle heute schneller erkennen, analysieren und miteinander verknüpfen als Menschen.

Das hat zwei Seiten. Einerseits könnten solche Systeme Plattformen dabei helfen, Manipulation im Netz besser zu erkennen. Probleme wie Hate Speech, Bot-Netzwerke oder koordinierte Desinformation beschäftigen Social-Media-Dienste seit Jahren. Besonders schwer zu kontrollieren sind sogenannte Sockpuppet Accounts, also mehrere Profile, die von einer Person gesteuert werden, um Diskussionen gezielt zu beeinflussen oder künstlich Reichweite zu erzeugen. Wenn Systeme Schreibmuster, Inhalte und biografische Hinweise analysieren, lassen sich möglicherweise orchestrierte Debatten, Astroturfing-Kampagnen oder koordinierte Einflussversuche schneller identifizieren. Gerade für Community-Plattformen und Diskussionsnetzwerke wie Reddit, X, Threads oder Discord wäre das relevant.

Gleichzeitig zeigt die Forschung, wie leicht sich digitale Spuren im Netz zusammenführen lassen – und wie schnell sie für Betrug missbraucht oder für Datenschutzangriffe eingesetzt werden könnten. Mit immer leistungsfähigeren KI-Systemen wird Online-Anonymität zunehmend brüchiger. In Zukunft dürfte sie weniger eine Frage des Nicknames sein, sondern vielmehr davon abhängen, wie konsequent digitale Spuren getrennt werden.

Für die einen sind Likes und Reposts eine zentrale Erfolgsmetrik für ihren Instagram Content, für die anderen ist die Anzeige derselben bloß eine Ablenkung bei der Rezeption. Deshalb erweitert Instagram für erste User die Optionen in Bezug auf die personalisierte Ansicht der Inhalte. Ein Versteck-Feature für Activity Bubbles ist aufgetaucht.

Instagram Grid mit neuer Ansicht anpassen:

So geht’s

Feature mit Haken für Creator: Keine Activty Bubbles in Feed und Reels

Instagram erfreut die Creator und User stetig mit neuen Funktionen zur Optimierung von Inhalten und zur Verbesserung der Plattformerfahrung insgesamt. So können Creator inzwischen beispielsweise ihre Visuals im Grid mit einem einfachen Drag-and-zoom Feature anpassen, um sich quasi einen neuen Look in diesem so wichtigen Bereich für die Außendarstellung zu verpassen.

Die Außendarstellung der eigenen Inhalte im Feed und in den Reels ist indes auch geprägt von zahlenbasierten Informationen zur Performance. Die Zahl der Likes, Kommentare, Reposts, Shares und Saves wird direkt parallel zu Inhalten angezeigt. Eine cleanere Anzeige für die Reels beispielsweise bietet der Vollbildmodus, in dem die Aktivitätsinformationen, aber auch die Creator-Angaben und die Caption ausgeblendet werden. Mit einem neuen Feature können die Instagram User allerdings alle nützlichen Informationen zum Inhalt einsehen, darunter die Namen der Creator und Captions, während die Activity Bubbles ausgeblendet werden. Eine entsprechende Funktion entdeckten die App Researcher Ahmed Ghanem und Saad Jawwadh. Dabei finden die ersten User aus der Testgruppe die Option in den Einstellungen im Bereich „Content-Präferenzen“.

Ein User kommentierte unter Jawwadhs Post zum Feature, dass er sich wünscht, selbst entscheiden zu können, seine eigenen Activity Bubbles für Dritte verbergen zu können.

Dabei ist es bereits möglich, sowohl bei Posts im Feed als auch Reels die Anzahl der geteilten Inhalte, der Likes oder Saves für andere auszublenden und Kommentare zu deaktivieren. Das Feature zum Ausblenden der Activity Bubbles wiederum soll womöglich schlicht und einfach die Viewing-Qualität der User verbessern und die Personalisierung der Plattformerfahrung vorantreiben. Problematisch könnte dabei sein, dass Creator nicht wissen, ob User ihre Performance-Zahlen wahrnehmen und somit potentiell auch positive Konnotationen wie: „Wow, der Beitrag ist bereits 1.000 Mal repostet worden, da steckt vielleicht viel Spannendes drin.“

Wir selbst haben bisher keinen Zugriff auf die Funktion, haben aber die Option, die Content-Empfehlungen zurücksetzen zu lassen. Diese wurde 2024 eingeführt und bietet einen klaren Cut für die Feed-Gestaltung.

---

Don’t do it perfect:

Instagrams neue Dos und Don’ts für Reels

Mark Forster wirbt für Kaufland

Die Zeichen waren eigentlich recht eindeutig. In gleich mehreren Social-Media-Clips hatte Mark Forster zuletzt mit Kaufland geflirtet. Eindeutig! Doch auf den letzten Drücker macht der Singer und Songwriter („Bauch und Kopf“, „Au Revoir“) jetzt einen Rückzieher. Oder ist das alles etwa Teil der Werbegeschichte?

Fans von Mark Forster werden sich in der vergangenen Woche ihren Teil gedacht haben. Mal besang der 43-Jährige als Chansonnier – frisch wie der Chicorée – mit akustischer Gitarre bewaffnet den ebenso frischen Brokkoli, der „im schönen Kaufland“ feilgeboten wird, wie er in einem der Clips schwärmte. In weiteren Videos regierte der wohl bekannteste deutsche Mützenträger als Trap-Rapper und angeblicher Kaufland-Präsident den Gemüsestand der Lebensmittelkette und pries in typischem Mark-Forster-Sound die Bioqualität des Vollsortimenters an. Doch aus der Partnerschaft wird jetzt doch nichts. Angeblich.