UPDATE (12. Dezember 2025)

Mit GPT-5.2 veröffentlichte OpenAI jüngst das bislang leistungsstärkste Modell für den professionellen Einsatz. Die Nutzung der ChatGPT App dürfte damit nochmal angekurbelt werden; in den USA ist sie zur am meisten heruntergeladenen iPhone App des Jahres aufgestiegen und liegt damit vor Instagram, TikTok und Google.

Zusätzlichen Schub könnte der angekündigte Adult Mode bringen. Laut dem OpenAI Management soll er im ersten Quartal 2026 starten, wie unter anderem The Verge berichtet. Erwachsene Nutzer:innen sollen damit freier, persönlicher und auch erotischer mit ChatGPT interagieren können. OpenAI verweist dabei ausdrücklich auf Age Gating sowie klar getrennte Nutzungserfahrungen für Minderjährige und Erwachsene.

Adult Mode: Wie hoch ist das Risiko?

Genau hier setzt jedoch die Kritik an. Zweifel gibt es vor allem daran, ob Altersverifikation im Alltag zuverlässig genug funktioniert, insbesondere dann, wenn sich der Adult Mode perspektivisch nicht nur auf Text, sondern auch auf Bild- und Videogenerierung ausdehnt. Beispiele aus dem KI-Umfeld zeigen bereits heute, wie schnell sexualisierte oder erotische Inhalte entstehen können, die rechtliche und ethische Grauzonen berühren: von realistisch wirkenden Darstellungen über problematische Rollenmuster bis hin zu Inhalten, die Abhängigkeits- oder Objektifizierungsdynamiken verstärken. Für OpenAI wird der Umgang damit zur Gratwanderung.

OpenAIs CEO Sam Altman hatte bereits mehrfach betont, ChatGPT solle sich stärker an den Wünschen der Nutzer:innen orientieren dürfen, etwa als freundschaftliche Gesprächspartner:innen oder mit individuell geprägter Tonalität. Erotik bezeichnete er dabei ausdrücklich als legitime Option für Erwachsene, nicht als voreingestellten Standard.

Gleichzeitig reagiert OpenAI mit dem Adult Mode auch auf den Wettbewerbsdruck. Andere KI-Angebote wie der Spicy Mode von Grok erlauben bereits explizite Inhalte. Offen bleibt jedoch, wie belastbar die Schutzmechanismen in der Praxis sind – und wie OpenAI mit dem Risiko umgeht, dass Nutzer:innen emotionale oder intime Bindungen zu KI-Systemen aufbauen. Denn die gesellschaftlichen, ethischen und regulatorischen Konsequenzen sind noch längst nicht abschließend verhandelt.

Es bleibt trotz der Maßnahmen kritisch, Nutzer:innen durch Features und und Modes zu ermutigen, emotionale Bindungen zu einer künstlichen Intelligenz aufzubauen. Eine zu Jahresbeginn im Journal of Social and Personal Relationships veröffentlichte Studie, auf die Gizmodo im Rahmen der Berichterstattung hinweist, zeigt, dass Erwachsene mit engen emotionalen Beziehungen zu KI-Chatbots signifikant häufiger über psychische Belastungen berichten als Personen ohne solche Bindungen. Weitere Untersuchungen deuten darauf hin, dass insbesondere Menschen mit wenigen stabilen sozialen Kontakten dazu neigen, KI-Chatbots als Vertrauenspersonen zu nutzen. Auch OpenAI hat in der Vergangenheit eingeräumt, dass einzelne Nutzer:innen ein Risiko für emotionale Abhängigkeiten entwickeln können.

Dieser Beitrag erschien erstmals am 15. Oktober 2025.

Wenn der AI Chatbot als Sparrings-Partner:in für sexuelle Fantasien herhält, dann ist das einerseits ein Zeichen der Zeit, andererseits ein Einfallstor für Kritik am Geschäftsmodell. OpenAI möchte ChatGPT derart optimieren, dass User wieder mehr unterhaltsame Konversationen mit der KI führen können, die menschlicher und mehr wie Freund:innen daherkommen soll – egal ob mit personalisiertem Emoji-Sprech oder erotischen Botschaften. Denn im Rahmen des Age Gating soll auch Erotika für Erwachsene ermöglicht werden. Während CEO Sam Altman Usage Maxxing dementiert, könnten diese angekündigten Veränderungen genau das bewirken: ein Wachstum der User-Basis, die bereits bei über 800 Millionen pro Woche liegt. Gleichzeitig eröffnen sich mit weniger Restriktionen für den Chatbot große Problemfelder.

Bald schon Werbung in ChatGPT:

OpenAI bricht offenbar mit dem eigenen Prinzip

ChatGPT wie mit GPT-4o: Darum minimiert OpenAI die Restriktionen

In einem ausführlichen X Post erklärt Sam Altman, dass OpenAI eine Reihe von Restriktionen für den Chatbot ChatGPT zurückziehen wird. Diese wurden im Rahmen von Sicherheitsvorkehrungen im Mental-Health-Kontext integriert. Als Auslöser für diese Restriktionen können mehrere Momente gelten. Im Frühjahr reagierte das Unternehmen darauf, dass das Modell GPT-4o sich als geradezu speichelleckerisch erwies und Usern auf sehr persönlicher Ebene begegnete. Im Sommer 2025 wurde OpenAI zudem von den Eltern eines Jugendlichen verklagt, der sich im Anschluss an eine sehr enge Beziehung zu ChatGPT das Leben nahm. Er sprach mit dem AI Bot über seine Suizidpläne, erhielt aber nicht die nötige Hilfe, es seien keine relevanten Warnungen ausgegeben worden.

Inzwischen geht aber Sam Altman davon aus, dass das Unternehmen die gröbsten Mental-Health-Probleme so weit gemindert hat, dass man einige Restriktionen wieder aufheben kann. Dazu kommt, dass OpenAI kürzlich umfassende Elternkontrollen gelauncht und ein Expert Council on Well-Being and AI integriert hat. Auch ein Global Physician Network soll das Modellverhalten optimieren, gerade in Bezug auf psychische Probleme. Deshalb erlaubt OpenAI in den kommenden Wochen wieder eine überaus persönliche Kommunikation mit ChatGPT. Altman schreibt, dass das Tool dann wieder mehr wie das beliebte Modell GPT-4o agieren soll. Dieses wurde im Sommer von GPT-5 als Default abgelöst. Doch User waren zunächst enttäuscht und forderten – mit Erfolg – GPT-4o als Option zurück, weil sie zuweilen die persönliche Ansprache bei ChatGPT in diesem Modell vermissten. Altman erklärt:

[…] If you want your ChatGPT to respond in a very human-like way, or use a ton of emoji, or act like a friend, ChatGPT should do it (but only if you want it, not because we are usage-maxxing) […].

Ab Dezember setzt das Unternehmen überdies das Age Gating im großen Stil um. Damit sollen Minderjährige besser geschützt werden, aber Erwachsene eher „wie Erwachsene“ behandelt werden. Darum können sie dann auch auf erotische Konversationen mit ChatGPT bauen.

We made ChatGPT pretty restrictive to make sure we were being careful with mental health issues. We realize this made it less useful/enjoyable to many users who had no mental health problems, but given the seriousness of the issue we wanted to get this right.

Now that we have…

— Sam Altman (@sama) October 14, 2025

Chancen Probleme mit AI-Erotik: User-Interesse und Verletzlichkeit

Sofern ChatGPT erotische Chats erlaubt, könnte das das Interesse vieler User fördern und sogar zu einem User-Gewinn führen. Dass Sexualität sowie Erotik und digitale Rezeption eng zusammenhängen können, zeigt ein Blick auf die meistgenutzten Websites der Welt, diverse Trend-Podcasts und nicht zuletzt populäre Serienformate oder Hit Songs. Auch im Kontext von generativer KI sind sexualisierte Funktionen längst angekommen. X beispielsweise erlaubt Pornographie auf der Plattform und lässt User über den KI Bot Grok mit Grok Imagine sogar NSFW Content erstellen.

---

Grok Imagine mit Spicy Mode jetzt for free

---

Die Meta AI erlaubte zuletzt ebenso sexuell aufgeladene Konversationen und wurde scharf dafür kritisiert, dass auch Kinder solchen Chats ausgesetzt worden waren. Bei vielen Bild- und Videogeneratoren mit KI-Support gibt es zwar Einschränkungen, doch die lassen sich zum Teil sogar aushebeln. Dass OpenAI nun ebenfalls Erotika als Option für erwachsene User ermöglichen möchte, ist nicht per se problematisch, stellt der Bereich doch nur einen weiteren Nutzungskontext dar. Zum Problem könnte der Aspekte jedoch werden, wenn Kinder und Jugendliche die Altersschranken überwinden oder durch Bugs die sexualisierten Chats nutzen könnten. Des Weiteren läuft das Unternehmen Gefahr, daran teilzuhaben, wenn mehr und mehr Menschen enge erotische Beziehungen zu KI-Bots aufbauen. Dafür gibt es schon jetzt viele Beispiele. Amelia Gentleman schrieb zudem kürzlich für The Guardian über den Aufstieg von AI Girlfriends, die für manche Unternehmen oder Creator längst zum Geschäftsmodell avanciert sind.

KI-Beziehungen können das Bild von zwischenmenschlichen Beziehungen stark beeinträchtigen und unüberlegte Entscheidungen fördern. All das sind nur potentielle Probleme für OpenAI; noch ist nicht klar, in welchem Ausmaß das Unternehmen erotische Konversationen ermöglichen wird. Doch die Ankündigung untermauert, wie sehr sich ChatGPT und ähnliche KI-Bots, von Claude bis Gemini, als Raum für zahlreiche Interaktionen im Alltag etablieren: von der Suche über das Shopping bis hin zur Lehre und Erotik. Das ist Teil einer neuen Realität im KI-Zeitalter, aber einer, die viele Fallstricke mit sich bringt, die wir womöglich erst einige Zeit später im vollen Ausmaß sehen können. Der Aufstieg hochleistungsfähiger KI-Videomodelle und die Entwicklung der Speech-to-Speech-Modelle dürften indes dafür sorgen, dass KI-Erotik schon bald ein neues Level erreicht.

---

Trotz invite-only:

Sora App fast so erfolgreich wie ChatGPT zum Start

2004 startete Dove seine Real-Beauty-Initiative – heute gilt sie als Pionier unter den Haltungskampagnen

Über Sinn und Unsinn von Diversität im Marketing wird immer wieder gerne diskutiert. Gerade der Umgang der Werbebranche mit Frauen als Zielgruppe zeigt, wie wichtig das Thema immer noch ist. Kurz nach dem Weltfrauentag blicken wir zurück auf die Entwicklung von sexistischen Kampagnen hin zu einem modernen Frauenbild.

Es ist ein etabliertes Ritual der Branche: Alle sechs Monate berichtet der Deutsche Werberat über die eingegangenen Beschwerden gegen Werbekampag

Ein Reddit-Alt, ein anonymer LinkedIn-Kommentar oder ein pseudonymer Thread auf Hacker News galten lange als vergleichsweise sichere Wege, unerkannt im Netz zu agieren. Doch die Studie Large-scale online deanonymization with LLM agents, an der unter anderem Forschende der ETH Zürich und der University of Washington beteiligt waren, zeigt, wie leistungsfähig große Sprachmodelle inzwischen bei der Zuordnung pseudonymer Accounts werden.

Wer also noch glaubt, dank eines Nicknames wirklich anonym zu bleiben, könnte sich täuschen. Denn was Menschen beim Lesen oft übersehen, kann KI inzwischen systematisch erkennen: Muster in Sprache, Interessen oder biografischen Details lassen sich automatisiert analysieren und über Plattformen hinweg miteinander verknüpfen. Über die Analyse berichten unter anderem The Verge und The Guardian. In der Studie untersuchten die Forschenden, wie LLM-Agents öffentlich verfügbare Informationen auswerten und Profile plattformübergreifend miteinander abgleichen können. Die Forschung wurde von der ETH Zürich geleitet, wo auch die zentralen Experimente durchgeführt wurden. Der KI-Sicherheitsforscher Nicholas Carlini von Anthropic unterstützte das Team zusätzlich als wissenschaftlicher Berater.

OpenAI erreicht neues User- und Abo-Hoch:
Stoppt CancelChatGPT den Höhenflug?

Dein Schreibstil ist dein digitaler Fingerabdruck

Die Untersuchung zeigt, dass zur Identifizierung weder Hacks noch Datenlecks nötig sind. Oft reichen bereits Informationen, die Nutzer:innen selbst veröffentlichen. Die in der Studie eingesetzten LLMs analysieren Texte aus anonymen Accounts und suchen im Netz nach wiederkehrenden Mustern. Dabei erkennen sie typische Signale, die Rückschlüsse auf eine Person zulassen können, etwa:

• Schreibstil
• Wortwahl und Satzstruktur
• Interessen und Fachbegriffe
• biografische Hinweise aus Posts

Diese Informationen werden anschließend mit Profilen auf anderen Plattformen abgeglichen. Ziel ist es, mögliche Identitäten hinter pseudonymen Accounts zu identifizieren. Die Ergebnisse sind bemerkenswert. In Tests konnte das System Accounts mit einer Trefferquote von 68 Prozent bei 90 Prozent Präzision den dahinterstehenden Personen zuordnen. Grundlage waren Datensätze aus Plattformen wie Reddit, Hacker News und LinkedIn sowie Interview-Transkripte.

Ein Beispiel aus der Studie zeigt, wie die Methode funktioniert. Ein anonymes Konto berichtet etwa über schulische Schwierigkeiten und erwähnt Spaziergänge mit seinem Hund Biscuit im Dolores Park. Die KI durchsucht anschließend andere Plattformen nach Profilen mit ähnlichen Details und konnte so den anonymen Account @anon_user42 zuordnen. Voraussetzung dafür ist jedoch, dass irgendwo im Netz öffentliche Informationen existieren, etwa ein Profil mit Klarnamen, persönliche Posts oder andere Hinweise, die eine Verbindung ermöglichen. Erst durch solche übereinstimmenden Details kann die KI mehrere Profile derselben Person miteinander verknüpfen. Je mehr Inhalte ein anonymer Account veröffentlicht, desto leichter lässt er sich enttarnen.

Wer heute im Netz anonym bleiben möchte, müsste seine Accounts deshalb deutlich stärker voneinander trennen. Mögliche Gegenmaßnahmen wären etwa:

• bewusst unterschiedliche Schreibstile verwenden
• unterschiedliche Accounts konsequent voneinander trennen
• keine biografischen Details teilen
• wiederkehrende Interessen oder Themen nicht plattformübergreifend posten
• keine spezifischen Ortsangaben oder persönlichen Routinen erwähnen
• unterschiedliche Nutzungszeiten oder Aktivitätsmuster verwenden
• keine identischen Emojis, Formulierungen oder Redewendungen nutzen

Große Sprachmodelle können solche Analysen erstmals kostengünstig skalieren. Was früher Stunden oder sogar Tage manueller Recherche erforderte, lässt sich heute automatisiert durchführen. Gleichzeitig bleiben die Kosten niedrig. Laut der Studie kann eine Analyse lediglich ein bis vier US-Dollar pro Profil kosten. Die KI-Forscher Simon Lermen und Daniel Paleka erklärten, dass LLMs damit „eine grundlegende Neubewertung dessen erzwingen könnten, was im Internet noch als privat gilt“.

Die Risiken der KI-Deanonymisierung: Betrug, Fehlzuordnungen und Druck auf Whistleblower

Die KI-gestützte Überwachung entwickelt sich zu einem schnell wachsenden Forschungsfeld, das bei Informatiker:innen und Datenschutzexpert:innen zunehmend Besorgnis auslöst. Große Sprachmodelle können enorme Mengen öffentlich zugänglicher Informationen über Personen sammeln und miteinander verknüpfen. Für Menschen wäre eine solche Analyse kaum zu bewältigen, für KI lässt sie sich dagegen automatisieren und in großem Maßstab durchführen. Noch handelt es sich allerdings nicht um ein perfektes Überwachungssystem. Die Experimente wurden mit kuratierten Datensätzen durchgeführt, das zugrunde liegende Paper ist bislang nicht peer-reviewed und die Methode wurde nicht mit realen anonymen Accounts im offenen Internet getestet.

Potenzielle Vorteile solcher Technologien liegen vor allem im Bereich der Analyse und Moderation digitaler Kommunikation. KI-Systeme könnten etwa helfen, koordinierte Desinformationskampagnen aufzudecken, Bot-Netzwerke zu identifizieren oder orchestrierte Einflussversuche schneller zu erkennen. Gerade für Plattformen, die mit Manipulation, Fake Accounts oder organisierten Kampagnen kämpfen, könnte eine solche Analyse ein nützliches Werkzeug sein.

Der KI-Forscher Simon Lermen weist jedoch darauf hin, dass öffentlich zugängliche Informationen über Bürger:innen bereits heute „direkt für Betrug missbraucht werden“ könnten. Ein Beispiel ist Spear Phishing. Dabei sammeln Angreifer:innen gezielt Informationen über eine Person – etwa aus Social-Media-Profilen, Kommentaren oder Forenbeiträgen – und nutzen diese, um besonders glaubwürdige Betrugsnachrichten zu erstellen. Die Nachricht wirkt dann so, als käme sie von einer vertrauten Person oder einem bekannten Unternehmen und enthält häufig einen Link oder eine Bitte um persönliche Daten. Durch KI wird dieser Betrugsprozess deutlich einfacher. Große Sprachmodelle können Informationen über eine Person automatisch zusammentragen und daraus personalisierte Nachrichten formulieren.

Ein weiteres Risiko sind mögliche Fehlzuordnungen. Der Informatikprofessor Peter Bentley vom University College London warnt, dass KI-Systeme Accounts auch falsch miteinander verknüpfen könnten. Im schlimmsten Fall könnten Menschen dadurch für Aussagen verantwortlich gemacht werden, die sie nie getätigt haben.

Besonders kritisch ist die Entwicklung zudem für Menschen, die bewusst unter Pseudonym kommunizieren. Dazu zählen etwa Aktivist:innen, Journalist:innen oder Mitarbeitende, die Missstände anonym öffentlich machen wollen. Wenn sich solche Accounts durch KI leichter einer realen Person zuordnen lassen, könnten Betroffene schneller identifiziert und unter Druck gesetzt werden, etwa durch Belästigung im Netz, berufliche Konsequenzen oder rechtliche Schritte.

Wie sieht die Zukunft der Online-Anonymität im KI-Zeitalter aus?

Online-Anonymität verschwindet durch solche Technologien nicht sofort. Sie wird jedoch deutlich fragiler. Wer über verschiedene Plattformen hinweg ähnliche Interessen, Geschichten oder Schreibweisen teilt, hinterlässt einen digitalen Fingerabdruck. Genau diese digitalen Spuren können große Sprachmodelle heute schneller erkennen, analysieren und miteinander verknüpfen als Menschen.

Das hat zwei Seiten. Einerseits könnten solche Systeme Plattformen dabei helfen, Manipulation im Netz besser zu erkennen. Probleme wie Hate Speech, Bot-Netzwerke oder koordinierte Desinformation beschäftigen Social-Media-Dienste seit Jahren. Besonders schwer zu kontrollieren sind sogenannte Sockpuppet Accounts, also mehrere Profile, die von einer Person gesteuert werden, um Diskussionen gezielt zu beeinflussen oder künstlich Reichweite zu erzeugen. Wenn Systeme Schreibmuster, Inhalte und biografische Hinweise analysieren, lassen sich möglicherweise orchestrierte Debatten, Astroturfing-Kampagnen oder koordinierte Einflussversuche schneller identifizieren. Gerade für Community-Plattformen und Diskussionsnetzwerke wie Reddit, X, Threads oder Discord wäre das relevant.

Gleichzeitig zeigt die Forschung, wie leicht sich digitale Spuren im Netz zusammenführen lassen – und wie schnell sie für Betrug missbraucht oder für Datenschutzangriffe eingesetzt werden könnten. Mit immer leistungsfähigeren KI-Systemen wird Online-Anonymität zunehmend brüchiger. In Zukunft dürfte sie weniger eine Frage des Nicknames sein, sondern vielmehr davon abhängen, wie konsequent digitale Spuren getrennt werden.