Wenn der AI Chatbot als Sparrings-Partner:in für sexuelle Fantasien herhält, dann ist das einerseits ein Zeichen der Zeit, andererseits ein Einfallstor für Kritik am Geschäftsmodell. OpenAI möchte ChatGPT derart optimieren, dass User wieder mehr unterhaltsame Konversationen mit der KI führen können, die menschlicher und mehr wie Freund:innen daherkommen soll – egal ob mit personalisiertem Emoji-Sprech oder erotischen Botschaften. Denn im Rahmen des Age Gating soll auch Erotika für Erwachsene ermöglicht werden. Während CEO Sam Altman Usage Maxxing dementiert, könnten diese angekündigten Veränderungen genau das bewirken: ein Wachstum der User-Basis, die bereits bei über 800 Millionen pro Woche liegt. Gleichzeitig eröffnen sich mit weniger Restriktionen für den Chatbot große Problemfelder.

Bald schon Werbung in ChatGPT:

OpenAI bricht offenbar mit dem eigenen Prinzip

ChatGPT wie mit GPT-4o: Darum minimiert OpenAI die Restriktionen

In einem ausführlichen X Post erklärt Sam Altman, dass OpenAI eine Reihe von Restriktionen für den Chatbot ChatGPT zurückziehen wird. Diese wurden im Rahmen von Sicherheitsvorkehrungen im Mental-Health-Kontext integriert. Als Auslöser für diese Restriktionen können mehrere Momente gelten. Im Frühjahr reagierte das Unternehmen darauf, dass das Modell GPT-4o sich als geradezu speichelleckerisch erwies und Usern auf sehr persönlicher Ebene begegnete. Im Sommer 2025 wurde OpenAI zudem von den Eltern eines Jugendlichen verklagt, der sich im Anschluss an eine sehr enge Beziehung zu ChatGPT das Leben nahm. Er sprach mit dem AI Bot über seine Suizidpläne, erhielt aber nicht die nötige Hilfe, es seien keine relevanten Warnungen ausgegeben worden.

Inzwischen geht aber Sam Altman davon aus, dass das Unternehmen die gröbsten Mental-Health-Probleme so weit gemindert hat, dass man einige Restriktionen wieder aufheben kann. Dazu kommt, dass OpenAI kürzlich umfassende Elternkontrollen gelauncht und ein Expert Council on Well-Being and AI integriert hat. Auch ein Global Physician Network soll das Modellverhalten optimieren, gerade in Bezug auf psychische Probleme. Deshalb erlaubt OpenAI in den kommenden Wochen wieder eine überaus persönliche Kommunikation mit ChatGPT. Altman schreibt, dass das Tool dann wieder mehr wie das beliebte Modell GPT-4o agieren soll. Dieses wurde im Sommer von GPT-5 als Default abgelöst. Doch User waren zunächst enttäuscht und forderten – mit Erfolg – GPT-4o als Option zurück, weil sie zuweilen die persönliche Ansprache bei ChatGPT in diesem Modell vermissten. Altman erklärt:

[…] If you want your ChatGPT to respond in a very human-like way, or use a ton of emoji, or act like a friend, ChatGPT should do it (but only if you want it, not because we are usage-maxxing) […].

Ab Dezember setzt das Unternehmen überdies das Age Gating im großen Stil um. Damit sollen Minderjährige besser geschützt werden, aber Erwachsene eher „wie Erwachsene“ behandelt werden. Darum können sie dann auch auf erotische Konversationen mit ChatGPT bauen.

We made ChatGPT pretty restrictive to make sure we were being careful with mental health issues. We realize this made it less useful/enjoyable to many users who had no mental health problems, but given the seriousness of the issue we wanted to get this right.

Now that we have…

— Sam Altman (@sama) October 14, 2025

Chancen Probleme mit AI-Erotik: User-Interesse und Verletzlichkeit

Sofern ChatGPT erotische Chats erlaubt, könnte das das Interesse vieler User fördern und sogar zu einem User-Gewinn führen. Dass Sexualität sowie Erotik und digitale Rezeption eng zusammenhängen können, zeigt ein Blick auf die meistgenutzten Websites der Welt, diverse Trend-Podcasts und nicht zuletzt populäre Serienformate oder Hit Songs. Auch im Kontext von generativer KI sind sexualisierte Funktionen längst angekommen. X beispielsweise erlaubt Pornographie auf der Plattform und lässt User über den KI Bot Grok mit Grok Imagine sogar NSFW Content erstellen.

---

Grok Imagine mit Spicy Mode jetzt for free

---

Die Meta AI erlaubte zuletzt ebenso sexuell aufgeladene Konversationen und wurde scharf dafür kritisiert, dass auch Kinder solchen Chats ausgesetzt worden waren. Bei vielen Bild- und Videogeneratoren mit KI-Support gibt es zwar Einschränkungen, doch die lassen sich zum Teil sogar aushebeln. Dass OpenAI nun ebenfalls Erotika als Option für erwachsene User ermöglichen möchte, ist nicht per se problematisch, stellt der Bereich doch nur einen weiteren Nutzungskontext dar. Zum Problem könnte der Aspekte jedoch werden, wenn Kinder und Jugendliche die Altersschranken überwinden oder durch Bugs die sexualisierten Chats nutzen könnten. Des Weiteren läuft das Unternehmen Gefahr, daran teilzuhaben, wenn mehr und mehr Menschen enge erotische Beziehungen zu KI-Bots aufbauen. Dafür gibt es schon jetzt viele Beispiele. Amelia Gentleman schrieb zudem kürzlich für The Guardian über den Aufstieg von AI Girlfriends, die für manche Unternehmen oder Creator längst zum Geschäftsmodell avanciert sind.

KI-Beziehungen können das Bild von zwischenmenschlichen Beziehungen stark beeinträchtigen und unüberlegte Entscheidungen fördern. All das sind nur potentielle Probleme für OpenAI; noch ist nicht klar, in welchem Ausmaß das Unternehmen erotische Konversationen ermöglichen wird. Doch die Ankündigung untermauert, wie sehr sich ChatGPT und ähnliche KI-Bots, von Claude bis Gemini, als Raum für zahlreiche Interaktionen im Alltag etablieren: von der Suche über das Shopping bis hin zur Lehre und Erotik. Das ist Teil einer neuen Realität im KI-Zeitalter, aber einer, die viele Fallstricke mit sich bringt, die wir womöglich erst einige Zeit später im vollen Ausmaß sehen können. Der Aufstieg hochleistungsfähiger KI-Videomodelle und die Entwicklung der Speech-to-Speech-Modelle dürften indes dafür sorgen, dass KI-Erotik schon bald ein neues Level erreicht.

---

Trotz invite-only:

Sora App fast so erfolgreich wie ChatGPT zum Start