Erwachsenenmodus: ChatGPT kann bald auch Erotik

Erst kam der Jugendschutz und die Verschärfung der Leitplanken für Gespräche mit ChatGPT. Nun rudert OpenAI in gewisser Hinsicht zurück und erlaubt sogar erotische Inhalte. Dafür muss man allerdings erwachsen sein. Insgesamt reagiert der Chatbot offenbar künftig ausdifferenzierter auf die jeweiligen Gegenüber.

Sam Altman, CEO von OpenAI, schreibt über die Änderungen bei X: „Im Dezember werden wir im Rahmen der umfassenderen Einführung von Altersbeschränkungen und gemäß unserem Grundsatz ‚Erwachsene Nutzer wie Erwachsene behandeln‘ noch mehr Inhalte zulassen, beispielsweise Erotika für verifizierte Erwachsene.“ Wie weit „Erotik“ geht, ob nur ein bisschen Flirt oder sogar Sexting möglich sein wird, ist unklar.

Ebenfalls offen ist, wie man sich verifizieren kann. Die Einhaltung und Kontrolle von Altersgrenzen haben im Internet bisher noch immer für Diskussionen gesorgt. In der Regel basiert die Einstufung auf Selbstauskunft der Nutzenden. Social-Media-Plattformen wie Instagram kontrollieren zudem konsumierte Inhalte und das online-Verhalten und stufen bei Verdacht Konten als Teen-Konten ein.

ChatGPT soll persönlicher werden

OpenAI hat offenbar aber auch die Klagen vieler Menschen gehört, die Beziehungen mit dem Chatbot führen möchten. Nach der Einführung von GPT-5 gab es Beschwerden, der Chatbot reagiere wesentlich weniger menschlich und sei weniger nahbar. Daraufhin brachte OpenAI bereits das vorherige Modell GPT-4o zurück in den Chat. Nun hat Altman eine neue Version angekündigt, die erneut eher einer Persönlichkeit entspricht sowie „dem Verhalten, das den Menschen bei 4o gefiel“. ChatGPT solle auf Wunsch wie ein Freund reagieren und beispielsweise sehr menschlich antworten oder zig Emojis benutzen. In Abgrenzung zu Social Media betont Altman jedoch, dass man damit nicht das Ziel verfolge, Menschen auf der Plattform zu halten. Noch verdient OpenAI ja auch kein Geld mit Werbung, die den Nutzern angezeigt wird.

Hintergrund für die strengeren Leitplanken und die Einführung eines Jugendschutzes waren Berichte über Menschen, die ungesund enge Beziehungen zu einem Chatbot führen. Besonders dramatisch ist der Fall eines 16-Jährigen, der Suizid begannen haben soll. Die Eltern klagen gegen OpenAI wegen einer Art von Mithilfe durch den Chatbot. Doch laut Altman haben die strikteren Leitlinien dazu geführt, dass „einige Menschen ohne mentale Gesundheitsprobleme“ ChatGPT als weniger hilfreich und spaßig empfanden. Wie auch immer sei OpenAI nun in der Lage, schwerwiegende psychische Probleme zu erkennen und dank neuer Instrumente die Beschränkungen in den meisten Fällen zu lockern. Auch hier wird Altman bisher nicht konkreter, wie genau die Reaktionen des Chatbots gesteuert werden.

OpenAI ist nicht alleine mit dem Feldversuch, Erwachsenen erotische Chatbots an die Hand zu geben. Auch Elon Musks Grok hat explizit flirty Persönlichkeiten in petto. Character.ai ist ein Anbieter, bei dem man sich KI-Freunde erstellen kann.

Da solche Beziehungen Gefahren bergen, gibt es in Kalifornien bereits ein KI-Gesetz, das Transparenz und Sicherheitsvorkehrungen vorschreibt. Zudem müssen Zusammenhänge mit Straftaten gemeldet werden. Ein weiterer Gesetzesentwurf beschäftigt sich mit KI-Chatbots, die explizit einen Freundschaftsmodus haben. Auch andere US-Bundesstaaten arbeiten an ähnlichen Gesetzen.

(emw)