Chatbots wie ChatGPT bringen große Risiken mit sich, vor allem für Kinder und Jugendliche. Der Staat Florida wollte OpenAI in diesem Jahr bereits aufgrund mangelnder Schutzmaßnahmen für junge User verklagen. 2025 verklagten die Eltern eines Jungen OpenAI, nachdem dieser sich umgebracht hatte. Sie warfen dem Unternehmen vor, dass ChatGPT das Kind emotional sowie mit Anweisungen beim Suizid unterstützt. Und die US-Behörde FTC (Federal Trade Commission) ordnete im selben Jahr eine Prüfung von OpenAI, Meta und Co. an, um überprüfen zu lassen, inwieweit die Tech-Unternehmen und -Konzerne Maßnahmen zum Schutz von Kindern einsetzen. Jetzt reagiert OpenAI mit einer dedizierten ChatGPT-Erfahrung nur für Jugendliche. Kinder haben offiziell ohnehin kein Nutzungsrecht.

So sieht ChatGPT für Teens aus: Schätzungen und Altersangaben als Grundlage

Offiziell ist die Nutzung von ChatGPT erst am 13 Jahren erlaubt. Personen im Alter von 13 bis 17 Jahren dürfen den Dienst laut Nutzungsbedingungen nur mit ausdrücklicher Zustimmung der Eltern und Erziehungsberechtigten nutzen. Die Nutzungsrealität des Dienstes, der wöchentlich über 900 Millionen aktive User und mehr als eine Milliarde User in der App zählt, dürfte anders aussehen. Viele Kinder und Jugendliche könnten ChatGPT auch ohne korrekte Altersangaben nutzen.

Neuerdings sollen aber alle Personen im Alter von 13 bis 17 Jahren automatisch die Version ChatGPT für Jugendliche nutzen. Das erinnert an dedizierte Teen-Konten in den sozialen Medien, wie sie Meta beispielsweise für Facebook und Instagram ebenfalls als Default eingeführt hat. Alle User, die angeben, 17 Jahre alt oder jünger zu sein, fallen in die neue Kategorie. Das soll auch für User gelten, bei denen OpenAI das Alter auf unter 18 Jahre einschätzt. Schon zu Anfang des Jahres führte OpenAI eine Altersvorhersage für User ein, die Jugendliche identifizieren und mit Schutzmaßnahmen versorgen soll, die nicht selbst ein Alter unter 18 Jahren angegeben haben. Das Unternehmen erklärt:

[…] Das Modell betrachtet eine Kombination aus verhaltensbezogenen und kontoübergreifenden Signalen, darunter, wie lange ein Konto bereits existiert, typische Tageszeiten der Aktivität, Nutzungsmuster über längere Zeiträume sowie das vom Benutzer angegebene Alter […].

Auf Sicherheitsmaßnahmen wie dieser Alterseinschätzung, Elternkontrollen und dem Teen Safety Blueprint als Framework für den Jugendschutz baut die neue Lösung auf. Die standardmäßige ChatGPT-Erfahrung für Jugendliche soll besonders beim Lernen unterstützen. Zu den verfügbaren Features zählen unter anderem:

• der Study Mode (Lernmodus): Der Lernmodus bietet schrittweise Unterstützung bei Fragen, um den jungen Usern dabei zu helfen, Lerninhalte eigenständig zu verstehen und Lösungen auch wirklich nachzuvollziehen.
• die neuen verantwortungsvollen Hausaufgabenhinweise: ChatGPT soll Jugendlichen, die offenbar versuchen, eine Aufgabe einfach nur an die KI auszulagern, an den Study Mode verweisen.
• Quizze und Lernvisualisierungen: ChatGPT bietet für Jugendliche neue Quizformate und Lernvisualisierungen, die Wissen anschaulich machen und zur Wiederholung und Vertiefung bereitstellen sollen.
• Study Hours (Lernzeiten): Jugendliche und Eltern können gemeinsam bestimmte Zeiten festlegen, in denen der Study Mode standardmäßig aktiviert ist. Das kann bei der Etablierung von Lernroutinen helfen.

Mehr Schutz für Jugendliche: Weniger Konfrontation mit gefährdenden Inhalten und Wahl beim KI-Training

ChatGPT bietet im Teen-Bereich altersgerechte Schutzmechanismen. Dabei steht im Fokus, dass ihnen weniger Inhalte zu Themen wie „Selbstverletzung, Gewalt, Essstörungen, gefährlichen Aktivitäten sowie expliziten sexuellen oder grafischen Inhalten“ angezeigt werden. Die zugrunde liegenden Schutzmaßnahmen basieren laut OpenAI auf den Prinzipien für Nutzer unter 18 Jahren im Model Spec. Diese Prinzipien bauen auf Erkenntnisse aus der Entwicklungsforschung sowie Empfehlungen von Expert:innen. OpenAI arbeitet zum Beispiel mit der American Psychological Association zusammen, um den mentale Gesundheit Jugendlicher im Umgang mit KI-Tools wie ChatGPT besser zu schützen.

We’re working with the American Psychological Association to bring psychological science and clinical expertise into our work on AI and youth mental health.

Together with the @APA, we’ll develop evidence-based guidance, resources, and safeguards to help ensure AI supports young…

— OpenAI Newsroom (@OpenAINewsroom) August 6, 2026

Neben weniger gefährdenden Inhalten erhalten die jungen User Erinnerungen an Pausen und definierte Ruhezeiten als Option. Dazu kommt die Option, per Schieberegler zu bestimmen, ob Chat-Inhalte für OpenAIs KI-Training genutzt werden sollen oder nicht. Darüber hinaus können die Konten mit denen der Eltern oder Erziehungsberechtigten verknüpft werden. Und diese erhalten in kritischen Fällen Benachrichtigungen, etwa wenn ein Chat der Jugendlichen ein erhöhtes Risikopotential aufweist; diese Benachrichtigungen werden in den kommenden Wochen ergänzt. Auch soll ChatGPT für Jugendliche klare Grenzen bei emotionaler Bindung zwischen KI und Usern setzen.

[…] Damit soll insbesondere einer möglichen emotionalen Abhängigkeit von KI entgegengewirkt werden. Gleichzeitig sollen Jugendliche darin bestärkt werden, sich bei Bedarf an vertraute Personen zu wenden und Unterstützung im realen Leben zu suchen,

so OpenAI. Das wirkt wie eine unmittelbare Reaktion auf Einzelfälle, bei denen ChatGPT Jugendliche einer Gefährdung ausgesetzt hat. Das Unternehmen möchte mit ChatGPT für Jugendliche fortan einen verantwortungsvollen und sicheren Umgang mit ChatGPT und KI im Allgemeinen für junge User ermöglichen. Andrea Gerosa, Gründer und CEO von ThinkYoung, meint:

Die Entscheidung von OpenAI, Konten für Jugendliche einzuführen, ist der richtige Schritt, um junge Menschen weltweit zu stärken und sicherzustellen, dass sie KI in einer sicheren Umgebung erleben können. Im Laufe der Geschichte waren junge Menschen stets in der Lage, neue Technologien zu meistern und anzunehmen. Jugendlichen, insbesondere den marginalisierten und benachteiligten unter ihnen, Zugang zu besserer Bildung, Werkzeugen und Wissen zu verschaffen, stellt sicher, dass sie eine bessere Zukunft für sich selbst und für die Gesellschaften, in denen sie aufwachsen, gestalten können.

Die neuen Schutzmaßnahmen für Jugendliche können indes dabei helfen, ChatGPT für minderjährige User per Default sicherer zu machen. Allerdings dürfte es vielen Usern dennoch möglich sein, ohne korrekte Altersangaben auf die Standardversion des Dienstes zuzugreifen. Der Kritik an ChatGPT als KI-Dienst, der gerade junge User gefährden kann, begegnet OpenAI mit diesem Schritt aktiv. Entkommen kann das Unternehmen dieser aber nicht. So kann man sich auch die Frage stellen, warum ein solcher Schutzraum nicht von Anfang an gestaltet wurde und nicht erst nach diversen Klagen und heftigen Anschuldigungen.

---

ChatGPT-Werbung startet in Deutschland

– für EU-User gelten andere Regeln

---

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.