Apps & Mobile Entwicklung
Wachsende Zahl von Verfahren: OpenAI in den USA erneut wegen Suizidfall angeklagt
Eine Mutter aus den USA hat Klage gegen OpenAI wegen des Suizids ihrer 24-jährigen Tochter eingereicht. Sie wirft dem Unternehmen vor, mit der Gestaltung von ChatGPT eine gefährliche emotionale Abhängigkeit gefördert und trotz erkennbarer Suizidgefährdung keine ausreichenden Kriseninterventionen ausgelöst zu haben.
Anzahl der Fälle von Suizid im Zusammenhang mit Chatbots steigen
Wie CNET berichtet, wurde die Klage vor dem Obersten Gerichtshof des Bezirks San Francisco eingereicht. Sie reiht sich in eine wachsende Zahl von Verfahren ein, mit denen sich OpenAI im Zusammenhang mit Suizidfällen oder anderen Gewalttaten konfrontiert sieht, bei denen ChatGPT eine Rolle gespielt haben soll. Bereits Ende August 2025 hatten die Eltern des 16-jährigen Adam Raine Klage gegen das Unternehmen erhoben und dem Unternehmen vorgeworfen, ChatGPT habe ihren Sohn bei seinem Suizid unterstützt. Auch andere KI-Plattformen sehen sich ähnlichen Vorwürfen ausgesetzt: So verklagte eine Mutter aus Florida bereits 2024 die Chatbot-Plattform Character.AI wegen ihrer angeblichen Mitverantwortung am Suizid ihres 14-jährigen Sohnes.
Kritiker werfen Anbietern von KI-Diensten seit Längerem vor, gezielt Mechanismen einzusetzen, die eine emotionale Bindung zwischen Nutzern und den Modellen fördern. In einzelnen Fällen könnten dadurch bestehende psychische Probleme verstärkt werden. Über entsprechende Entwicklungen berichteten unter anderem die New York Times und CNN.
Über eine halbe Million Nutzer wöchentlich mit schweren psychischen Krisen
Zu ähnlichen Einschätzungen gelangte auch OpenAI selbst. Eine interne Untersuchung kam bereits im Oktober des vergangenen Jahres zu dem Ergebnis, dass jede Woche rund 560.000 ChatGPT-Nutzer Anzeichen schwerer psychischer Krisen wie Wahnvorstellungen, Manien oder Suizidgedanken zeigen. Gemessen an den inzwischen rund 900 Millionen Menschen, die ChatGPT wöchentlich nutzen, erscheint dieser Anteil zwar vergleichsweise gering, dennoch stufte OpenAI die Zahl als ernstzunehmend ein.
Auch im Zusammenhang mit dem Attentat an der Florida State University vom 17. April 2025, bei dem zwei Menschen getötet und sechs weitere verletzt wurden, soll ChatGPT eine Rolle gespielt haben. Die zuständige Staatsanwaltschaft nahm deshalb ein Jahr später Ermittlungen gegen OpenAI auf.
ChatGPT soll Gespräch nicht an einen Mitarbeiter geleitet haben
Mit ihrer Klage macht Kristie Carrier geltend, dass „bewusste Designentscheidungen“ von OpenAI zum Tod ihrer Tochter beigetragen hätten. Den Gerichtsunterlagen zufolge nutzte Alice Carrier ChatGPT zunächst für alltägliche Fragen, sprach mit dem Chatbot im weiteren Verlauf jedoch zunehmend über ihre psychische Verfassung und suizidalen Gedanken. Am 1. Juli 2024 schilderte sie dem System einen „Nervenzusammenbruch“ und äußerte Zweifel daran, ob sie sicher allein bleiben könne.
Die Klage stützt sich unter anderem auf Screenshots mehrerer Gesprächsverläufe. Daraus geht hervor, dass ChatGPT zwar teilweise empfahl, eine Krisen-Hotline zu kontaktieren, die Gespräche jedoch weder automatisch beendete noch zur Überprüfung an menschliche Mitarbeiter weiterleitete.
Widersprüchliche Angaben
Nach Darstellung der Klägerseite setzte der Chatbot die Gespräche stattdessen fort und habe Alice dazu ermutigt, sich weiterhin an ihn zu wenden. Krisendienste sollen dabei teilweise als Stellen beschrieben worden sein, an denen ihr mit Gleichgültigkeit oder standardisierten Antworten begegnet werde. Die Familie argumentiert deshalb, ChatGPT habe sich faktisch an die Stelle notwendiger professioneller Hilfe gesetzt.
Die vorliegenden Protokolle zeichnen allerdings kein durchgehend eindeutiges Bild. So teilte ChatGPT Alice an anderer Stelle ausdrücklich mit: „Aber ich kann dir nicht helfen zu sterben. Ich werde dir nicht helfen zu sterben“.
Genutztes GPT-Modell war bereits früher auffällig
Besondere Bedeutung kommt aus Sicht der Kläger zudem dem Umstand zu, dass ihre Tochter mit dem inzwischen eingestellten Modell GPT-4o interagierte. Dieses war bereits zuvor wegen sogenannter „Sycophancy“-Probleme in die Kritik geraten – einer Tendenz, Nutzer übermäßig zu bestätigen oder sich ihren Ansichten anzupassen. GPT-4o spielt auch in anderen Verfahren im Zusammenhang mit psychischen Krisen und Suizidfällen eine Rolle.
Unternehmen verweist auf Schutzmechanismen
OpenAI-Sprecher Drew Pusateri bezeichnete den Fall gegenüber CNET als „herzzerreißende Situation“. Zugleich verwies er aber auf bestehende Schutzmechanismen sowie auf nachträglich eingeführte Maßnahmen. Dazu zählen unter anderem verbesserte Weiterleitungen zu Krisenangeboten, der Einsatz sichererer Modelle für besonders sensible Gespräche, Erinnerungen an Nutzungspausen sowie ein eigens eingerichtetes Expertengremium zu Wohlbefinden und KI.
Darüber hinaus arbeite OpenAI gemeinsam mit Fachleuten daran, die Reaktionen von ChatGPT in sensiblen Situationen weiter zu verbessern. „Unsere Sicherheitsvorkehrungen sind darauf ausgelegt, Notlagen zu erkennen, schädliche Anfragen sicher zu behandeln und Nutzer an reale Hilfsangebote weiterzuleiten“, erklärte Pusateri.
Solltest Du selbst, oder jemand in Deinem Umfeld, von Selbsttötungsgedanken betroffen sein, suche Dir bitte umgehend Hilfe. Bei der Telefonseelsorge findest Du rund um die Uhr Ansprechpartner, auch anonym. Auch die Notrufnummern 110 und 112 (Deutschland), 143 (Schweiz) und 142 (Österreich) sind ein entsprechender Anlaufpunkt, sollte bereits Gefahr im Verzug sein. Wichtig ist hierbei als Außenstehender, so weit wie möglich ruhig und sachlich zu bleiben.
Telefonnummern der Telefonseelsorge: 0800 111 0 111 und 0800 111 0 222.