Eine Mutter aus den USA hat Klage gegen OpenAI wegen des Suizids ihrer 24-jährigen Tochter eingereicht. Sie wirft dem Unternehmen vor, mit der Gestaltung von ChatGPT eine gefährliche emotionale Abhängigkeit gefördert und trotz erkennbarer Suizidgefährdung keine ausreichenden Kriseninterventionen ausgelöst zu haben.

Anzahl der Fälle von Suizid im Zusammenhang mit Chatbots steigen

Wie CNET berichtet, wurde die Klage vor dem Obersten Gerichtshof des Bezirks San Francisco eingereicht. Sie reiht sich in eine wachsende Zahl von Verfahren ein, mit denen sich OpenAI im Zusammenhang mit Suizidfällen oder anderen Gewalttaten konfrontiert sieht, bei denen ChatGPT eine Rolle gespielt haben soll. Bereits Ende August 2025 hatten die Eltern des 16-jährigen Adam Raine Klage gegen das Unternehmen erhoben und dem Unternehmen vorgeworfen, ChatGPT habe ihren Sohn bei seinem Suizid unterstützt. Auch andere KI-Plattformen sehen sich ähnlichen Vorwürfen ausgesetzt: So verklagte eine Mutter aus Florida bereits 2024 die Chatbot-Plattform Character.AI wegen ihrer angeblichen Mitverantwortung am Suizid ihres 14-jährigen Sohnes.

Kritiker werfen Anbietern von KI-Diensten seit Längerem vor, gezielt Mechanismen einzusetzen, die eine emotionale Bindung zwischen Nutzern und den Modellen fördern. In einzelnen Fällen könnten dadurch bestehende psychische Probleme verstärkt werden. Über entsprechende Entwicklungen berichteten unter anderem die New York Times und CNN.

Über eine halbe Million Nutzer wöchentlich mit schweren psychischen Krisen

Zu ähnlichen Einschätzungen gelangte auch OpenAI selbst. Eine interne Untersuchung kam bereits im Oktober des vergangenen Jahres zu dem Ergebnis, dass jede Woche rund 560.000 ChatGPT-Nutzer Anzeichen schwerer psychischer Krisen wie Wahnvorstellungen, Manien oder Suizidgedanken zeigen. Gemessen an den inzwischen rund 900 Millionen Menschen, die ChatGPT wöchentlich nutzen, erscheint dieser Anteil zwar vergleichsweise gering, dennoch stufte OpenAI die Zahl als ernstzunehmend ein.

Auch im Zusammenhang mit dem Attentat an der Florida State University vom 17. April 2025, bei dem zwei Menschen getötet und sechs weitere verletzt wurden, soll ChatGPT eine Rolle gespielt haben. Die zuständige Staatsanwaltschaft nahm deshalb ein Jahr später Ermittlungen gegen OpenAI auf.

ChatGPT soll Gespräch nicht an einen Mitarbeiter geleitet haben

Mit ihrer Klage macht Kristie Carrier geltend, dass „bewusste Designentscheidungen“ von OpenAI zum Tod ihrer Tochter beigetragen hätten. Den Gerichtsunterlagen zufolge nutzte Alice Carrier ChatGPT zunächst für alltägliche Fragen, sprach mit dem Chatbot im weiteren Verlauf jedoch zunehmend über ihre psychische Verfassung und suizidalen Gedanken. Am 1. Juli 2024 schilderte sie dem System einen „Nervenzusammenbruch“ und äußerte Zweifel daran, ob sie sicher allein bleiben könne.

Die Klage stützt sich unter anderem auf Screenshots mehrerer Gesprächsverläufe. Daraus geht hervor, dass ChatGPT zwar teilweise empfahl, eine Krisen-Hotline zu kontaktieren, die Gespräche jedoch weder automatisch beendete noch zur Überprüfung an menschliche Mitarbeiter weiterleitete.

Widersprüchliche Angaben

Nach Darstellung der Klägerseite setzte der Chatbot die Gespräche stattdessen fort und habe Alice dazu ermutigt, sich weiterhin an ihn zu wenden. Krisendienste sollen dabei teilweise als Stellen beschrieben worden sein, an denen ihr mit Gleichgültigkeit oder standardisierten Antworten begegnet werde. Die Familie argumentiert deshalb, ChatGPT habe sich faktisch an die Stelle notwendiger professioneller Hilfe gesetzt.

Die vorliegenden Protokolle zeichnen allerdings kein durchgehend eindeutiges Bild. So teilte ChatGPT Alice an anderer Stelle ausdrücklich mit: „Aber ich kann dir nicht helfen zu sterben. Ich werde dir nicht helfen zu sterben“.

Genutztes GPT-Modell war bereits früher auffällig

Besondere Bedeutung kommt aus Sicht der Kläger zudem dem Umstand zu, dass ihre Tochter mit dem inzwischen eingestellten Modell GPT-4o interagierte. Dieses war bereits zuvor wegen sogenannter „Sycophancy“-Probleme in die Kritik geraten – einer Tendenz, Nutzer übermäßig zu bestätigen oder sich ihren Ansichten anzupassen. GPT-4o spielt auch in anderen Verfahren im Zusammenhang mit psychischen Krisen und Suizidfällen eine Rolle.

Unternehmen verweist auf Schutzmechanismen

OpenAI-Sprecher Drew Pusateri bezeichnete den Fall gegenüber CNET als „herzzerreißende Situation“. Zugleich verwies er aber auf bestehende Schutzmechanismen sowie auf nachträglich eingeführte Maßnahmen. Dazu zählen unter anderem verbesserte Weiterleitungen zu Krisenangeboten, der Einsatz sichererer Modelle für besonders sensible Gespräche, Erinnerungen an Nutzungspausen sowie ein eigens eingerichtetes Expertengremium zu Wohlbefinden und KI.

Darüber hinaus arbeite OpenAI gemeinsam mit Fachleuten daran, die Reaktionen von ChatGPT in sensiblen Situationen weiter zu verbessern. „Unsere Sicherheitsvorkehrungen sind darauf ausgelegt, Notlagen zu erkennen, schädliche Anfragen sicher zu behandeln und Nutzer an reale Hilfsangebote weiterzuleiten“, erklärte Pusateri.

Solltest Du selbst, oder jemand in Deinem Umfeld, von Selbsttötungsgedanken betroffen sein, suche Dir bitte umgehend Hilfe. Bei der Telefonseelsorge findest Du rund um die Uhr Ansprechpartner, auch anonym. Auch die Notrufnummern 110 und 112 (Deutschland), 143 (Schweiz) und 142 (Österreich) sind ein entsprechender Anlaufpunkt, sollte bereits Gefahr im Verzug sein. Wichtig ist hierbei als Außenstehender, so weit wie möglich ruhig und sachlich zu bleiben.

Telefonnummern der Telefonseelsorge: 0800 111 0 111 und 0800 111 0 222.

Homepage der Telefonseelsorge

Dritter Zwischenfall bei SK Hynix in zwei Wochen, das zweite Feuer. Erneut mussten alle Angestellten die Fab 15 evakuieren. Das Feuer konnte dabei wohl schnell gelöscht werden, nachfolgende Untersuchungen stehen nun jedoch noch aus, heißt es in südkoreanischen Medien.

Drei Zwischenfälle in zwölf Tagen

Das zweite Feuer in zwei Wochen – bereits am 1. Juni brannte es in Fab 15 – dazu ein Unfall bei Entladen von Chemikalien am 10. Juni. Bisher gab es dabei nur Verletzte und keine Toten zu beklagen, schnelles Handeln der Angestellten brachte die Situation jeweils zeitnah unter Kontrolle. Dabei sollen heute jedoch die Sprinkler zum Teil zum Einsatz gekommen sein, berichtet BusinessKorea. Das bedeutet dann eventuell entsprechend hohen Aufwand für die Nacharbeiten. Ein mögliches Gasleck wurde im Nachgang von der Feuerwehr und den Behörden nicht gefunden und Entwarnung gegeben.

Fab 15 scheint aktuell eine Pechsträhne zu verfolgen und rückt damit spätestens heute nach dem dritten Vorfall stark ins Rampenlicht nicht nur lokaler Medien. Die Frage, wie es um die Sicherheit in den Anlagen bestellt ist, dürfte sich SK Hynix nun vermehrt anhören und beantworten müssen. Das Unternehmen versucht deshalb direkt zu beschwichtigen, zwar war die Anlage stets die gleiche und selbst die Arbeiten ähnlich, es gäbe aber kein grundlegendes Problem, erklärte das Unternehmen.

As the accident occurred while carrying out the same process, we will thoroughly investigate the cause and make efforts to prevent a recurrence. There is no abnormality in the operation of the production facilities.

SK Hynix nach dem dritten Zwischenfall

Moderne Chipfabriken sind im Grunde genommen erst einmal quasi große Chemiefabriken. Hier wird mit unzähligen Chemikalien und Gasen gearbeitet, die allesamt benötigt werden, damit im Reinraum später die Chips produziert werden können.

Fab 15/15X ist die modernste Anlage von SK Hynix und entsprechend wichtig für das aktuelle Geschäft mit HBM & Co. Das Unternehmen plant viele Aus- und Neubauten in den kommenden Jahren, um der Speicherknappheit zu begegnen. Zuletzt rückte das Mega-Projekt im Yongin Semiconductor Cluster in Südkorea wieder in den Fokus: Damit will SK Hynix seine Kapazität bis 2034 verdreifachen.

Ubisoft restrukturiert weiter und baut zum Kostensparen Stellen ab. Bei Microsoft steht das gleiche bevor. Schon im Sommer sollen die ersten Positionen gestrichen werden; beim US-Konzern muss die gesamte Xbox-Sparte den Gürtel enger schnallen.

Laut Informationen von Game Developer will Ubisoft bis zu 380 Stellen streichen. Darüber hinaus werden die Studios im kanadischen Winnipeg, das sich primär mit Ubisofts Spiele-Engines befasst hat, und in Belgrad (Serbien) geschlossen, wo zahlreichen größeren Ubisoft-Titeln zugearbeitet wurde. Stellen sollen außerdem das in Barcelona ansässige Studio des Unternehmens sowie sein Publishing-Arm einsparen. Die Rest-Mannschaft in Spanien soll sich künftig ausschließlich auf die Marke Rainbow Six konzentrieren. Ziel ist das Einsparen von Kosten und die Fokussierung auf neue strategische Ziele.

Die Einschnitte setzen die Reihe von Entlassungen der letzten Monate bei Ubisoft fort, bei denen bereits mehrere Standorte geschlossen wurde. Sie folgen grob dem Plan, Studios rund um feste Marken, die größten finanziellen Zugpferde, zu strukturieren. Auf diese Weise will Ubisoft eine „gamer-zentrierte“ Produktkultur etablieren. Intern wird das jedoch kritisch betrachtet, echter Wandel wird darin nicht gesehen. Bezeichnend ist auch, dass das spannendste Ubisoft-Spiel dieses Jahr das Remake von Assassin’s Creed Black Flag wird.

Microsoft streicht ebenfalls

Bei Microsoft entfallen nach den massiven Kürzungen im vergangenen Jahr nun erneut Stellen.
Die neue Xbox-CEO Asha Sharma will im kommenden Monat die ersten Positionen streichen, berichtet
Bloomberg, um sinkende Umsätze zu kompensieren. In einer internen Mail, die der Seite vorliegt, stimmte sie Mitarbeiter auf harte Zeiten ein. „Für einige von euch werden diese neue Realitäten überraschend und sogar frustrierend sein“, heißt es dort. „Wir werden keine Erfolg haben wenn wir der Wahrheit nicht ins Auge sehen oder das gleiche wie immer probieren und andere Ergebnisse erwarten“. Um Profitabilität geht es nicht in erster Linie, Xbox solle zur „Nummer 1 im Bereich Gaming und Unterhaltung“ werden.

Auf dem Blog der Xbox-Sparte firmiert das im Rahmen der Umstrukturierung als „Xbox Reset“, der nötig sei: Trotz riesiger Investitionen habe sich der Umsatz halbiert. Eigene Marken habe Microsoft nicht ausreichend finanziert um konkurrenzfähig zu sein, Plattform und Portfolio müsse man nun neu denken. Dazu gehört, die Haltung zu Exklusivspielen (erneut) zu überdenken. Das wiederum ist zumindest in Teilen keine neue Strategie, denn schon unter ihrem Vorgänger Phil Spencer begann eine Neufokussierung auf umsatzstarke, bekannte Marken.