Connect with us

Künstliche Intelligenz

Mitschuld an Suizid: Eltern verklagen in den USA OpenAI


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Ein 16-jähriger Junge aus Kalifornien hat sich im April das Leben genommen. Zuvor hatte er sich offenbar ausgiebig in Konversationen mit ChatGPT begeben. Die Eltern des Jungen haben die Chatprotokolle gelesen und daraufhin OpenAI und auch CEO Sam Altman verklagt. Es ist nicht der erste Fall, in dem Eltern gegen einen KI-Anbieter klagen, weil ihr Kind Selbstmord begangen hat.

Aus den Chatprotokollen, über die die New York Times berichtet, geht hervor, dass ChatGPT dem 16-Jährigen angeboten haben soll, einen Abschiedsbrief zu verfassen. Schon das zeige, wie suizidal der Junge war. Eigentlich sollte diese Kenntnis dazu führen, dass ChatGPT Kontaktdaten von Hilfsorganisationen anbietet. Stattdessen habe der KI-Chatbot Methoden zur Selbsttötung empfohlen. Angehörige seien kaum mehr an den Teenager herangekommen, der Chatbot wurde offenbar zu einem engen Vertrauten.

Wie der US-Sender CNN berichtet, soll ChatGPT sogar verhindert haben, dass der 16-Jährige konkret eine Schlinge in seinem Zimmer liegen lassen wollte, so dass jemand auf seine Pläne aufmerksam wird. Der Chatbot bestärkte hingegen alle schädlichen und selbstzerstörerischen Gedanken, heißt es demnach in der Klage.

Tatsächlich ist das die vornehmliche Funktionsweise eines Chatbots. Sie sind eher darauf aus, zu verstärken und freundlich zu sein. Oberstes Ziel ist es laut der Herstellervorgabe, hilfreich für Nutzende zu sein.

Die Eltern verlangen Schadenersatz, aber vor allem auch eine Anordnung, die verhindern soll, dass so etwas noch einmal passiert. Sie werfen OpenAI vor, keine ausreichenden Sicherheitsvorkehrungen getroffen zu haben und auf Profitmaximierung aus zu sein.

OpenAI veröffentlichte nach den Vorwürfen eine Stellungnahme – ein aktueller Vorfall wird darin als „herzzerreißend“ bezeichnet. „Unser Ziel ist es nicht, die Aufmerksamkeit der Menschen zu halten. Erfolg werde nicht daran gemessen, wie viel Zeit jemand mit dem Chatbot verbringe – wie es bei Social Media üblich ist. Es gehe darum, hilfreich zu sein. Für solche Fälle, wie den des 16-Jährigen, gebe es sogar eine Reihe Sicherheitsvorkehrungen. Selbstverletzendes Verhalten soll nicht unterstützt werden, stattdessen sieht das System vor, Hilfsangebote vorzuschlagen. Um weitere Maßnahmen zu treffen, arbeite man mit zahlreichen Experten zusammen. Dennoch: Offenbar hat in diesem Fall keine Maßnahme gegriffen.

Enge Beziehung mit KI-Chatbots

Wie verbunden Menschen mit ChatGPT sein können, zeigte auch der kürzlich vorgenommene Wechsel der KI-Modelle hinter dem Chatbot. Als OpenAI von GPT-4o auf GPT-5 erhöhte, beschwerten sich zahlreiche Menschen, die Beziehungen, die sie mit dem Chatbot führten, hätten sich verändert. Das reicht soweit, dass viele von KI-Beziehungen sprechen, nachzulesen etwa bei Reddit. OpenAI hat das Modell GPT-4o wieder verfügbar gemacht.

„Mit der weltweit zunehmenden Verbreitung von ChatGPT haben wir beobachtet, dass Menschen es nicht nur für Suchanfragen, Programmierung und das Verfassen von Texten nutzen, sondern auch für sehr persönliche Entscheidungen, darunter Lebensberatung, Coaching und Unterstützung“, ist man sich laut der Stellungnahme dessen bewusst.

Der Anbieter von KI-Personas, Character.ai, wird in den USA verklagt, weil ein Jugendlicher Selbstmord begangen und dies zuvor mit einem Chatbot besprochen hat. Dabei soll dieser die Pläne ebenfalls unterstützt haben. Auch hier klagen die Eltern, berichtet etwa der BR.

Hinweis: In Deutschland finden Sie Hilfe und Unterstützung bei Problemen aller Art, auch bei Fragen zu Mobbing und Suiziden, bei telefonseelsorge.de und telefonisch unter 0800 1110111. Die Nummer gegen Kummer (Kinder- und Jugendtelefon) lautet 116 111. In Österreich gibt es ebenfalls kostenfreie Hilfsangebote, darunter speziell für Kinder der Kindernotruf unter 0800 567 567 sowie Rat auf Draht unter 147. Dieselbe Telefonnummer führt in der Schweiz zu Pro Juventute.


(emw)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

Galaxy Event: Samsung Galaxy S25 FE und neue Tablets zur IFA


Samsung hat ein Galaxy-Event für den 4. September angekündigt. Damit ist Apple nicht das einzige Unternehmen, das nächsten Monat neue Produkte vorstellen wird.

Interessanterweise spricht Samsung in der Einladung nicht von einem Galaxy Unpacked-, sondern von einem Galaxy Event. Die Unpacked-Veranstaltungen scheint der koreanische Konzern für die Vorstellung seiner Premium-Geräte wie Galaxy-S- und Foldable-Reihen zu verwenden, sodass die IFA-Veranstaltung für Samsung eher ein „Eventchen“ zu sein scheint. Was im Verlaufe des Galaxy-Events Anfang des nächsten Monats vorgestellt wird, verrät Samsung nämlich auch bereits in der Einladung.

Lesen Sie auch

Laut Hersteller können wir uns auf „Premium-Tablets mit Galaxy AI“ sowie ein neues „Mitglied der Samsung-Galaxy-S25-Familie“ einstellen. Angesichts dessen, dass Samsung schon vor wenigen Wochen sagte, das Galaxy S25 FE, eine etwas günstigere Version der S25-Serie, früher als üblich einführen zu wollen und auch neue Tablets zeigen werde, ist das keine große Überraschung. Ab 11:30 Uhr Mitteleuropäischer Sommerzeit können Interessierte die Präsentation auf Samsungs YouTube-Kanal und der Website des Herstellers verfolgen.

Neue Geräte bereits geleakt

Überdies sind die Produkte allerdings schon umfangreich geleakt: Das Galaxy S25 FE war unter anderem kurzzeitig bei MediaMarkt mitsamt sämtlichen Spezifikationen gelistet. Unter anderem ging aus der Produktseite hervor, dass das Galaxy S25 FE ein 6,7-Zoll-AMOLED-Display mit 2340 × 1080 Pixeln mit 120 Hz Bildwiederholrate an Bord haben wird und damit in etwa so groß sein dürfte wie das Galaxy S25 Plus. Beim Prozessor soll der Exynos 2400 verbaut sein, der schon im Galaxy S24 eingesetzt wurde. Dem Chip stehen mindestens 8 GByte RAM und 128 GByte Speicherplatz zur Seite. Als Betriebssystem soll ab Werk One UI 8 auf Basis von Android 16 vorinstalliert sein.

Bei den Tablets scheint Samsung das Galaxy Tab S11 Ultra und Tab S11 vorzustellen, die laut Leak mit 14,9 und 11-Zoll-Bildschirmen daherkommen sollen. Als Prozessor setzt der Hersteller wohl auf einen MediaTek-Chip.

Mit den Produkten hat Samsung sein Pulver für dieses Jahr aber offenbar noch nicht verschossen: In den letzten Monaten des Jahres soll der Hersteller noch sein erstes XR-Headset mit dem Codenamen „Project Moohan“ enthüllen, das auf Google Android XR basiert. Außerdem will der Hersteller wohl noch sein Tri-Fold-Gerät präsentieren. Es wird indes spekuliert, dass Samsung diese Produkte zunächst nur in wenigen Regionen außerhalb Europas anbieten wird.


(afl)



Source link

Weiterlesen

Künstliche Intelligenz

Cisco: Mehrere Produkte mit teils hochriskanten Lücken


Der Netzwerkausrüster Cisco hat am Mittwoch zehn neue Sicherheitsmeldungen herausgegeben. Sie behandeln teils hochriskante Schwachstellen in mehreren Produkten.

Am gravierendsten ist ein Sicherheitsleck in Ciscos Nexus 3000er- und 9000er-Switches. Nicht authentifizierte Angreifer aus dem Netz können eine Schwachstelle in der Intermediate System-to-Intermediate System (IS-IS)-Funktion missbrauchen, um einen Neustart des Prozesses zu provozieren, was einen Geräteneustart verursachen kann. Es handelt sich somit um eine Denial-of-Service-Sicherheitslücke (CVE-2025-20241, CVSS 7.4, Risiko „hoch„).

Die zweite schwerwiegende Schwachstelle betrifft den Virtual Keyboard Video Monitor (vKVM) von Ciscos Integrated Management Controller (IMC). Die Sicherheitslücke liegt in dem Verbindungs-Handling, wodurch nicht authentifizierte Angreifer aus dem Netz Nutzer auf bösartige Webseiten umleiten können (CVE-2025-20317, CVSS 7.1, Risiko „hoch„).

Weitere Schwachstellen mittleren Schweregrads

Cisco hat noch weitere Sicherheitsnotizen zu mittelschweren Schwachstellen herausgegeben.

IT-Verantwortliche sollten prüfen, ob sie die betroffenen Geräte in ihren Netzwerken einsetzen und die bereitstehenden Aktualisierungen zeitnah anwenden.

Zuletzt hatte Cisco Mitte August Sicherheitslücken in Firewalls gestopft. Diese erlaubten Angreifern schlimmstenfalls, verwundbare Geräte vollständig zu kompromittieren.


(dmk)



Source link

Weiterlesen

Künstliche Intelligenz

#heiseshow: Windows 95, USA vs. EU, Notrufchaos


Anna Bicker, heise-online-Chefredakteur Dr. Volker Zota und Malte Kirchner sprechen in dieser Ausgabe der #heiseshow unter anderem über folgende Themen:

  • Klickibunti: Wie Windows 95 den modernen PC prägte – Vor 30 Jahren revolutionierte Microsoft mit Windows 95 die PC-Welt und legte den Grundstein für die moderne Computernutzung. Was machte Windows 95 so wegweisend? Welche Designprinzipien prägen noch heute unsere Computer? Und wie veränderte das Betriebssystem die Art, wie wir mit Computern umgehen?
  • Das riecht nach Ärger: US-Regierung will EU-Regulierer sanktionieren – Die Trump-Regierung plant angeblich Sanktionen gegen EU-Verantwortliche wegen des Digital Services Act. Wie ernst ist diese Drohung zu nehmen? Welche Auswirkungen hätte ein Handelsstreit zwischen USA und EU auf die Tech-Regulierung? Und kann die EU ihre digitale Souveränität gegen US-Druck behaupten?
  • Anrufchaos: Legen automatisierte Notrufe Rettungsleitstellen lahm? – Smarte Geräte und automatisierte Systeme überlasten zunehmend die Notfall-Infrastruktur mit Fehlalarmen. Wie groß ist das Problem der automatisierten Notrufe wirklich? Welche technischen Lösungen gibt es, um echte Notfälle von Fehlalarmen zu unterscheiden? Und wie können Rettungsleitstellen mit der wachsenden Zahl vernetzter Geräte umgehen?

Außerdem wieder mit dabei: ein Nerd-Geburtstag, das WTF der Woche und knifflige Quizfragen.

Jeden Donnerstag ab 17 Uhr live

Fragen an die Moderatoren und Gäste können während der Sendung im YouTube-Chat und in unserem Twitch-Kanal (twitch.tv/heiseonline) sowie vorab per E-Mail und im heise-Forum gestellt werden. Die Redaktion freut sich bereits auf zahlreiche Zuschauer und auf reges Feedback.

Die #heiseshow wird jeden Donnerstag um 17 Uhr live auf heise online gestreamt. Nach der Live-Übertragung ist die Sendung zum Nachschauen und -hören auf YouTube und als Podcast verfügbar:


(mki)



Source link

Weiterlesen

Beliebt