Connect with us

Künstliche Intelligenz

Mitschuld an Suizid: Eltern verklagen in den USA OpenAI


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Ein 16-jähriger Junge aus Kalifornien hat sich im April das Leben genommen. Zuvor hatte er sich offenbar ausgiebig in Konversationen mit ChatGPT begeben. Die Eltern des Jungen haben die Chatprotokolle gelesen und daraufhin OpenAI und auch CEO Sam Altman verklagt. Es ist nicht der erste Fall, in dem Eltern gegen einen KI-Anbieter klagen, weil ihr Kind Selbstmord begangen hat.

Aus den Chatprotokollen, über die die New York Times berichtet, geht hervor, dass ChatGPT dem 16-Jährigen angeboten haben soll, einen Abschiedsbrief zu verfassen. Schon das zeige, wie suizidal der Junge war. Eigentlich sollte diese Kenntnis dazu führen, dass ChatGPT Kontaktdaten von Hilfsorganisationen anbietet. Stattdessen habe der KI-Chatbot Methoden zur Selbsttötung empfohlen. Angehörige seien kaum mehr an den Teenager herangekommen, der Chatbot wurde offenbar zu einem engen Vertrauten.

Wie der US-Sender CNN berichtet, soll ChatGPT sogar verhindert haben, dass der 16-Jährige konkret eine Schlinge in seinem Zimmer liegen lassen wollte, so dass jemand auf seine Pläne aufmerksam wird. Der Chatbot bestärkte hingegen alle schädlichen und selbstzerstörerischen Gedanken, heißt es demnach in der Klage.

Tatsächlich ist das die vornehmliche Funktionsweise eines Chatbots. Sie sind eher darauf aus, zu verstärken und freundlich zu sein. Oberstes Ziel ist es laut der Herstellervorgabe, hilfreich für Nutzende zu sein.

Die Eltern verlangen Schadenersatz, aber vor allem auch eine Anordnung, die verhindern soll, dass so etwas noch einmal passiert. Sie werfen OpenAI vor, keine ausreichenden Sicherheitsvorkehrungen getroffen zu haben und auf Profitmaximierung aus zu sein.

OpenAI veröffentlichte nach den Vorwürfen eine Stellungnahme – ein aktueller Vorfall wird darin als „herzzerreißend“ bezeichnet. „Unser Ziel ist es nicht, die Aufmerksamkeit der Menschen zu halten. Erfolg werde nicht daran gemessen, wie viel Zeit jemand mit dem Chatbot verbringe – wie es bei Social Media üblich ist. Es gehe darum, hilfreich zu sein. Für solche Fälle, wie den des 16-Jährigen, gebe es sogar eine Reihe Sicherheitsvorkehrungen. Selbstverletzendes Verhalten soll nicht unterstützt werden, stattdessen sieht das System vor, Hilfsangebote vorzuschlagen. Um weitere Maßnahmen zu treffen, arbeite man mit zahlreichen Experten zusammen. Dennoch: Offenbar hat in diesem Fall keine Maßnahme gegriffen.

Wie verbunden Menschen mit ChatGPT sein können, zeigte auch der kürzlich vorgenommene Wechsel der KI-Modelle hinter dem Chatbot. Als OpenAI von GPT-4o auf GPT-5 erhöhte, beschwerten sich zahlreiche Menschen, die Beziehungen, die sie mit dem Chatbot führten, hätten sich verändert. Das reicht soweit, dass viele von KI-Beziehungen sprechen, nachzulesen etwa bei Reddit. OpenAI hat das Modell GPT-4o wieder verfügbar gemacht.

„Mit der weltweit zunehmenden Verbreitung von ChatGPT haben wir beobachtet, dass Menschen es nicht nur für Suchanfragen, Programmierung und das Verfassen von Texten nutzen, sondern auch für sehr persönliche Entscheidungen, darunter Lebensberatung, Coaching und Unterstützung“, ist man sich laut der Stellungnahme dessen bewusst.

Der Anbieter von KI-Personas, Character.ai, wird in den USA verklagt, weil ein Jugendlicher Selbstmord begangen und dies zuvor mit einem Chatbot besprochen hat. Dabei soll dieser die Pläne ebenfalls unterstützt haben. Auch hier klagen die Eltern, berichtet etwa der BR.

Hinweis: In Deutschland finden Sie Hilfe und Unterstützung bei Problemen aller Art, auch bei Fragen zu Mobbing und Suiziden, bei telefonseelsorge.de und telefonisch unter 0800 1110111. Die Nummer gegen Kummer (Kinder- und Jugendtelefon) lautet 116 111. In Österreich gibt es ebenfalls kostenfreie Hilfsangebote, darunter speziell für Kinder der Kindernotruf unter 0800 567 567 sowie Rat auf Draht unter 147. Dieselbe Telefonnummer führt in der Schweiz zu Pro Juventute.


(emw)



Source link

Künstliche Intelligenz

Montag: Bose-Lautsprecher verlieren Funktionen, China droht wegen neuer US-Zölle


Bose wird in Kürze wichtige Features seiner SoundTouch-Lautsprecher und Soundbars nicht mehr anbieten. Cloudbasierte Funktionen und die App werden eingestellt. Zwar werden die Audiogeräte grundsätzlich weiterhin funktionieren, doch einige Funktionen werden wegfallen. Insbesondere Langzeitkunden sind frustriert. Verärgert ist auch China und kontert Donald Trumps jüngste Zollankündigung mit scharfer Kritik. Die USA sollten ihr „falsches Vorgehen“ korrigieren, die Ergebnisse aus den vergangenen Handelsgesprächen wahren und die gegenseitigen Bedenken durch Dialog lösen. Warum eskalierte der Streit erneut und welche Folgen könnte das haben? Derweil hat die dänische EU-Ratspräsidentschaft eine Erklärung vorgelegt, wonach Minderjährige viele Apps nicht mehr nutzen können sollen. Es geht um ein Social-Media-Verbot für unter 15-Jährige. Die allermeisten EU-Länder unterstützen den Vorschlag, nur zwei Länder sind dagegen – die wichtigsten Meldungen im kurzen Überblick.

Der Audiogerätehersteller Bose hat eine Entscheidung getroffen, die bei zahlreichen Kunden für Verärgerung sorgt: Ab dem 18. Februar 2026 wird das Unternehmen den Cloud-Support für seine beliebten WLAN-Streaming-Lautsprecher SoundTouch und Soundbars einstellen. Die Folge ist, dass wichtige cloudbasierte Features und die zentrale App für die etwa in kleinen Heimkinos eingesetzten Systeme nicht mehr funktionieren werden. Die jetzt von der US-Firma angekündigte Maßnahme betrifft eine Produktreihe, die Bose seit 2013 auf den Markt gebracht und später um weitere Lautsprecher, Soundbars und Heimkinosysteme im Preissegment von 200 bis 1500 US-Dollar erweiterte. Einige Nutzer haben erheblich investiert. Das führt zu Kundenfrust bei Bose: SoundTouch-Geräte verlieren smarte Funktionen.

Im Handelsstreit zwischen den USA und China haben sich die Fronten zwischen den beiden größten Volkswirtschaften der Welt deutlich verhärtet. Nach der Ankündigung von Präsident Donald Trump, weitere Zölle in Höhe von 100 Prozent gegen chinesische Importe zu erheben, warf Peking den USA „Doppelmoral“ vor und drohte mit Gegenmaßnahmen. Washington verallgemeinere seit Langem das Prinzip der nationalen Sicherheit, missbrauche Exportkontrollen, wende diskriminierende Maßnahmen gegen China an und dehne einseitig seine Gerichtsbarkeit bei Produkten wie Halbleitern oder Computerchips aus, so der Vorwurf des chinesischen Handelsministeriums. China hielt den USA zudem vor, mit den Maßnahmen globale Lieferketten zu stören. Es ist eine neue Eskalation im Handelsstreit: China droht den USA.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier eine externe Umfrage (Opinary GmbH) geladen.

Die EU steht vor einem neuen, weitgehenden und kontroversen Schritt zum Schutz von Kindern im digitalen Raum. Eine große Mehrheit der Mitgliedstaaten hat Unterstützung für die Einführung eines „digitalen Mündigkeitsalters“ auf EU-Ebene signalisiert. Ziel ist es, den Zugang Minderjähriger zu Social-Media-Plattformen und bestimmten Apps zu beschränken. Die dänische Ministerpräsidentin Mette Frederiksen hat dazu eine Grenze von 15 Jahren ins Spiel gebracht. Bei einem informellen Ratstreffen wurde eine Erklärung zur „Gestaltung einer sicheren Online-Welt für Minderjährige“ unterzeichnet. Fast alle EU-Länder unterzeichneten das Papier, ebenso wie Norwegen und Island. Es gab kaum Abweichler: Mehrheit der EU-Staaten ist für Social-Media-Verbot für Kinder.

Wo einst nach Silber geschürft wurde, stehen heute in einem alten Bergwerkstollen unauffällige Behälter mit Millionen von abgelichteten Dokumenten: der zentrale Bergungsort (ZBO) der Bundesrepublik Deutschland. Das einmalige Archiv wird 50 Jahre alt. Rund 400 Meter tief ragt der Barbarastollen in den Schauinsland-Berg nahe des Örtchens Oberried bei Freiburg. Im Stollen befindet sich der ZBO. Hier stehen mehr als 1600 luftdichte, knapp 80 Zentimeter hohe Edelstahlbehälter in rund 50 Meter langen, zweigeschossigen Regalen. Darin befinden sich Mikrofilme, insgesamt 1,3 Milliarden Ablichtungen, darunter viele einzigartige historische Dokumente. Wir blicken auf den Bau des ZBO, die Schutzmaßnahmen und das Grundproblem der Archivare nach 50 Jahren Barbarastollen: Das geheime Archiv der Bundesrepublik.

Bald gibt es keine Sicherheitsupdates mehr für Windows 10, doch nicht alle Computer hält Microsoft fit für Windows 11. Älteren Geräten verweigert der Hersteller häufig das Upgrade, auch wenn es aus technischer Sicht keinen Grund dafür gibt. Wer nun auf Linux umsteigen will, anstatt unnötigen Elektroschrott zu produzieren oder Geld auszugeben, kann mit dem Gerät weiterhin arbeiten, muss sich aber umgewöhnen. Für Notfälle bietet es sich da an, das vertraute Windows 10 in eine virtuelle Maschine unter Linux umzuziehen. Dann lässt es sich bei Bedarf direkt unter Linux starten und Windows erscheint wie eine Anwendung in einem Fenster (oder im Vollbild) auf dem Linux-Desktop. Wie das funktioniert und für wen sich diese Lösung eignet, besprechen wir im c’t uplink: Windows 10 in eine Linux-VM umziehen.

Auch noch wichtig:


(fds)



Source link

Weiterlesen

Künstliche Intelligenz

FAQ: Sammelklage gegen Meta vor Hamburger Gericht


Nach einem millionenfachen Datendiebstahl bei Facebook vor mehr als sechs Jahren befasst sich das Hanseatische Oberlandesgericht in Hamburg am heutigen Freitag (11.00 Uhr) mit dem Fall. Der Verbraucherzentrale Bundesverband will mit einer Musterfeststellungsklage erreichen, dass Betroffene einfacher als bislang Schadenersatz von der internationalen Facebook-Muttergesellschaft Meta in Irland einfordern können.

Nach Vorstellung der Verbraucherzentrale hat Meta gegen das Datenschutzrecht verstoßen, indem es Datendiebstahl ermöglichte. Das Technologie-Unternehmen habe die Nutzer unzureichend geschützt und über das Leck informiert. Die Verbraucherzentrale spricht sich dafür aus, dass Geschädigte mindestens 100 bis 600 Euro erhalten. Je mehr Daten abgegriffen worden seien, desto höher müsse die Zahlung ausfallen.

Musterfeststellungsklagen, etwa bekannt aus dem VW-Abgasskandal, sind im November 2018 vom Gesetzgeber eingeführt worden. Sie ermöglichen Verbraucherverbänden, für Geschädigte zu klagen. Im Fall einer erfolgreichen Klage können Verbraucher sich auf das Urteil berufen, um Schadensersatzansprüche durchzusetzen. In der Praxis müssen Verbraucher nicht immer erneut klagen – etwa, wenn es zu einem Vergleich kommt.

Der Vorfall liegt Jahre zurück: Im April 2021 wurden Daten von mehr als 530 Millionen Facebook-Nutzern aus mehr als 100 Ländern im Darknet verbreitet. In Deutschland sollten laut Verbraucherzentrale rund sechs Millionen Menschen betroffen sein. Der Datendiebstahl war möglich, weil Profile auf dem sozialen Netzwerk je nach Einstellungen über Telefonnummern gefunden werden konnten. Auf diese Weise wurden etwa Nutzer-ID, Vor- und Nachname, Land und Geschlecht mit der Telefonnummer verknüpft. Die Daten wurden von Januar 2018 bis September 2019 abgeschöpft.

Die zuständige irische Datenschutzbehörde verhängte 2022 nach einer Prüfung eine Strafe von 265 Millionen Euro gegen Meta Platforms Ireland Limited. In Deutschland gab es Tausende Klagen gegen Meta, wobei das Unternehmen in den Vorinstanzen viele Verfahren gewann. Lange war strittig, unter welchen Voraussetzungen Kläger Schadenersatz geltend machen können. November vergangenen Jahres entschied dann der Bundesgerichtshof, dass dafür der Nachweis reicht, zu den Opfern des Datendiebstahls zu gehören.

Die Verbraucherzentrale teilte mit, bis Anfang Oktober hätten sich mehr als 14.000 Menschen der Klage angeschlossen. Wer Ansprüche anmelden möchte, kann seine Daten auf der Website des Bundesamts für Justiz hinterlegen, um sich in das Verbandsklageregister eintragen zu lassen. Eine Anmeldung ist nachträglich bis spätestens drei Wochen nach Ende der mündlichen Verhandlung möglich. Interessierte können über die Verbraucherzentrale im Internet prüfen lassen, ob sie von der Datenpanne betroffen waren.

Die Verbraucherzentrale teilte mit, dass sich das Gericht am Freitag zunächst mit formellen Fragen beschäftigen werde. Laut dem Hanseatischen Oberlandesgericht soll darüber gesprochen werdne, ob das Gericht überhaupt für die Klage zuständig sei. Wie lange verhandelt werde, könne nicht abgesehen werden. Am Ende der Sitzung am Freitag sei jedenfalls nicht mit einer Entscheidung zu rechnen. Ein gesonderter Verkündungstermin solle bekanntgegeben werden. Die Verhandlung ist öffentlich.


(emw)



Source link

Weiterlesen

Künstliche Intelligenz

Strengere EU-Regeln für politische Werbung treten in Kraft


Ab sofort gelten in der EU neue Regeln für kostenpflichtige politische Werbung. Alle politischen Anzeigen müssen nun eindeutig als solche gekennzeichnet sein und darüber informieren, wer wie viel dafür bezahlt hat, wie die EU-Kommission mitteilte.

Zudem müssten Informationen dazu enthalten sein, ob sich die Werbung an ein bestimmtes Publikum richtet. Die Verordnung soll auch verhindern, dass Drittstaaten Einfluss auf Wahlen in Europa nehmen.

Die neue Regulierung schütze sowohl die Meinungsfreiheit als auch die Informationsfreiheit, hieß es von der Brüsseler Behörde. Sie helfe den Bürgern, bezahlte politische Werbung zu erkennen und etwa von redaktionellen Inhalten oder persönlich geäußerten politischen Meinungen zu unterscheiden. Die neuen Regeln stärkten damit die Integrität von Wahlprozessen. Am Mittwoch hatte die EU-Kommission einen Leitfaden zur Umsetzung der Regeln, die für online und analog geschaltete Anzeigen gelten, veröffentlicht.

Der Facebook- und Instagram-Konzern Meta kündigte bereits im Juni an, wegen der EU-Regeln keine politischen Anzeigen mehr auf den eigenen Plattformen zu schalten. Ab Oktober werde Meta in Europa „aufgrund der undurchführbaren Anforderungen und rechtlichen Unsicherheiten“ durch die EU-Verordnung keine Anzeigen zu politischen, wahlbezogenen und sozialen Themen mehr zulassen, heißt es auf der Website des US-Unternehmens.

Lesen Sie auch

Auch Google hatte an der EU-Verordnung Kritik geübt und im September angekündigt, nur noch bestimmte politische Inhalte auf seinen Plattformen, etwa YouTube, zuzulassen. Demnach sollen offizielle Stellen von EU-Mitgliedsstaaten, die EU selbst oder andere öffentliche Einrichtungen noch Werbung schalten können. Parteien oder Politikerinnen und Politiker haben diese Möglichkeit ansonsten nicht mehr.

Die Grünen-Politikerin Alexandra Geese, die als Abgeordnete im EU-Parlament mit dem Thema befasst ist, kritisierte, Meta und Google weigerten sich, die neuen Regeln umzusetzen. Sie forderte, die EU-Kommission müsse statt kleiner Sonderlösungen das eigentliche Problem angehen und etwas gegen die toxischen Algorithmen der Konzerne tun.

Die EU-Verordnung über „die Transparenz und das Targeting politischer Werbung“ war im vergangenen Jahr beschlossen worden. Einige Regeln waren bereits vor den EU-Wahlen 2024 in Kraft getreten.


(afl)



Source link

Weiterlesen

Beliebt