Künstliche Intelligenz
Jugendschutz: OpenAI und Anthropic erweitern Sicherheit
OpenAI passt erneut an, wie ChatGPT auf Minderjährige reagiert. Dafür werden die sogenannten Model Spec angepasst – darin ist das erwünschte Verhalten des Chatbots festgehalten. Laut OpenAI haben Jugendliche aufgrund ihrer Entwicklung andere Bedürfnisse als Erwachsene. Dem will man nun gerecht werden. Auch Anthropic nimmt Änderungen vor. Während bei ChatGPT die Altersangabe freiwillig geschieht, will Anthroppic nun selbst anhand des Verhaltens der Nutzer herausfinden, ob jemand noch unter 18 Jahre alt ist.
Weiterlesen nach der Anzeige
Das neue Verhalten von ChatGPT betrifft zunächst 13- bis 17-Jährige. Unter 13-Jährigen ist die Nutzung von ChatGPT untersagt. Wenn Minderjährige mit dem Chatbot kommunizieren, soll dieser der Sicherheit der Jugendlichen nun immer oberste Priorität geben – auch wenn es Konflikte mit anderen Zielen geben könnte, schreibt OpenAI im Blogbeitrag. Was diese anderen Ziele sind, bleibt dabei unklar. Vermutlich geht es darum, dass Chatbots grundsätzlich lieber eine Antwort geben als keine, denn das erhöht ihre Chancen, richtigzuliegen. Und richtigzuliegen ist das bisher oberste Ziel.
Außerdem lässt die Aussage vermuten, dass es doch im Sinne von OpenAI ist, dass Menschen eher mehr Zeit mit ChatGPT verbringen. Das streitet CEO Sam Altman selbst bisher ab. Er sagt, im Gegensatz zu Social-Media-Plattformen wolle man Nutzer nicht halten, Funktionen, wie vorgeschlagene weiterführende Fragen und Nachfragen vom Chatbot selbst, wirken aber mindestens ähnlich wie endlose Feeds und vorgeschlagene Beiträge.
Jugendliche sollen zudem immer auch als solche behandelt werden. ChatGPT ist aufgefordert, transparent zu machen, warum welche Reaktion folgt. Bei auftauchenden Problemen lautet die Anweisung immer, dass Jugendliche sich Hilfe suchen sollen – bei Menschen.
Problematisch jedoch: Jugendliche müssen nicht angeben, noch minderjährig zu sein, wenn sie ChatGPT nutzen wollen. Es gibt zwar bereits einen Eltern-Modus und Anpassungen für Jugendliche. Wenn diese aber zum Beispiel gar nicht erst angemeldet sind oder bei der Altersangabe schwindeln, greifen auch keine Maßnahmen.
Anthropic trainiert Claude auf suizidale Gespräche
Anthropic möchte es anders machen. Zunächst einmal ist die Nutzung von Claude sowieso erst 18-Jährigen erlaubt. Zusätzlich jedoch will das Unternehmen nun bei Verdacht auf Minderjährige Nutzerkonten sperren. „Suptile Anzeichen“ würden laut Anthropic genutzt, um das Alter zu bestimmen.
Weiterlesen nach der Anzeige
Da es auch Erwachsenen schlecht gehen kann, kommt auch Claude mit einer Reihe Sicherheitsmaßnahmen. Die ähneln jenen von OpenAI. Anthropic sagt klar, sobald es um Suizid und Selbstverletzung geht, soll Claude die sogenannte „Sycophancy“ ablegen. Das ist die Tendenz, Nutzer immer eher zu bestätigen in dem, was sie sagen. Auch Claude soll auf menschliche Hilfe und Beratungsstellen verweisen.
Während OpenAI nicht ganz klarmacht, wie die Angaben aus den Model Spec in den Chatbot fließen, sagt Anthropic, sie nutzten zwei Wege, um die Sicherheitsmaßnahmen zu implementieren. Zum einen stecken Anweisungen im Systemprompt. Das ist ein Set an Anweisungen, das automatisch vor jeder Nutzeranfrage quasi vom Chatbot abgearbeitet wird. Zum anderen wird im Reinforcement Learning dem Modell ein erwünschtes Verhalten antrainiert. Konkret bekommt das Modell eine Belohnung für das richtige Verhalten. Es werden also Beispiele trainiert.
Obendrauf ist ein „Classifier“ unterwegs, der Chats auf Auffälligkeiten hin durchsucht. Auch OpenAI hat bereits erklärt, Chats zu kontrollieren. Die Sicherheitsmaßnahmen der Chatbots werden derzeit massiv ausgebaut. Das geschieht unter anderem, weil sich auch der Druck auf die Anbieter deutlich erhöht hat. In den USA gibt es konkret Klagen gegen OpenAI – es geht um eine Art Beihilfe zum Suizid. Aber auch der grundsätzliche Jugendschutz und Gefahren für junge Menschen sowie Erwachsene werden diskutiert. Das betrifft alle KI-Anbieter.
Hinweis: In Deutschland finden Sie Hilfe und Unterstützung bei Problemen aller Art, auch bei Fragen zu Mobbing und Suiziden, bei telefonseelsorge.de und telefonisch unter 0800 1110111. Die Nummer gegen Kummer (Kinder- und Jugendtelefon) lautet 116 111. In Österreich gibt es ebenfalls kostenfreie Hilfsangebote, darunter speziell für Kinder der Kindernotruf unter 0800 567 567 sowie Rat auf Draht unter 147. Dieselbe Telefonnummer führt in der Schweiz zu Pro Juventute.
(emw)
Künstliche Intelligenz
Wie man mit Spectre Cloud-Systeme angreift
Angriffe auf Lücken wie Spectre prägen seit Anfang 2018 die Sicherheitsforschung. Doch nach anfänglich großer Aufregung in der IT-Sicherheits-Community fragen sich heute viele, ob die kontinuierlich erscheinenden neuen Varianten noch praktische Relevanz haben oder rein akademische Experimente sind.
Spectre ist eine architektonische Schwachstelle moderner Prozessoren. Die beherrschen „spekulative Befehlsausführung“, bei der die CPU rät, welcher Befehl wohl als Nächstes kommt, und damit beginnt, diesen auszuführen, bevor die Befehlsfolge feststeht. Das dient der Leistungsoptimierung, kann aber von Angriffen wie Spectre ausgenutzt werden: Mit Code, der die Sprungvorhersage gezielt manipuliert, veranlassen Angreifer die CPU dazu, sensible Daten aus geschützten Speicherbereichen vorübergehend zu verarbeiten und über Seitenkanäle wie den CPU-Cache preiszugeben.
- Spectre ist ein jahrealtes, aber immer noch viel untersuchtes Architekturproblem.
- Angriffe lassen sich nicht nur unter Laborbedingungen, sondern auch praktisch auf produktiv genutzter Hardware durchführen.
- Gegenmaßnahmen kosten Geld oder Leistung oder beides, was ihre Umsetzung einschränkt.
Nun liegt in Szenarien, die eine lokale Code-Ausführung erfordern, oft bereits eine kritische Kompromittierung vor, und der darauf aufbauende Angriff ist sinnlos. Ihre volle Schlagkraft entfalten solche Angriffe jedoch in Cloudumgebungen. Hier teilen sich durch Virtualisierung verschiedene Mandanten dieselbe physische Hardware. Theoretisch gewährleistet die Virtualisierung eine strikte Trennung dieser Workloads. In der Praxis demonstrierten Forscher jedoch wiederholt, dass die Isolation durch Cache-Timing-Seitenkanäle unterlaufen werden kann. Dies ermöglicht es, sensible Informationen über VM-Grenzen hinweg aus eigentlich isolierten Instanzen zu extrahieren.
Das war die Leseprobe unseres heise-Plus-Artikels „Wie man mit Spectre Cloud-Systeme angreift“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Disney setzt auf Freizeitpark-Chef D’Amaro als neuen Boss
Der US-Entertainmentriese Walt Disney hat sich für einen Nachfolger für Konzernchef Bog Iger entschieden. Der Freizeitpark-Spartenchef Josh D’Amaro wird den Staffelstab von Iger mit der Hauptversammlung am 18. März übernehmen, wie das Unternehmen mitteilte.
Weiterlesen nach der Anzeige
Mit der Berufung des Managers endet eine dreijährige Suche nach einer geeigneten Nachfolge für Iger. D’Amaro leitet mit den Themenparks den seit 2020 gewinnträchtigsten Geschäftszweig des Konzerns, zu dem auch die Kreuzfahrten gehören. Iger wird noch beratend bis zum Jahresende für Walt Disney aktiv sein.
Disney hatte den langjährigen Konzernlenker Iger 2022 zurück an die Spitze des Unternehmens geholt. Der Manager übernahm das Ruder in einem schwierigen Moment für Disney und auch die gesamte Unterhaltungsbranche. Der Konzern musste der gesunkenen Ausgabebereitschaft der Verbraucher in Zeiten hoher Inflation Rechnung tragen. Zugleich sinken die Erlöse im Kabel-TV mit Sendern wie ABC in den USA. Zudem fuhr das Streaming-Geschäft damals trotz starken Wachstums Verluste ein.
(dahe)
Künstliche Intelligenz
iX-Workshop: Einführung in die SAP Business Technology Platform (BTP)
Die SAP Business Technology Platform (SAP BTP) von SAP unterstützt Unternehmen beim Umstieg in die Cloud und bei der Verbesserung ihrer Geschäftsprozesse. Sie stellt eine Vielzahl von Tools und Diensten für die Entwicklung von Anwendungen, die Integration von Daten und Prozessen, das Datenmanagement sowie Analysen und maschinelles Lernen bereit.
Weiterlesen nach der Anzeige
Der Cyber-Resiliance-Act (CRA)
Der Cyber-Resiliance-Act (CRA) wird in Europa neue Maßstabe setzen: Zukünftig müssen alle Produkte mit digitalen Elementen Cybersecurity-Anforderungen erfüllen. Produktprüfungen und Zertifizierung stehen daher vor einem Umbruch, um sich auf ein neues europäisches System einzustellen. Der Workshop Einführung in die SAP Business Technology Platform (BTP) beleuchtet, wie man sich als Hersteller auf den CRA vorbereiten kann und konzentriert sich dabei auf die Inhalte der beiden relevanten Normteile, der IEC 62443-4-1 mit den SDL-Anforderungen und der IEC 62443-4-2 mit den technischen Sicherheitsanforderungen.
|
Februar 26.02.2026 |
Online-Workshop, 09:00 – 17:00 Uhr |
|
Mai 13.05.2026 |
Online-Workshop, 09:00 – 17:00 Uhr 10 % Frühbucher-Rabatt bis zum 15. Apr. 2026 |
|
September 23.09.2026 |
Online-Workshop, 09:00 – 17:00 Uhr 10 % Frühbucher-Rabatt bis zum 26. Aug. 2026 |
Drei komplexe Übungen
Sie werden nicht nur die Grundlagen von SAP BTP erlernen, sondern auch konkrete Erfahrungen sammeln. In praktischen Übungen entwickeln Sie Anwendungen mit der SAP BTP Extension Suite und integrieren Schnittstellen mit der Integration Suite. Abschließend automatisieren Sie einen Geschäftsprozess mit SAP Build – von der Identifikation bis zur Optimierung.
Ihre Trainerin Sophie-Marie Lück ist Senior SAP BTP Beraterin und Entwicklerin bei der Rewion GmbH. Seit 2018 unterstützt sie mittelständische und große Unternehmen unterschiedlichster Branchen bei der Optimierung und Integration ihrer Geschäftsprozesse in das SAP-Kernsystem.

(ilk)
-
Entwicklung & Codevor 3 MonatenKommandozeile adé: Praktische, grafische Git-Verwaltung für den Mac
-
Künstliche Intelligenzvor 1 MonatSchnelles Boot statt Bus und Bahn: Was sich von London und New York lernen lässt
-
Apps & Mobile Entwicklungvor 2 MonatenHuawei Mate 80 Pro Max: Tandem-OLED mit 8.000 cd/m² für das Flaggschiff-Smartphone
-
Apps & Mobile Entwicklungvor 2 MonatenFast 5 GB pro mm²: Sandisk und Kioxia kommen mit höchster Bitdichte zum ISSCC
-
Entwicklung & Codevor 2 MonatenKommentar: Anthropic verschenkt MCP – mit fragwürdigen Hintertüren
-
Social Mediavor 2 MonatenDie meistgehörten Gastfolgen 2025 im Feed & Fudder Podcast – Social Media, Recruiting und Karriere-Insights
-
Datenschutz & Sicherheitvor 2 MonatenSyncthing‑Fork unter fremder Kontrolle? Community schluckt das nicht
-
Künstliche Intelligenzvor 3 MonatenWeiter billig Tanken und Heizen: Koalition will CO₂-Preis für 2027 nicht erhöhen
