Künstliche Intelligenz
Jugendschutz: OpenAI und Anthropic erweitern Sicherheit
OpenAI passt erneut an, wie ChatGPT auf Minderjährige reagiert. Dafür werden die sogenannten Model Spec angepasst – darin ist das erwünschte Verhalten des Chatbots festgehalten. Laut OpenAI haben Jugendliche aufgrund ihrer Entwicklung andere Bedürfnisse als Erwachsene. Dem will man nun gerecht werden. Auch Anthropic nimmt Änderungen vor. Während bei ChatGPT die Altersangabe freiwillig geschieht, will Anthroppic nun selbst anhand des Verhaltens der Nutzer herausfinden, ob jemand noch unter 18 Jahre alt ist.
Weiterlesen nach der Anzeige
Das neue Verhalten von ChatGPT betrifft zunächst 13- bis 17-Jährige. Unter 13-Jährigen ist die Nutzung von ChatGPT untersagt. Wenn Minderjährige mit dem Chatbot kommunizieren, soll dieser der Sicherheit der Jugendlichen nun immer oberste Priorität geben – auch wenn es Konflikte mit anderen Zielen geben könnte, schreibt OpenAI im Blogbeitrag. Was diese anderen Ziele sind, bleibt dabei unklar. Vermutlich geht es darum, dass Chatbots grundsätzlich lieber eine Antwort geben als keine, denn das erhöht ihre Chancen, richtigzuliegen. Und richtigzuliegen ist das bisher oberste Ziel.
Außerdem lässt die Aussage vermuten, dass es doch im Sinne von OpenAI ist, dass Menschen eher mehr Zeit mit ChatGPT verbringen. Das streitet CEO Sam Altman selbst bisher ab. Er sagt, im Gegensatz zu Social-Media-Plattformen wolle man Nutzer nicht halten, Funktionen, wie vorgeschlagene weiterführende Fragen und Nachfragen vom Chatbot selbst, wirken aber mindestens ähnlich wie endlose Feeds und vorgeschlagene Beiträge.
Jugendliche sollen zudem immer auch als solche behandelt werden. ChatGPT ist aufgefordert, transparent zu machen, warum welche Reaktion folgt. Bei auftauchenden Problemen lautet die Anweisung immer, dass Jugendliche sich Hilfe suchen sollen – bei Menschen.
Problematisch jedoch: Jugendliche müssen nicht angeben, noch minderjährig zu sein, wenn sie ChatGPT nutzen wollen. Es gibt zwar bereits einen Eltern-Modus und Anpassungen für Jugendliche. Wenn diese aber zum Beispiel gar nicht erst angemeldet sind oder bei der Altersangabe schwindeln, greifen auch keine Maßnahmen.
Anthropic trainiert Claude auf suizidale Gespräche
Anthropic möchte es anders machen. Zunächst einmal ist die Nutzung von Claude sowieso erst 18-Jährigen erlaubt. Zusätzlich jedoch will das Unternehmen nun bei Verdacht auf Minderjährige Nutzerkonten sperren. „Suptile Anzeichen“ würden laut Anthropic genutzt, um das Alter zu bestimmen.
Weiterlesen nach der Anzeige
Da es auch Erwachsenen schlecht gehen kann, kommt auch Claude mit einer Reihe Sicherheitsmaßnahmen. Die ähneln jenen von OpenAI. Anthropic sagt klar, sobald es um Suizid und Selbstverletzung geht, soll Claude die sogenannte „Sycophancy“ ablegen. Das ist die Tendenz, Nutzer immer eher zu bestätigen in dem, was sie sagen. Auch Claude soll auf menschliche Hilfe und Beratungsstellen verweisen.
Während OpenAI nicht ganz klarmacht, wie die Angaben aus den Model Spec in den Chatbot fließen, sagt Anthropic, sie nutzten zwei Wege, um die Sicherheitsmaßnahmen zu implementieren. Zum einen stecken Anweisungen im Systemprompt. Das ist ein Set an Anweisungen, das automatisch vor jeder Nutzeranfrage quasi vom Chatbot abgearbeitet wird. Zum anderen wird im Reinforcement Learning dem Modell ein erwünschtes Verhalten antrainiert. Konkret bekommt das Modell eine Belohnung für das richtige Verhalten. Es werden also Beispiele trainiert.
Obendrauf ist ein „Classifier“ unterwegs, der Chats auf Auffälligkeiten hin durchsucht. Auch OpenAI hat bereits erklärt, Chats zu kontrollieren. Die Sicherheitsmaßnahmen der Chatbots werden derzeit massiv ausgebaut. Das geschieht unter anderem, weil sich auch der Druck auf die Anbieter deutlich erhöht hat. In den USA gibt es konkret Klagen gegen OpenAI – es geht um eine Art Beihilfe zum Suizid. Aber auch der grundsätzliche Jugendschutz und Gefahren für junge Menschen sowie Erwachsene werden diskutiert. Das betrifft alle KI-Anbieter.
Hinweis: In Deutschland finden Sie Hilfe und Unterstützung bei Problemen aller Art, auch bei Fragen zu Mobbing und Suiziden, bei telefonseelsorge.de und telefonisch unter 0800 1110111. Die Nummer gegen Kummer (Kinder- und Jugendtelefon) lautet 116 111. In Österreich gibt es ebenfalls kostenfreie Hilfsangebote, darunter speziell für Kinder der Kindernotruf unter 0800 567 567 sowie Rat auf Draht unter 147. Dieselbe Telefonnummer führt in der Schweiz zu Pro Juventute.
(emw)
Künstliche Intelligenz
Project Genie ausprobiert: Googles Weltmodell, das Gaming-Aktien purzeln lässt
Ein einfacher Prompt erzeugt eine idyllische Welt, die man Sekunden später persönlich erkunden kann, und zwar mit einem Charakter nach eigenen Wünschen: Mit diesem Konzept versetzte Googles Project Genie am 30. Januar 2025 die Börse in Panik. Der GTA-Publisher Take-Two verlor 10 Prozent an Wert, die Spiele-Engine Unity sogar 21 Prozent. Investoren witterten eine einfache Alternative zur Spielentwicklung. Auf den ersten Blick erscheint das wie eine Überreaktion. Derzeit befindet sich der Prototyp noch im experimentellen Stadium, weshalb sich der generierte Erkundungstrip auf eine Länge von rund einer Minute beschränkt und nur eine stark eingeschränkte Interaktivität bietet. Dennoch ist es bereits überaus faszinierend, mit dem Web-Interface von Project Genie zu experimentieren.
Im Hintergrund kommt Googles „General Purpose World Model“ Genie 3 zum Einsatz. Es generiert nicht nur Bilder oder Videos, sondern auch dreidimensionale, begehbare Welten. Als Vorlage genügen zwei Prompts oder auf Wunsch auch der Upload eines Fotos. Nach nur rund 30 Sekunden Wartezeit flattert man etwa als Vogel über die Hamburger Speicherstadt, läuft in der Ego-Perspektive durch den Wald oder steuert eine Forelle durch den Teich. Der Fantasie sind kaum Grenzen gesetzt, sofern das gewünschte Szenario im Trainingsmaterial enthalten ist. Nach dem interaktiven Ausflug lässt sich eine Videoaufzeichnung als MP4-Datei herunterladen. Die Auflösung beträgt derzeit 1280 × 704 Pixel bei 20 Bildern pro Sekunde (fps). Sound fehlt vorerst leider komplett. Zudem müssen Nutzer mit einem sichtbaren Wasserzeichen leben.
- Googles Project Genie erzeugt in Sekunden nahezu fotorealistische 3D-Welten, die sich unmittelbar erkunden lassen.
- Das bislang nur in den USA verfügbare Tool ließ mit seinen eindrucksvollen Bildern bereits die Börsenkurse großer Spielestudios purzeln.
- Wir haben es ausprobiert und prüfen, wie viel Interaktivität und Einsatzmöglichkeiten die Technik bereits eröffnet.
Derzeit gibt es jedoch hohe Hürden bei der Nutzung: Das ausschließlich in der Cloud nutzbare Modell ist vorerst nur in den USA verfügbar – und auch dort nur für Inhaber des 250 Dollar teuren Premium-Abos „Google AI Ultra“. Dann darf man allerdings unbegrenzt viele Szenarien erstellen. Mit einem US-Google-Account und einem VPN konnten wir das Angebot bereits ausprobieren, um in Googles KI-Fantasiewelten abzutauchen. In diesem Erfahrungsbericht untersuchen wir die Faszination hinter dieser noch experimentellen Technik, ihren aktuellen Nutzwert für Spiele oder Videos und ihre technischen Einschränkungen. Zusätzlich geben wir Tipps für Prompts und schätzen ein, ob das Weltmodell der traditionellen Spielentwicklung in absehbarer Zukunft gefährlich werden könnte.
Das war die Leseprobe unseres heise-Plus-Artikels „Project Genie ausprobiert: Googles Weltmodell, das Gaming-Aktien purzeln lässt“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Spritpreise steigen weiter, Diesel kurz vor Allzeithoch
Die Spritpreise haben sich nach einem weiteren Preisschritt zum Wochenausklang am Wochenende weitgehend stabil gezeigt. Allerdings beobachtete der ADAC zumindest beim Diesel eine leichte Tendenz nach oben. Sollte der Trend anhalten, könnte damit das Allzeithoch beim Dieselpreis in der ersten Hälfte der neuen Woche überschritten werden.
Weiterlesen nach der Anzeige
Hintergrund sind Befürchtungen, der Iran-Krieg könnte weiter eskalieren. US-Präsident Donald Trump drohte dem Iran mit der Zerstörung seiner Energieanlagen, sollte das Land nicht innerhalb von 48 Stunden die Straße von Hormus vollständig öffnen. Aus Teheran folgte prompt eine Gegenwarnung: Sollte die Kraftstoff- und Energieinfrastruktur des Irans angegriffen werden, werde man Energieanlagen in der gesamten Golfregion ins Visier nehmen.
Regionale Abweichungen möglich
Am Samstag lagen die bundesweiten Durchschnittspreise an den Tankstellen laut ADAC beim Diesel bei 2,301 Euro und bei Super E10 bei 2,083 Euro pro Liter. Regional sind Abweichungen vom Mittelwert und damit auch höhere Preise möglich. Vom Höchststand 2022 kurz nach Ausbruch des Ukraine-Kriegs ist Diesel noch 2 Cent entfernt, bei Super E10 sind es 12 Cent. Der Dieselpreis hatte sich zuvor innerhalb von zwei Tagen um mehr als 12 Cent erhöht. Am Freitag kostete ein Liter des Kraftstoffs im bundesweiten Tagesdurchschnitt 2,291 Euro, wie die Daten des ADAC zeigen. Superbenzin der Sorte E10 kostete am Freitag 2,086 Euro je Liter.
Senkung der Energiesteuer gefordert
Beide Preise haben seit Kriegsbeginn stark angezogen. Ein Liter Diesel war am Wochenende um über 55 Cent teurer als am Tag vor Kriegsausbruch, ein Liter Benzin um über 30 Cent. Hintergrund sind die durch den Krieg stark angestiegenen Rohölpreise. Es gibt aber auch Kritik an der Mineralölindustrie, dass die Preise im Verhältnis zum Ölpreis zu stark gestiegen seien. Der ADAC fordert eine Senkung der Energiesteuer. Nur so ließen sich Verbraucher schnell und wirksam entlasten.
Die ersten Preise vom Sonntag deuteten in der Tendenz auf einen leichten weiteren Anstieg der Spritpreise hin. Am Morgen – gemeinhin die teuerste Tankzeit – kostete Diesel dem ADAC zufolge im Schnitt 2,338 Euro und Super E10 2,150 Euro je Liter. Sollte sich der Dieselpreis im Tagesverlauf auf diesem Niveau einpendeln, steht ein neues Allzeithoch ins Haus. Die starken Schwankungen der letzten Zeit machen Prognosen aber extrem unsicher.
Weiterlesen nach der Anzeige
Lesen Sie auch
(nie)
Künstliche Intelligenz
WTO warnt vor Ende des KI-Booms wegen Energiemangel
Die Weltwirtschaft steht an einem Wendepunkt, an dem die Verheißungen der Künstlichen Intelligenz auf die harte Realität der globalen Energiepolitik treffen. In ihrem „Global Trade Outlook 2026“ zeichnet die Welthandelsorganisation (WTO) ein Bild, das von extremer Volatilität geprägt ist. 2025 verlief trotz hoher Handelshemmnisse und der protektionistischen Zoll-Politik Donald Trumps zwar überraschend robust. Doch nun sind die dunklen Wolken am Horizont kaum mehr zu übersehen. Hauptgrund für die Sorge der Genfer Experten ist eine paradoxe Wechselwirkung: Die Technologie, die den Welthandel zuletzt stützte, ist seine größte Achillesferse geworden.
Weiterlesen nach der Anzeige
KI hat sich innerhalb kurzer Zeit von einem Nischenthema zum Rückgrat des globalen Investitionswachstums entwickelt. Laut den Daten der WTO entfielen im vergangenen Jahr rund 70 Prozent des gesamten Investitionswachstums in Nordamerika auf KI-bezogene Güter. Zum Vergleich: In den Jahren vor dem Immobiliencrash von 2008 machte der Bausektor lediglich 30 Prozent aus.
Diese hohe Konzentration birgt Risiken. WTO-Chefökonom Robert Staiger hob bei der Präsentation des Handelsausblicks hervor, dass die Schlüsseltechnik in Bezug auf ihre tatsächliche langfristige Fähigkeit zum Liefern von Erfolgen noch immer unbewiesen sei. Da die Investitionen zudem auf eine kleine Gruppe extrem großer Konzerne fokussiert seien, könnte jede Erschütterung des Vertrauens oder der Rahmenbedingungen fatale Folgen haben.
Nahost-Konflikt bedroht Rechenpower-Nachschub
Hier kommt nach Ansicht der WTO der Konflikt im Nahen Osten mit dem Iran-Krieg im Zentrum ins Spiel. Die Region ist nicht nur ein geografisches Nadelöhr für den Welthandel, sondern vor allem Hauptlieferant für Energie und Düngemittel. Ein lang anhaltender Zeitraum hoher Ölpreise würde die Betriebskosten der ohnehin extrem energieintensiven KI-Infrastruktur massiv in die Höhe treiben, warnt die internationale Organisation.
Der Betrieb von Rechenzentren und die Fertigung moderner Halbleiter verschlingen riesige Mengen an Strom. Sollten die Energiepreise über das gesamte Jahr 2026 hinweg auf hohem Niveau bleiben, könnte dies den KI-Boom laut Staiger empfindlich „einklemmen“.
Die WTO schätzt, dass ein dauerhafter Energieschock das Wachstum des Warenhandels um zusätzliche 0,5 Prozentpunkte drücken würde. Das würde die ohnehin vorsichtige Prognose von 1,9 Prozent Wachstum gefährlich nahe an eine Stagnation bringen. Neben den Energiekosten verändert die politische Landschaft die Handelsströme grundlegend. Die USA unter Trump haben die Zölle auf ein seit Jahrzehnten nicht mehr gekanntes Niveau angehoben. Dies führte 2025 allein zu einem Einbruch der US-Importe aus China um 29 Prozent.
Weiterlesen nach der Anzeige
Neue Handelsrouten und schwindende WTO-Prinzipien
Dennoch wuchs der Welthandel insgesamt um 4,6 Prozent, da viele Unternehmen ihre Importe vor Inkrafttreten der Zölle vorzogen und China seine Warenströme erfolgreich nach Asien, Afrika und Lateinamerika umleitete. Besonders die Volkswirtschaften von Singapur, Thailand und Vietnam profitierten von dieser Verschiebung und fungierten als neue Motoren des Welthandels. Die Fragmentierung der Weltwirtschaft wird jedoch immer deutlicher. Der Anteil des Handels, der nach dem sogenannten Meistbegünstigungsprinzip der WTO abgewickelt wird, sank von 80 Prozent 2024 auf nur noch 72 Prozent Anfang 2026.
Das bedeutet, dass immer mehr Geschäfte über bilaterale Sonderabkommen oder durch protektionistische Hürden beeinflusst werden. Die WTO selbst kämpft in diesem Umfeld um ihre Relevanz, während die großen Blockbildungen zwischen den USA und China die globalen Lieferketten zerreißen. Für das laufende Jahr bleibt die Frage entscheidend, ob die Dynamik im KI-Sektor ausreicht, um den Sog der hohen Energiekosten und der geopolitischen Spannungen auszugleichen. Die Weltwirtschaft steuert den Handelsexperten zufolge auf ein Jahr zu, in dem die Rechenleistung von Chips gegen die Förderleistung von Ölquellen antritt.
Lesen Sie auch
(nie)
-
Künstliche Intelligenzvor 3 MonatenSchnelles Boot statt Bus und Bahn: Was sich von London und New York lernen lässt
-
Social Mediavor 3 WochenCommunity Management und Zielgruppen-Analyse: Die besten Insights aus Blog und Podcast
-
Social Mediavor 1 MonatCommunity Management zwischen Reichweite und Verantwortung
-
Künstliche Intelligenzvor 1 Monat
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
UX/UI & Webdesignvor 2 MonatenEindrucksvolle neue Identity für White Ribbon › PAGE online
-
Künstliche Intelligenzvor 2 MonatenAumovio: neue Displaykonzepte und Zentralrechner mit NXP‑Prozessor
-
Künstliche Intelligenzvor 3 MonatenÜber 220 m³ Fläche: Neuer Satellit von AST SpaceMobile ist noch größer
-
Künstliche Intelligenzvor 2 MonateneHealth: iOS‑App zeigt Störungen in der Telematikinfrastruktur
