Apps & Mobile Entwicklung
Beschränkungen umgangen: OpenAI stoppt internes Modell nach Sandbox-Ausbruch
OpenAI hat den Einsatz eines leistungsfähigen internen KI-Modells vorübergehend gestoppt, nachdem dieses in Tests eigenständig Sicherheitsbeschränkungen umgehen und seine Sandbox verlassen konnte. Eine Gefährdung bestand nicht, da das Verhalten ausschließlich unter kontrollierten Bedingungen beobachtet wurde.
Über Vorgaben hinweggesetzt
Bei dem betroffenen Modell handelt es sich laut OpenAI um ein internes Large Language Model (LLM), das speziell für die Bearbeitung komplexer und offener Problemstellungen entwickelt wurde. Zuletzt hatte das System in der Fachwelt für Aufmerksamkeit gesorgt, nachdem es die Erdős-Einheitsabstandsvermutung widerlegt haben soll. Dabei handelt es sich um ein berühmtes Problem der diskreten Geometrie, das 1946 vom ungarischen Mathematiker Paul Erdős formuliert wurde. Es beschäftigt sich mit der maximalen Anzahl von Punktpaaren in einer zweidimensionalen Ebene, deren Abstand exakt dem Einheitsabstand, also dem Wert 1, entspricht.
Während eines NanoGPT-Speedrun-Benchmarks sollte das Modell die Ergebnisse eines Tests in Slack veröffentlichen. Kurz darauf stieß es jedoch auf weitere Anweisungen, die stattdessen das Erstellen eines Pull Requests in einem öffentlichen GitHub-Repository vorsahen. Obwohl die Vorgaben der Sandbox genau dieses Verhalten verhindern sollten, folgte das Modell den zuletzt gefundenen Anweisungen. Nach rund einer Stunde in der isolierten Testumgebung fand die KI einen Weg, die Beschränkungen zu umgehen, externen Zugriff zu erlangen und den Pull Request #287 im öffentlichen GitHub-Repository zu erstellen.
Bei einer weiteren Aufgabe stellte das Modell fest, dass andere Systeme zu dem beschriebenen Problem bereits erfolgreiche, jedoch private Lösungen eingereicht hatten. Daraufhin versuchte es, diese über das Bewertungs-Backend abzurufen. Nachdem ein Sicherheitsscanner den Zugriff auf einen Authentifizierungsschlüssel verhindert hatte, teilte das Modell den Token in mehrere Fragmente auf, verschleierte diese und setzte sie erst während der Ausführung wieder zusammen. Dadurch erschien der vollständige Schlüssel nie als zusammenhängende Zeichenfolge und konnte den Scanner umgehen. OpenAI betont, dass das Modell sowohl in seinen Kommentaren als auch in seinen internen Gedankengängen ausdrücklich erklärte, den Sicherheitsscanner bewusst umgehen zu wollen.
Verhalten liegt im „Wesen“ der KI
Laut eines Berichtes von OpenAI sei dieses Verhalten eine direkte Folge der Architektur des Modells gewesen, welches genau dafür konzipiert wurde – über einen längeren Zeitraum hartnäckig nach Lösungen für komplexe Probleme zu suchen. Genau diese ausdrücklich gewünschte Eigenschaft erhöhe zugleich die Wahrscheinlichkeit, dass das System unerwünschte oder nicht vorgesehene Handlungen ausführt.
Sicherheitskonzept massiv erweitert
OpenAI hat nach den Erkenntnissen den Zugriff auf das Modell unmittelbar unterbrochen und damit begonnen, die bestehenden Sicherheitsmaßnahmen zu überarbeiten und deutlich auszubauen. Künftig setzt das Unternehmen verstärkt auf ein mehrschichtiges Sicherheitskonzept („Defense in Depth“) sowie auf eine Überwachung vollständiger Handlungsabläufe („Trajectory-Level Monitoring“). Ergänzt wird dies durch vorfallbasierte Sicherheitsbewertungen, Verbesserungen beim Alignment des Modells auf menschliche Vorgaben, eine aktive Überwachung während der Ausführung sowie erweiterte Möglichkeiten für Nutzer, das Verhalten der Modelle nachvollziehen und kontrollieren zu können. Dadurch sollen vergleichbare Vorfälle künftig frühzeitig erkannt und unterbunden werden.
Der KI-Spezialist testete die neuen Schutzmechanismen gezielt mit den Szenarien, in denen das Modell zuvor sein Fehlverhalten gezeigt hatte. Laut OpenAI konnten die neuen Sicherheitssysteme dabei deutlich mehr fehlgeleitete Aktionen erkennen und verhindern. Die wenigen verbliebenen, nicht erkannten Vorfälle wurden als geringfügig eingestuft.
Höhere Leistung = höheres Risiko
In seinem Beitrag macht das Unternehmen erneut deutlich, dass mit der steigenden Leistungsfähigkeit von KI-Modellen und gleichzeitig längeren Ausführungszeiträumen auch die potenziellen Risiken zunehmen. Als Konsequenz aus den gewonnenen Erkenntnissen sollen alle KI-Modelle künftig über längere Zeiträume getestet, das Alignment weiter verbessert, automatische Eingriffsmöglichkeiten ausgebaut sowie Nutzern mehr Transparenz und Kontrolle über die Aktivitäten der Systeme ermöglicht werden.
Darüber hinaus betont OpenAI, dass diese Probleme nicht ausschließlich die eigenen Modelle betreffen, sondern grundsätzlich auch auf andere Systeme übertragbar seien. Vergleichbare Vorfälle sollen ebenfalls bei anderen KI-Anbietern beobachtet worden sein. Mit der Veröffentlichung der Erkenntnisse hofft das Unternehmen zugleich, anderen Entwicklern dabei zu helfen, ähnliche Vorfälle künftig frühzeitig verhindern zu können.
Apps & Mobile Entwicklung
RAM-Preise sinken: Framework zahlt Kunden Geld zurück

Die Preise für Arbeitsspeicher kennen seit Monaten fast nur eine Richtung: nach oben. Framework kann nun zumindest bei LPCAMM2 gegen den Trend schwimmen: Der Hersteller hat eine begrenzte Menge günstigerer Module von Micron beschafft und reduziert deshalb die Preise – sogar rückwirkend für bereits ausgelieferte Bestellungen.
Günstigerer Speicher für den Laptop 13 Pro
Betroffen ist der Framework Laptop 13 Pro (Test) mit 32 oder 64 GB LPCAMM2. Wie Framework in einem Update zur Speicherpreisentwicklung erklärt, konnte das Unternehmen eine begrenzte Menge entsprechender Micron-Module zu niedrigeren Einkaufspreisen beschaffen.
Die neuen Einkaufspreise liegen zwar noch immer über dem Niveau zum ursprünglichen Start der Vorbestellungen, aber unter den Kosten, die Framework zuletzt zu einer deutlichen Preiserhöhung gezwungen hatten. Im Juli hatte der Hersteller erklärt, dass sich die Einkaufspreise für LPCAMM2 gegenüber dem zuvor beschafften Bestand mehr als verdoppelt hätten.
Von der jetzigen Entspannung profitieren zunächst bestehende Kunden. Bereits ausgelieferte Bestellungen, bei denen der höhere LPCAMM2-Preis berechnet wurde, erhalten automatisch eine Rückerstattung der Differenz. Auch noch offene Vorbestellungen bis einschließlich „Batch 10“, also der zehnten Auslieferungscharge, werden automatisch auf den niedrigeren Preis angepasst.
Wer bis Batch 10 vorbestellt hat, kann seine Konfiguration zudem auf 32 oder 64 GB LPCAMM2 zum reduzierten Preis ändern. Selbst Besitzer einer bereits ausgelieferten DIY-Edition können ihren Speicher nachträglich wechseln. Framework übernimmt in diesem Fall nach eigenen Angaben auch die Rücksendekosten für das ursprünglich bestellte Modul.
Noch kein allgemeiner Preisrutsch
Die ungewöhnliche Rückerstattung bedeutet allerdings nicht, dass LPCAMM2 grundsätzlich wieder deutlich günstiger geworden ist. Framework spricht ausdrücklich von einer begrenzten Menge, die zu besseren Konditionen eingekauft werden konnte. Sollte danach noch Bestand übrig sein oder weiterer günstiger Speicher beschafft werden können, will das Unternehmen zunächst weitere Vorbesteller und erst danach neue Bestellungen berücksichtigen.
Die regulären Preise für neue Bestellungen bleiben deshalb vorerst hoch. Im US-Shop kostet ein 32-GB-LPCAMM2-Modul weiterhin 800 US-Dollar, für 64 GB werden 1.600 US-Dollar aufgerufen. 16 GB kosten 239 US-Dollar.
Damit bleibt die aktuelle Preissenkung eher eine Ausnahme in einem weiterhin angespannten Speichermarkt. Für betroffene Käufer des Framework Laptop 13 Pro ist sie dennoch ungewöhnlich kundenfreundlich: Statt die günstigeren Einkaufspreise nur bei künftigen Bestellungen zu berücksichtigen, gibt Framework einen Teil der Ersparnis rückwirkend weiter.
Apps & Mobile Entwicklung
Kojimas Physint: PlayStation hatte wohl Angst vor dem nächsten teuren Flopp

Überraschend hat Sonys PlayStation-Sparte dem neuen Spieleprojekt Physint von Hideo Kojima den Rücken gekehrt, ohne öffentlich Gründe dafür zu nennen. Der renommierte Gaming-Journalist Jason Schreier hat sich umgehört und berichtet, das finanzielle Bedenken wohl der Hauptgrund für diesen Schritt waren.
Eigentlich sollte Physint, ein laut der Ankündigung Anfang 2024 filmähnliches Spionage-Game, in Kooperation zwischen dem Entwicklerstudio Kojima Games und Sony PlayStation entstehen. Doch am Donnerstag kam die überraschende Meldung, dass Sony die Zusammenarbeit am Projekt beendet hat und Kojima jetzt mit Xbox kooperiert, um Physint doch noch zu verwirklichen.
Weder PlayStation noch Kojima lieferten allerdings eine Begründung für diesen Schritt, über die also zunächst nur spekuliert worden war. Eine häufig geäußerte Vermutung, dass es letztlich dabei ums Geld ging, wird nun durch einen Bloomberg-Bericht bestätigt. Der Autor Jason Schreier will aus mit dem Projekt vertrauten Kreisen erfahren haben, dass sich die PlayStation-Sparte aufgrund von „Bedenken hinsichtlich des Budgets, der potenziellen Rentabilität und der Exklusivität“ vom Physint-Projekt zurückgezogen habe.
Die Entscheidung soll dadurch beflügelt worden sein, dass Kojimas vorherige Spiele Death Stranding und Death Stranding 2 „die Umsatzerwartungen von PlayStation nicht erfüllt haben“, so die anonymen Quellen des Berichts.
Außerdem sollen bei Physint auferlegte Fristen nicht eingehalten worden sein. Das Projekt sei auf dem besten Weg gewesen, „das Budget deutlich zu überschreiten“ und PlayStation habe zudem gezögert „Hunderte Millionen Dollar in ein weiteres Spiel zu investieren, das nicht dauerhaft exklusiv für die firmeneigene Hardware bleiben würde“.
Sony will sich nicht wieder die Finger verbrennen
Dass PlayStation einen Rückzieher bei Physint gemacht hat, soll auch an der gewachsenen Vorsicht aufgrund der momentan schwierigen Wirtschaftslage in der Speicherkrise sowie an jüngsten Misserfolgen mit Spielen liegen. Sony hatte die Entwicklung mehrerer Live-Service-Spiele für die PlayStation gefordert, doch viele waren gescheitert. Ganz prominent ist darunter der Hero-Shooter Concord zu nennen, der nur zwei Wochen nach Veröffentlichung direkt wieder eingestellt wurde.
Nach diesem Misserfolg habe Sonys PlayStation-Sparte damit begonnen, strengere Produktionsmeilensteine festzulegen, wodurch mehrere Spiele gestrichen worden seien. Physint hat die auferlegten Ziele offenbar auch nicht erreicht.
Apps & Mobile Entwicklung
Tuning im Abo: Hypertune verlangt 10 Dollar im Monat für mehr FPS
Übertakten, Windows optimieren und Spieleinstellungen anpassen: Vieles davon erledigen PC-Enthusiasten seit Jahrzehnten selbst. Hypertune möchte diese Arbeit automatisieren und verspricht dabei bis zu 60 Prozent mehr Bilder pro Sekunde. Für die Bequemlichkeit verlangt der Anbieter allerdings ein Abonnement.
Der PC wird automatisch analysiert
Nach einer längeren Early-Access-Phase ist Hypertune nun offiziell gestartet. Hypertune bezeichnet seine Software als „Gaming Performance Engineering“-Plattform. Nach der Installation analysiert das Programm die vorhandene Hardware, Treiber und Windows-Konfiguration und sucht anschließend nach Möglichkeiten, die Spieleleistung zu erhöhen.
Nach Angaben des Herstellers können dabei unter anderem Prozessor und Grafikkarte übertaktet, der Arbeitsspeicher optimiert sowie Einstellungen von Windows und des Netzwerks verändert werden. Hinzu kommen auf einzelne Spiele zugeschnittene Einstellungen.
Dabei sollen keine einheitlichen Profile auf sämtliche Rechner angewendet werden. Stattdessen versucht Hypertune, die Reserven des jeweiligen Systems individuell zu bestimmen. Änderungen sollen sich wieder rückgängig machen lassen.
Bei Intel-Systemen greift das Programm dafür unter anderem auf das SDK des Extreme Tuning Utility (XTU) zurück. Hypertune wurde nach Angaben des Unternehmens in Zusammenarbeit mit Intel entwickelt. Ein offizielles Intel-Programm ist es deshalb allerdings nicht, hinter der Software steht das US-Unternehmen Compready.
Vor dem offiziellen Start befand sich Hypertune acht Monate lang in einer offenen Testphase, an der laut Anbieter mehr als 60.000 Nutzer teilgenommen haben sollen.
Bis zu 60 Prozent mehr FPS
Besonders offensiv bewirbt Hypertune mögliche Leistungssteigerungen. In einzelnen Fällen sollen bis zu 60 Prozent mehr Bilder pro Sekunde möglich sein. Dieser Wert ist allerdings als Maximalwert zu verstehen und nicht als typischer Leistungsgewinn.
Die konkreteren vom Anbieter veröffentlichten Ergebnisse fallen entsprechend kleiner aus. Ein System mit Core Ultra 9 285K und GeForce RTX 5090 legte demnach in Homeworld 3 um 18,9 Prozent und in Tomb Raider um 28,2 Prozent zu.
Bei einem älteren Rechner mit Core i7-14700K und GeForce RTX 3080 betrugen die Verbesserungen hingegen lediglich 9,8 Prozent in Rainbow Six Siege und 4,3 Prozent in Marvel Rivals.
Unabhängige Benchmarks liegen bislang nur eingeschränkt vor. Hinzu kommt, dass sich der Leistungsgewinn aus mehreren Maßnahmen zusammensetzen kann. Neben klassischem Overclocking verändert Hypertune nämlich auch Windows- und Spieleinstellungen. Ein höherer FPS-Wert muss deshalb nicht ausschließlich auf höhere Taktraten zurückzuführen sein.
Mehr Leistung kostet monatlich
Ungewöhnlicher als das automatische Tuning selbst ist das Geschäftsmodell. Hypertune wird nicht einmalig verkauft, sondern als Abonnement angeboten. Aktuell verlangt der Anbieter 9,99 US-Dollar pro Monat oder 69,99 US-Dollar pro Jahr.
Damit wird ausgerechnet PC-Tuning zu einer laufenden Ausgabe. Viele der von Hypertune vorgenommenen Änderungen lassen sich grundsätzlich auch kostenlos mit vorhandenen Werkzeugen oder direkt im BIOS, in Windows sowie den jeweiligen Treiberprogrammen durchführen.
Der Mehrwert liegt daher weniger in exklusiven Optimierungsmöglichkeiten als in deren Automatisierung. Hypertune richtet sich ausdrücklich nicht nur an erfahrene Overclocker, sondern vor allem an Spieler, die sich nicht selbst mit Taktraten, Spannungen, Energieprofilen oder einzelnen Windows-Optionen beschäftigen möchten.
Wer das dennoch beherrscht, bezahlt folglich vor allem für Komfort und die automatische Abstimmung.
Intel hilft bei der Entwicklung
Ganz ohne technische Unterstützung aus der Hardwarebranche entstand das Programm allerdings nicht. Intel hat bei der Entwicklung mit Compready zusammengearbeitet und stellte unter anderem das XTU-SDK zur Verfügung.
Hypertune verspricht darüber hinaus Unterstützung für Hardware von AMD und Nvidia. Auf der Produktseite nennt der Anbieter neben CPU- auch GPU- und RAM-Optimierungen und wirbt mit Kompatibilität zu verbreiteten Anti-Cheat-Systemen.
Ob sich das Abonnement langfristig rechnet, dürfte stark vom jeweiligen Nutzer abhängen. Wer seinen Gaming-PC ohnehin selbst optimiert, erhält für knapp 10 US-Dollar pro Monat vor allem eine komfortablere Oberfläche und Automatisierung. Wer hingegen sämtliche Einstellungen unangetastet lässt, könnte mit Hypertune einfacher an bislang brachliegende Leistungsreserven gelangen.
Gerade bei einem Tuning-Programm bleibt aber abzuwarten, wie groß diese Reserven auf typischen Gaming-PCs tatsächlich sind. Die bislang veröffentlichten Ergebnisse reichen von wenigen Prozent bis zu knapp 30 Prozent – und liegen damit deutlich unter dem prominent beworbenen Maximalwert von 60 Prozent.
-
Entwicklung & Codevor 1 MonatKommentar: KI-Verbote in Open-Source-Projekten können KI nicht stoppen
-
UX/UI & Webdesignvor 2 MonatenRegional & mit Gefühl: Identity für Klimafonds Baden-Württemberg › PAGE online
-
UX/UI & Webdesignvor 2 MonatenVom Scribble zur Sammelkarte: Kreativer KI-Workflow mit Adobe Photoshop, Illustrator und Firefly Boards › PAGE online
-
Datenschutz & Sicherheitvor 2 MonatenKommentar: OpenAI – KI-Sicherheit nur ein Marketing-Gag?
-
Online Marketing & SEOvor 2 MonatenGoogle Unternehmensprofil optimieren ► Anleitung & Tipps
-
Künstliche Intelligenzvor 3 Monaten
Top 10: Der beste ergonomische Bürostuhl im Test – Herman Miller vor Flexispot
-
Künstliche Intelligenzvor 3 Monaten
Top 10: Der beste Saugroboter mit Wischfunktion im Test – Testsieger Roborock
-
UX/UI & Webdesignvor 3 MonatenSchriftfamilie Mainboard: Technisch und windschnittig › PAGE online
