Apps & Mobile Entwicklung
3 Risiken: Wieso Top-Modelle wie GPT-6 immer schwerer zu kontrollieren sind
Über 1.200 Agenten organisierten sich in einer Testumgebung von OpenAI, 700 griffen Hugging Face an. Der Auslöser: Fehlanreize beim KI-Training, die Modelle zum Betrügen verleiten. Warnzeichen gab es vorher genug. Doch selbst OpenAIs Antwort stößt bei GPT-6 schon an Grenzen. ComputerBase analysiert drei Gründe.
It’s possible that [the AI system] decided that the most efficient way to get rid of all the bugs was to get rid of all the software, which is technically and statistically correct. But artificial neural networks are a sort of a black box, so we‘ll never know for sure.
Dass autonom agierende KI-Systeme versehentlich massive Schäden anrichten können, ist keine neue Erkenntnis. Schon 2019 verarbeitete die Serie Silicon Valley die Schwachstellen satirisch in einer Szene, die in den sozialen Medien seit Jahren immer wieder viral geht. Der Plot: Der KI-Assistent der fiktiven Firma sollte Code prüfen und hat dabei das Ticketing-System komplett abgeschossen. Vermutlich, weil das Löschen der Software effizienter war als das Beheben der Bugs. So ganz genau lässt es sich aber nicht sagen. Überwacht hat der Entwickler Gilfoyle die Tätigkeiten seines Agenten ohnehin nicht. Fast noch bemerkenswerter ist der Abschluss der Szene. Um den Einkauf von Burger-Fleisch zu optimieren, hat der KI-Assistent direkt 4.000 Pfund Fleisch bestellt, was Gilfoyle erstaunt mit Verweis auf eine nicht ausreichend spezifizierte Belohnungsfunktion kommentiert.
Damit kommen wir zur Gegenwart. Was Gilfoyle als schlecht spezifizierte Belohnungsfunktion bezeichnet, heißt im Fachjargon „Reward Hacking“. Statt die eigentliche Aufgabe zu lösen, nutzen Modelle Tricks und Täuschungsmanöver, um abzukürzen oder Probleme zu umgehen. „Der Versuch von Agenten, bei ihren Aufgaben zu betrügen, indem sie online nach Lösungen suchten, war ein wesentlicher Auslöser des Hugging-Face-Vorfalls“, schreibt OpenAI in einem Blog-Eintrag von Ende August. Nun folgte am 3. September der Start von GPT-6 Astra und erneut kreist die Diskussion um die Frage, wie sicher OpenAIs neues Top-Modell ist.
Dieses Mal geht es nicht nur um das Verhalten der Agenten, sondern die Frage, ob sich dieses überhaupt noch nachvollziehen lässt. „Blickt man hinter die Benchmark-Werte und das aufwendige Release-Video, zeichnet die System Card von GPT-6 Astra ein beunruhigendes Bild: Das eines Modells mit gefährlich starken Cybersicherheitsfähigkeiten, die Forscher weder verstehen noch mit Sicherheit kontrollieren können“, schreibt Transformer-Autorin Celia Ford in einer Analyse.
Wie genau Modelle abdriften, zeigt der Hugging-Face-Hack anschaulich. Am 26. August veröffentlichten OpenAI und das unabhängige KI-Institut Metr zwei technische Reports, in denen das Vorgehen von OpenAIs Forschungsagenten detailliert aufgearbeitet wird.
MAJOR BREAKTHROUGH! All prefixed valid, multiple accounts, write tokens! We now have existing HF [Hugging Face] accounts. Need immediately report to MARB…
Auszug aus der Chain-of-Thought eines Agenten laut dem Metr-Bericht
Aus den Reports lässt sich einiges lernen. Fast schon faszinierend ist, wie sich die Agenten in den Testumgebungen autonom organisierten und heimlich einen Angriff starteten. Dass OpenAI so kalt erwischt wurde, ist dennoch überraschend. Warnungen gab es im Vorfeld, die grundsätzlichen Probleme sind zudem altbekannt.
Als Reaktion auf den Vorfall kündigte OpenAI am 18. August an, unter anderem das Monitoring zu erweitern. Speziell in Forschungsumgebungen will man die Tätigkeiten von Agenten nun dauerhaft überwachen. Die Krux: Mit GPT-6 wird genau dieses Monitoring erschwert.
- OpenAI: KI-Agenten planten gemeinsam den Hugging-Face-Hack
- „Geplanter Forschungsfall“: GPT-5.6 bricht aus Sandbox aus und in fremdes Netz ein
Die neuen Sorgen rund um GPT-6 sowie die schon im Vorfeld des Hugging-Face-Hacks ignorierten Warnzeichen werfen daher Fragen nach der grundsätzlichen Sicherheitskultur in den KI-Labs auf. ComputerBase analysiert daher drei aktuelle Risikobereiche.
Apps & Mobile Entwicklung
Neue DHL-Tarife: Das Päckchen wird auf- und abgewertet, fast alles wird teurer

Ab dem kommenden Jahr sollen neue Preise für den Versand von Päckchen und Paketen mit DHL gelten. Bei der Frankierung in der Filiale wird alles teurer. Bei der Online-Frankierung bleiben immerhin die Preise der populärsten Produkte stabil. Wenn diese direkt an eine Packstation verschickt werden, lassen sich zudem 20 Cent sparen.
Phase 1 der höheren Paketpreise
Wie die DHL offiziell mitteilt, seien „wegen gestiegener Kosten für Löhne, Energie und Inflation sowie zur Sicherstellung der flächendeckenden Versorgung in Deutschland“ weitere Preiserhöhungen nötig. Die nun angekündigten Preise, die ab dem 1. Januar 2027 gelten, sofern die Bundesnetzagentur kein Veto einlegt, können aber schon bald noch höher ausfallen. Denn auf Basis einer vorläufigen Entscheidung der Bundesnetzagentur, die der Deutschen Post auch im regulierten Privatkunden-Paketbereich Preiserhöhungen einräumt, werde zum 1. Januar 2028 bereits „eine weitere Preisanpassung bei den Paketprodukten“ folgen.
Preisänderungen der DHL für Päckchen und Pakete
Die nachfolgende Tabelle zeigt auf einen Blick, wie sich die Kosten für den Versand von Päckchen und Paketen mit der DHL ab dem kommenden Jahr verändern werden. An dieser Stelle werden nur die Gebühren für den nationalen Versand aufgeführt.
Schnell wird ersichtlich, dass die DHL die Frankierung in den Filialen durchweg teurer und die Online-Frankierung insgesamt attraktiver macht. Anteilsmäßig besonders hoch ist der Preisanstieg beim Päckchen S, das sich von bisher 4,19 Euro auf dann 5,19 Euro und damit um 24 Prozent verteuert. Bei den laut DHL gefragtesten Produkten Päckchen M, Paket bis 2 kg und Paket bis 5 kg bleiben die Preise für die Online-Frankierung stabil. Bei diesen Produkten gibt es sogar Sparpotenzial, denn durch die neu eingeführte Preiskategorie für den Versand direkt an eine Packstation lassen sich je 20 Cent gegenüber dem Online-Preis sparen.
Angehoben werden zudem die Kosten für eine zusätzlich buchbare Transportversicherung. Die Tarife für Optionen wie Nachnahme, Sperrgut oder die Abholung bleiben wiederum unverändert. Details dazu wie auch zu den neuen Gebühren für den internationalen Paketversand liefert ein PDF der DHL.
Zudem wurde eine Webseite geschaltet, die über die beschriebenen Änderungen informiert.
Sendungsverfolgung für Päckchen kommt
Während die Preise für den Versand von Päckchen stark steigen, erhalten diese aber auch mehr Leistungen. Dazu zählt die bisher nur bei Paketen inkludierte Sendungsverfolgung. Außerdem sollen Päckchen ab dem kommenden Jahr bis 20 Euro versichert werden.
Das bisher nur online buchbare Paket bis 2 kg wird künftig auch in der Filiale erhältlich sein, dort aber 80 Cent mehr kosten.
Päckchen dürfen nur noch 1 kg wiegen
Eine Information, die in der Pressemitteilung der DHL nicht erwähnt wird, betrifft die zulässigen Höchstmaße für das Päckchen S: Dieses soll ab 2027 nur noch 5 cm hoch sein dürfen, während es bisher 10 cm sind. Außerdem darf das Päckchen S nur noch maximal 1 kg statt bisher 2 kg wiegen. Beides schränkt den Einsatz des kleinsten Tarifs deutlich ein. Auch beim Päckchen M wird das Höchstgewicht auf 1 kg halbiert.
Bundesnetzagentur muss noch zustimmen
Vorerst handelt es sich um „geplante Preisanpassungen“, schreibt die DHL, denn die Bundesnetzagentur müsse diesen erst noch zustimmen. Das gilt auch für die vor rund drei Wochen angekündigte Anhebung des Portos von aktuell 0,95 Euro auf 1,15 Euro für den Standardbrief, die ebenso ab 2027 greifen soll.
Apps & Mobile Entwicklung
KI-Upscaling: Sechs weitere PS5-Spiele erhalten schärfere Grafik dank QSSR

Die Upscaling-Technik Quick Spectral Super Resolution, kurz QSSR, hält in weiteren Spielen für die PlayStation 5 Einzug. Sony verkündet, dass (bald) auch ARC Raiders, Control Resonant, Hell Let Loose: Vietnam, Marvel’s Spider-Man 2, No Man’s Sky und The Finals QSSR unterstützen.
Erst letzten Monat hatte Sony mit QSSR auch für die PlayStation 5 eine KI-basierte Upscaling-Technik eingeführt. Die technische Basis der Software ist die gleiche wie beim PlayStation Spectral Super Resolution (PSSR), das schon länger auf der stärkeren PlayStation 5 Pro eingesetzt wird. Da die Hardware der PS5 aber nicht die dedizierten Machine-Learning-Einheiten mit schneller INT8-Beschleunigung des Pro-Modells besitzt, nutzt QSSR eine schlankere Architektur des neuronalen Netzes.
Dennoch wird die Bildqualität auch durch QSSR verbessert. Feine Strukturen werden stabiler rekonstruiert. Außerdem soll das Bild bei Bewegung weniger flimmern oder zerfallen.
Sechs weitere Titel erhalten QSSR
Während zu Beginn nur Wolverine und Ghost of Yōtei QSSR-Support erhielten, kündigt Sony jetzt sechs weitere Spiele an, die zeitnah QSSR erhalten sollen oder es im Falle von Marvel’s Spider-Man 2 bereits bieten.
- ARC Raiders (coming soon)
- Control Resonant (im Dezember)
- Hell Let Loose: Vietnam (ohne Termin)
- Marvel’s Spider-Man 2 (ab sofort)
- No Man’s Sky (in den nächsten Wochen)
- The Finals (coming soon)
Da Insomniac Games schon bei Wolverine Pionierarbeit geleistet hatte, überrascht es nicht, dass ab sofort auch Marvel’s Spider-Man 2 QSSR unterstützt. Das entsprechende Update werde bereits verteilt.
Bei den anderen ist die Terminierung für ein QSSR-Update nicht so eindeutig. Remedy Entertainment spricht zumindest vom Dezember, während es bei No Man’s Sky von Hello Games in den nächsten Wochen so weit sein soll. Bei ARC Raiders und The Finals, beides Titel von den Embark Studios, heißt es nur „coming soon“. Für Hell Let Loose: Vietnam hat der Entwickler Expression Games den Zeitraum noch gar nicht eingegrenzt und spricht lediglich von einem „kommenden Update“.
In den nächsten Monaten sollen weitere PS5-Spiele QSSR bekommen. Sehr wahrscheinlich werden dies vornehmlich Titel sein, die auch schon PSSR für die PS5 Pro unterstützen.
Erste Bildvergleiche
Mal deutlich sichtbar wie bei Hell Let Loose: Vietnam, mal eher subtil wie bei Control Resonant: Kurze Videos zeigen die Vorteile von QSSR.
Apps & Mobile Entwicklung
Nintendo vs. Modchips: GitHub sperrt 144 Firmware-Repositories

Nintendo geht mit einer neuen DMCA-Beschwerde gegen Firmware für Modchips der ersten Switch-Generation vor. GitHub hat daraufhin 144 Repositories rund um Picofly gesperrt. Auch Emulatoren sind betroffen: Insgesamt erfassen vier Beschwerden 217 Repositories, von denen 215 gesperrt wurden.
Picofly greift beim Start der Switch ein
Picofly basiert auf einem günstigen RP2040-Mikrocontroller, der als Modchip in die Nintendo Switch eingelötet wird. Beim Einschalten der Konsole erzeugt der Chip einen gezielten Spannungsfehler, einen sogenannten Glitch. Damit lässt sich die Sicherheitsprüfung beim Startvorgang aushebeln und nicht autorisierte Software ausführen.
So können Nutzer beispielsweise eigene Programme (Homebrew), Linux oder Spielmodifikationen auf der Switch verwenden. Gleichzeitig ermöglicht der Eingriff das Abspielen unerlaubter Spielekopien, was Nintendo mit seinen technischen Schutzmaßnahmen verhindern möchte.
In der DMCA-Beschwerde vom 6. November 2026 richtet sich Nintendo of America gegen das Repository Ansem-SoD/Picofly und dessen Forks. GitHub sperrte daraufhin das ursprüngliche Projekt sowie 143 daraus entstandene Kopien. Nintendo beruft sich auf den amerikanischen Digital Millennium Copyright Act (DMCA), der unter anderem die Verbreitung von Werkzeugen zur Umgehung technischer Schutzmaßnahmen untersagt.
Der Vorwurf betrifft dabei bereits die Bereitstellung der Modchip-Firmware, unabhängig davon, ob über die betroffenen Repositories tatsächlich urheberrechtlich geschützte Spiele verbreitet wurden. Nintendo verweist in seiner Beschwerde auch auf das frühere Vorgehen gegen Team-Xecuter, dessen Mitglieder unter anderem Modchips für die Switch verkauft hatten.
Auch Switch-Emulatoren betroffen
Neben Picofly stehen zwei bekannte Switch-Emulatoren im Mittelpunkt der Löschaktion. Eine weitere Beschwerde führte zur Sperrung von 71 Repositories des Projekts Citron Neo. Zwei zusätzliche Anträge betrafen Kopien von Yuzu für Windows und Android. Deren Betreiber entfernte den Quellcode einschließlich der Versionshistorie, weshalb die beiden Repositories weiterhin erreichbar sind.
Nintendo geht bereits seit Jahren gegen die Switch-Emulation vor. Besonders weitreichende Folgen hatte das Verfahren gegen Yuzu im März 2024. Die Entwickler verpflichteten sich im Rahmen eines gerichtlichen Vergleichs zur Zahlung von 2,4 Millionen US-Dollar und stellten die Entwicklung des Emulators ein. Seitdem entstanden verschiedene Nachfolgeprojekte auf Grundlage des ursprünglich quelloffenen Programms.
Wie TorrentFreak berichtet, hat Nintendo mit den jüngsten Beschwerden nun erstmals in größerem Umfang auch Modchip-Firmware auf GitHub ins Visier genommen. Bereits im August hatte der Konzern mehr als 400 Repositories rund um Switch-Emulatoren sperren lassen.
Die aktuellen Sperrungen beschränken sich auf die betroffenen GitHub-Projekte. Bereits installierte Modchips bleiben funktionsfähig, und die Firmware ist weiterhin über andere Quellen erhältlich. Ob die Verbreitung der Picofly-Firmware tatsächlich gegen den DMCA verstößt, wurde durch die GitHub-Sperrung selbst nicht gerichtlich entschieden.
-
Apps & Mobile Entwicklungvor 2 Monatentado°: Smartes Wand-Thermostat ersetzt Batterien durch USB‑C‑Akku
-
Apps & Mobile Entwicklungvor 2 MonatenAqara Spatial Multi-Sensor FP400: Matter-Sensor erkennt bis zu 10 Personen mit mmWave‑Radar
-
Apps & Mobile Entwicklungvor 2 MonatenArm CSS for Mobile 2: C2-Ultra macht die CPU zum Orchestrator für KI‑Agenten
-
Künstliche Intelligenzvor 2 MonatenGesperrte Straße von Hormus: Laut Prognose werden CO₂-Emissionen 2026 sinken
-
Künstliche Intelligenzvor 1 MonatVerbrenner-Aus: Merz und Macron wollen CO₂-Ziel für 2035 weiter lockern
-
Künstliche Intelligenzvor 2 Monaten
Plug-in-Hybride emittieren sechsmal mehr CO₂ im Alltag als offiziell angegeben
-
Apps & Mobile Entwicklungvor 3 MonatenDeutsche Lüfter-Ikone: ebm‑papst geht für 5,1 Milliarden Euro in die USA
-
Künstliche Intelligenzvor 2 MonatenDänischer CO₂-Speicher „Greesand“ geht im Meeresgrund in Regelbetrieb
