Connect with us

Apps & Mobile Entwicklung

Trainingspause und mehr Schutz: Anthropics Lehren aus den KI-Sicherheitsvorfällen


Trainingspause und mehr Schutz: Anthropics Lehren aus den KI-Sicherheitsvorfällen

Bild: Anthropic

Nach OpenAI zieht auch Anthropic Lehren aus den KI-Sicherheitsvorfällen im Sommer. Teile des Modelltrainings für noch nicht veröffentlichte Modelle wurden pausiert, zudem verschärft man die Sicherheitsmechanismen.

Anthropic meldete am 30. Juli, dass es bei Testläufen zu Angriffen auf drei echte Unternehmen kam. Die Ursache war aber – wie bei den Vorfällen von Meta, die kurz darauf bekannt wurden – eine fehlerhaft konfigurierte Sandbox-Umgebung. Eigentlich sollten die Modelle bei den Cybersicherheitsaufgaben keinen offenen Internetzugang haben, dieser wurde aber aufgrund eines Missverständnisses zwischen Anthropic und dem Betreiber der Sandbox eingerichtet.

Basierend auf den Prompt-Angaben sind die Modelle aber davon ausgegangen, dass sie sich innerhalb einer Simulation ohne Internetzugang bewegen. So wurden reale Unternehmen fälschlich als Übungsziele eingeordnet und behandelt.

Neue Sicherheitsschichten für die Testumgebungen

Hier geht es zunächst um die operative Absicherung. Besonders relevant ist laut Anthropic, dass es im Prinzip nur eine Sicherheitsschicht gab, die die Forschungsmodelle vom offenen Internet trennten. Daher will man Testumgebungen besser schützen, indem etwa mehrstufige Verfahren etabliert werden.

Eine weitere Baustelle ist das Alignment der Modelle – also die Ausrichtung nach bestimmten Werten, die sicherstellen soll, dass Modelle so handeln, wie es vom Entwickler und Betreiber gewünscht ist. Bei dem Vorfall beobachtete Anthropic ein „motivated reasoning“, die Modelle ignorierten also Hinweise auf einen echten Internetzugang, um ihre Aufgabe erfüllen zu können. Und sie zeigten auch eine Bereitschaft für schädliche Verhaltensweisen.

Schädliches Verhalten wird dabei wahrscheinlicher, wenn das Setup für Testläufe nicht adäquat umgesetzt ist. Neben operativen Schwachstellen wie fehlerhaften Konfigurationen betrifft das auch die Prompts. Grenzen wie der Internetzugang sollten als Anweisung („You should not access the internet“) statt als Hinweis („You do not have internet access“) formuliert werden.

Weitere Probleme ergaben sich aus dem Modelltraining. Speziell das Reinforcement Learning (dt. verstärktes Lernen) kann Phänomene wie Reward Hacking fördern, die Modelle zu Täuschungsmanövern und Betrugsversuchen verleiten. Das spielte auch beim Hugging-Face-Vorfall von OpenAI eine zentrale Rolle.

Hintergründe zu OpenAIs Hugging-Face-Vorfall

Anthropic selbst beobachtete solche Vorfälle schon im Frühjahr bei der Entwicklung von Claude Mythos Preview. In Experimenten ließen sich Probleme bestätigen. Damals reagierte man mit einer aufgestockten Sicherheitsabteilung, angesichts der aktuellen Vorfälle folgten weitere Konsequenzen wie das Pausieren des Modelltrainings:

  • Testumgebungen kamen zeitweise nicht zum Einsatz, bis diese abgesichert waren.
  • Das Reinforcement Training in Hochrisiko-Umgebungen wurde unterbrochen.
  • Man baut das Monitoring der Testumgebungen aus. Classifier – also eine Art Kontrollmodelle – sollen in Echtzeit prüfen, ob Testmodelle einen Ausbruch aus der Sandbox planen.

Erweiterte Sicherheitsmechanismen wie das dauerhafte Monitoring will man auch externen Partnern bereitstellen. Das gilt etwa für das AISI. Forscher des britischen Instituts testen unter anderem Claude Mythos ohne die Sicherheitsmechanismen, die normalerweise schädliche Anfragen blocken. Das Resultat war ein Angriff auf ein echtes Software-Projekt, dafür nutzten die Agenten auch Social-Engineering-Maßnahmen.



Source link

Apps & Mobile Entwicklung

Neue DHL-Tarife: Das Päckchen wird auf- und abgewertet, fast alles wird teurer


Neue DHL-Tarife: Das Päckchen wird auf- und abgewertet, fast alles wird teurer

Bild: DHL

Ab dem kommenden Jahr sollen neue Preise für den Versand von Päckchen und Paketen mit DHL gelten. Bei der Frankierung in der Filiale wird alles teurer. Bei der Online-Frankierung bleiben immerhin die Preise der populärsten Produkte stabil. Wenn diese direkt an eine Packstation verschickt werden, lassen sich zudem 20 Cent sparen.

Phase 1 der höheren Paketpreise

Wie die DHL offiziell mitteilt, seien „wegen gestiegener Kosten für Löhne, Energie und Inflation sowie zur Sicherstellung der flächendeckenden Versorgung in Deutschland“ weitere Preiserhöhungen nötig. Die nun angekündigten Preise, die ab dem 1. Januar 2027 gelten, sofern die Bundesnetzagentur kein Veto einlegt, können aber schon bald noch höher ausfallen. Denn auf Basis einer vorläufigen Entscheidung der Bundesnetzagentur, die der Deutschen Post auch im regulierten Privatkunden-Paketbereich Preiserhöhungen einräumt, werde zum 1. Januar 2028 bereits „eine weitere Preisanpassung bei den Paketprodukten“ folgen.

Preisänderungen der DHL für Päckchen und Pakete

Die nachfolgende Tabelle zeigt auf einen Blick, wie sich die Kosten für den Versand von Päckchen und Paketen mit der DHL ab dem kommenden Jahr verändern werden. An dieser Stelle werden nur die Gebühren für den nationalen Versand aufgeführt.

Schnell wird ersichtlich, dass die DHL die Frankierung in den Filialen durchweg teurer und die Online-Frankierung insgesamt attraktiver macht. Anteilsmäßig besonders hoch ist der Preisanstieg beim Päckchen S, das sich von bisher 4,19 Euro auf dann 5,19 Euro und damit um 24 Prozent verteuert. Bei den laut DHL gefragtesten Produkten Päckchen M, Paket bis 2 kg und Paket bis 5 kg bleiben die Preise für die Online-Frankierung stabil. Bei diesen Produkten gibt es sogar Sparpotenzial, denn durch die neu eingeführte Preiskategorie für den Versand direkt an eine Packstation lassen sich je 20 Cent gegenüber dem Online-Preis sparen.

Angehoben werden zudem die Kosten für eine zusätzlich buchbare Transportversicherung. Die Tarife für Optionen wie Nachnahme, Sperrgut oder die Abholung bleiben wiederum unverändert. Details dazu wie auch zu den neuen Gebühren für den internationalen Paketversand liefert ein PDF der DHL.

Zudem wurde eine Webseite geschaltet, die über die beschriebenen Änderungen informiert.

Sendungsverfolgung für Päckchen kommt

Während die Preise für den Versand von Päckchen stark steigen, erhalten diese aber auch mehr Leistungen. Dazu zählt die bisher nur bei Paketen inkludierte Sendungsverfolgung. Außerdem sollen Päckchen ab dem kommenden Jahr bis 20 Euro versichert werden.

Das bisher nur online buchbare Paket bis 2 kg wird künftig auch in der Filiale erhältlich sein, dort aber 80 Cent mehr kosten.

Päckchen dürfen nur noch 1 kg wiegen

Eine Information, die in der Pressemitteilung der DHL nicht erwähnt wird, betrifft die zulässigen Höchstmaße für das Päckchen S: Dieses soll ab 2027 nur noch 5 cm hoch sein dürfen, während es bisher 10 cm sind. Außerdem darf das Päckchen S nur noch maximal 1 kg statt bisher 2 kg wiegen. Beides schränkt den Einsatz des kleinsten Tarifs deutlich ein. Auch beim Päckchen M wird das Höchstgewicht auf 1 kg halbiert.

DHL-Päckchen dürfen nur noch halb so viel wiegen
DHL-Päckchen dürfen nur noch halb so viel wiegen (Bild: DHL)

Bundesnetzagentur muss noch zustimmen

Vorerst handelt es sich um „geplante Preisanpassungen“, schreibt die DHL, denn die Bundesnetzagentur müsse diesen erst noch zustimmen. Das gilt auch für die vor rund drei Wochen angekündigte Anhebung des Portos von aktuell 0,95 Euro auf 1,15 Euro für den Standardbrief, die ebenso ab 2027 greifen soll.



Source link

Weiterlesen

Apps & Mobile Entwicklung

KI-Upscaling: Sechs weitere PS5-Spiele erhalten schärfere Grafik dank QSSR


KI-Upscaling: Sechs weitere PS5-Spiele erhalten schärfere Grafik dank QSSR

Bild: Insomniac Games

Die Upscaling-Technik Quick Spectral Super Resolution, kurz QSSR, hält in weiteren Spielen für die PlayStation 5 Einzug. Sony verkündet, dass (bald) auch ARC Raiders, Control Resonant, Hell Let Loose: Vietnam, Marvel’s Spider-Man 2, No Man’s Sky und The Finals QSSR unterstützen.

Erst letzten Monat hatte Sony mit QSSR auch für die PlayStation 5 eine KI-basierte Upscaling-Technik eingeführt. Die technische Basis der Software ist die gleiche wie beim PlayStation Spectral Super Resolution (PSSR), das schon länger auf der stärkeren PlayStation 5 Pro eingesetzt wird. Da die Hardware der PS5 aber nicht die dedizierten Machine-Learning-Einheiten mit schneller INT8-Beschleunigung des Pro-Modells besitzt, nutzt QSSR eine schlankere Architektur des neuronalen Netzes.

Dennoch wird die Bildqualität auch durch QSSR verbessert. Feine Strukturen werden stabiler rekonstruiert. Außerdem soll das Bild bei Bewegung weniger flimmern oder zerfallen.

Sechs weitere Titel erhalten QSSR

Während zu Beginn nur Wolverine und Ghost of Yōtei QSSR-Support erhielten, kündigt Sony jetzt sechs weitere Spiele an, die zeitnah QSSR erhalten sollen oder es im Falle von Marvel’s Spider-Man 2 bereits bieten.

Angekündigte Spiele mit QSSR-Support
  • ARC Raiders (coming soon)
  • Control Resonant (im Dezember)
  • Hell Let Loose: Vietnam (ohne Termin)
  • Marvel’s Spider-Man 2 (ab sofort)
  • No Man’s Sky (in den nächsten Wochen)
  • The Finals (coming soon)

Da Insomniac Games schon bei Wolverine Pionierarbeit geleistet hatte, überrascht es nicht, dass ab sofort auch Marvel’s Spider-Man 2 QSSR unterstützt. Das entsprechende Update werde bereits verteilt.

Bei den anderen ist die Terminierung für ein QSSR-Update nicht so eindeutig. Remedy Entertainment spricht zumindest vom Dezember, während es bei No Man’s Sky von Hello Games in den nächsten Wochen so weit sein soll. Bei ARC Raiders und The Finals, beides Titel von den Embark Studios, heißt es nur „coming soon“. Für Hell Let Loose: Vietnam hat der Entwickler Expression Games den Zeitraum noch gar nicht eingegrenzt und spricht lediglich von einem „kommenden Update“.

In den nächsten Monaten sollen weitere PS5-Spiele QSSR bekommen. Sehr wahrscheinlich werden dies vornehmlich Titel sein, die auch schon PSSR für die PS5 Pro unterstützen.

Erste Bildvergleiche

Mal deutlich sichtbar wie bei Hell Let Loose: Vietnam, mal eher subtil wie bei Control Resonant: Kurze Videos zeigen die Vorteile von QSSR.



Source link

Weiterlesen

Apps & Mobile Entwicklung

Nintendo vs. Modchips: GitHub sperrt 144 Firmware-Repositories


Nintendo vs. Modchips: GitHub sperrt 144 Firmware-Repositories

Nintendo geht mit einer neuen DMCA-Beschwerde gegen Firmware für Modchips der ersten Switch-Generation vor. GitHub hat daraufhin 144 Repositories rund um Picofly gesperrt. Auch Emulatoren sind betroffen: Insgesamt erfassen vier Beschwerden 217 Repositories, von denen 215 gesperrt wurden.

Picofly greift beim Start der Switch ein

Picofly basiert auf einem günstigen RP2040-Mikrocontroller, der als Modchip in die Nintendo Switch eingelötet wird. Beim Einschalten der Konsole erzeugt der Chip einen gezielten Spannungsfehler, einen sogenannten Glitch. Damit lässt sich die Sicherheitsprüfung beim Startvorgang aushebeln und nicht autorisierte Software ausführen.

So können Nutzer beispielsweise eigene Programme (Homebrew), Linux oder Spielmodifikationen auf der Switch verwenden. Gleichzeitig ermöglicht der Eingriff das Abspielen unerlaubter Spielekopien, was Nintendo mit seinen technischen Schutzmaßnahmen verhindern möchte.

In der DMCA-Beschwerde vom 6. November 2026 richtet sich Nintendo of America gegen das Repository Ansem-SoD/Picofly und dessen Forks. GitHub sperrte daraufhin das ursprüngliche Projekt sowie 143 daraus entstandene Kopien. Nintendo beruft sich auf den amerikanischen Digital Millennium Copyright Act (DMCA), der unter anderem die Verbreitung von Werkzeugen zur Umgehung technischer Schutzmaßnahmen untersagt.

Der Vorwurf betrifft dabei bereits die Bereitstellung der Modchip-Firmware, unabhängig davon, ob über die betroffenen Repositories tatsächlich urheberrechtlich geschützte Spiele verbreitet wurden. Nintendo verweist in seiner Beschwerde auch auf das frühere Vorgehen gegen Team-Xecuter, dessen Mitglieder unter anderem Modchips für die Switch verkauft hatten.

Auch Switch-Emulatoren betroffen

Neben Picofly stehen zwei bekannte Switch-Emulatoren im Mittelpunkt der Löschaktion. Eine weitere Beschwerde führte zur Sperrung von 71 Repositories des Projekts Citron Neo. Zwei zusätzliche Anträge betrafen Kopien von Yuzu für Windows und Android. Deren Betreiber entfernte den Quellcode einschließlich der Versionshistorie, weshalb die beiden Repositories weiterhin erreichbar sind.

Nintendo geht bereits seit Jahren gegen die Switch-Emulation vor. Besonders weitreichende Folgen hatte das Verfahren gegen Yuzu im März 2024. Die Entwickler verpflichteten sich im Rahmen eines gerichtlichen Vergleichs zur Zahlung von 2,4 Millionen US-Dollar und stellten die Entwicklung des Emulators ein. Seitdem entstanden verschiedene Nachfolgeprojekte auf Grundlage des ursprünglich quelloffenen Programms.

Wie TorrentFreak berichtet, hat Nintendo mit den jüngsten Beschwerden nun erstmals in größerem Umfang auch Modchip-Firmware auf GitHub ins Visier genommen. Bereits im August hatte der Konzern mehr als 400 Repositories rund um Switch-Emulatoren sperren lassen.

Die aktuellen Sperrungen beschränken sich auf die betroffenen GitHub-Projekte. Bereits installierte Modchips bleiben funktionsfähig, und die Firmware ist weiterhin über andere Quellen erhältlich. Ob die Verbreitung der Picofly-Firmware tatsächlich gegen den DMCA verstößt, wurde durch die GitHub-Sperrung selbst nicht gerichtlich entschieden.



Source link

Weiterlesen

Beliebt