Connect with us

Apps & Mobile Entwicklung

Trainingspause und mehr Schutz: Anthropics Lehren aus den KI-Sicherheitsvorfällen


Trainingspause und mehr Schutz: Anthropics Lehren aus den KI-Sicherheitsvorfällen

Bild: Anthropic

Nach OpenAI zieht auch Anthropic Lehren aus den KI-Sicherheitsvorfällen im Sommer. Teile des Modelltrainings für noch nicht veröffentlichte Modelle wurden pausiert, zudem verschärft man die Sicherheitsmechanismen.

Anthropic meldete am 30. Juli, dass es bei Testläufen zu Angriffen auf drei echte Unternehmen kam. Die Ursache war aber – wie bei den Vorfällen von Meta, die kurz darauf bekannt wurden – eine fehlerhaft konfigurierte Sandbox-Umgebung. Eigentlich sollten die Modelle bei den Cybersicherheitsaufgaben keinen offenen Internetzugang haben, dieser wurde aber aufgrund eines Missverständnisses zwischen Anthropic und dem Betreiber der Sandbox eingerichtet.

Basierend auf den Prompt-Angaben sind die Modelle aber davon ausgegangen, dass sie sich innerhalb einer Simulation ohne Internetzugang bewegen. So wurden reale Unternehmen fälschlich als Übungsziele eingeordnet und behandelt.

Neue Sicherheitsschichten für die Testumgebungen

Hier geht es zunächst um die operative Absicherung. Besonders relevant ist laut Anthropic, dass es im Prinzip nur eine Sicherheitsschicht gab, die die Forschungsmodelle vom offenen Internet trennten. Daher will man Testumgebungen besser schützen, indem etwa mehrstufige Verfahren etabliert werden.

Eine weitere Baustelle ist das Alignment der Modelle – also die Ausrichtung nach bestimmten Werten, die sicherstellen soll, dass Modelle so handeln, wie es vom Entwickler und Betreiber gewünscht ist. Bei dem Vorfall beobachtete Anthropic ein „motivated reasoning“, die Modelle ignorierten also Hinweise auf einen echten Internetzugang, um ihre Aufgabe erfüllen zu können. Und sie zeigten auch eine Bereitschaft für schädliche Verhaltensweisen.

Schädliches Verhalten wird dabei wahrscheinlicher, wenn das Setup für Testläufe nicht adäquat umgesetzt ist. Neben operativen Schwachstellen wie fehlerhaften Konfigurationen betrifft das auch die Prompts. Grenzen wie der Internetzugang sollten als Anweisung („You should not access the internet“) statt als Hinweis („You do not have internet access“) formuliert werden.

Weitere Probleme ergaben sich aus dem Modelltraining. Speziell das Reinforcement Learning (dt. verstärktes Lernen) kann Phänomene wie Reward Hacking fördern, die Modelle zu Täuschungsmanövern und Betrugsversuchen verleiten. Das spielte auch beim Hugging-Face-Vorfall von OpenAI eine zentrale Rolle.

Hintergründe zu OpenAIs Hugging-Face-Vorfall

Anthropic selbst beobachtete solche Vorfälle schon im Frühjahr bei der Entwicklung von Claude Mythos Preview. In Experimenten ließen sich Probleme bestätigen. Damals reagierte man mit einer aufgestockten Sicherheitsabteilung, angesichts der aktuellen Vorfälle folgten weitere Konsequenzen wie das Pausieren des Modelltrainings:

  • Testumgebungen kamen zeitweise nicht zum Einsatz, bis diese abgesichert waren.
  • Das Reinforcement Training in Hochrisiko-Umgebungen wurde unterbrochen.
  • Man baut das Monitoring der Testumgebungen aus. Classifier – also eine Art Kontrollmodelle – sollen in Echtzeit prüfen, ob Testmodelle einen Ausbruch aus der Sandbox planen.

Erweiterte Sicherheitsmechanismen wie das dauerhafte Monitoring will man auch externen Partnern bereitstellen. Das gilt etwa für das AISI. Forscher des britischen Instituts testen unter anderem Claude Mythos ohne die Sicherheitsmechanismen, die normalerweise schädliche Anfragen blocken. Das Resultat war ein Angriff auf ein echtes Software-Projekt, dafür nutzten die Agenten auch Social-Engineering-Maßnahmen.



Source link

Apps & Mobile Entwicklung

KI-Upscaling: Sechs weitere PS5-Spiele erhalten schärfere Grafik dank QSSR


KI-Upscaling: Sechs weitere PS5-Spiele erhalten schärfere Grafik dank QSSR

Bild: Insomniac Games

Die Upscaling-Technik Quick Spectral Super Resolution, kurz QSSR, hält in weiteren Spielen für die PlayStation 5 Einzug. Sony verkündet, dass (bald) auch ARC Raiders, Control Resonant, Hell Let Loose: Vietnam, Marvel’s Spider-Man 2, No Man’s Sky und The Finals QSSR unterstützen.

Erst letzten Monat hatte Sony mit QSSR auch für die PlayStation 5 eine KI-basierte Upscaling-Technik eingeführt. Die technische Basis der Software ist die gleiche wie beim PlayStation Spectral Super Resolution (PSSR), das schon länger auf der stärkeren PlayStation 5 Pro eingesetzt wird. Da die Hardware der PS5 aber nicht die dedizierten Machine-Learning-Einheiten mit schneller INT8-Beschleunigung des Pro-Modells besitzt, nutzt QSSR eine schlankere Architektur des neuronalen Netzes.

Dennoch wird die Bildqualität auch durch QSSR verbessert. Feine Strukturen werden stabiler rekonstruiert. Außerdem soll das Bild bei Bewegung weniger flimmern oder zerfallen.

Sechs weitere Titel erhalten QSSR

Während zu Beginn nur Wolverine und Ghost of Yōtei QSSR-Support erhielten, kündigt Sony jetzt sechs weitere Spiele an, die zeitnah QSSR erhalten sollen oder es im Falle von Marvel’s Spider-Man 2 bereits bieten.

Angekündigte Spiele mit QSSR-Support
  • ARC Raiders (coming soon)
  • Control Resonant (im Dezember)
  • Hell Let Loose: Vietnam (ohne Termin)
  • Marvel’s Spider-Man 2 (ab sofort)
  • No Man’s Sky (in den nächsten Wochen)
  • The Finals (coming soon)

Da Insomniac Games schon bei Wolverine Pionierarbeit geleistet hatte, überrascht es nicht, dass ab sofort auch Marvel’s Spider-Man 2 QSSR unterstützt. Das entsprechende Update werde bereits verteilt.

Bei den anderen ist die Terminierung für ein QSSR-Update nicht so eindeutig. Remedy Entertainment spricht zumindest vom Dezember, während es bei No Man’s Sky von Hello Games in den nächsten Wochen so weit sein soll. Bei ARC Raiders und The Finals, beides Titel von den Embark Studios, heißt es nur „coming soon“. Für Hell Let Loose: Vietnam hat der Entwickler Expression Games den Zeitraum noch gar nicht eingegrenzt und spricht lediglich von einem „kommenden Update“.

In den nächsten Monaten sollen weitere PS5-Spiele QSSR bekommen. Sehr wahrscheinlich werden dies vornehmlich Titel sein, die auch schon PSSR für die PS5 Pro unterstützen.

Erste Bildvergleiche

Mal deutlich sichtbar wie bei Hell Let Loose: Vietnam, mal eher subtil wie bei Control Resonant: Kurze Videos zeigen die Vorteile von QSSR.



Source link

Weiterlesen

Apps & Mobile Entwicklung

Nintendo vs. Modchips: GitHub sperrt 144 Firmware-Repositories


Nintendo vs. Modchips: GitHub sperrt 144 Firmware-Repositories

Nintendo geht mit einer neuen DMCA-Beschwerde gegen Firmware für Modchips der ersten Switch-Generation vor. GitHub hat daraufhin 144 Repositories rund um Picofly gesperrt. Auch Emulatoren sind betroffen: Insgesamt erfassen vier Beschwerden 217 Repositories, von denen 215 gesperrt wurden.

Picofly greift beim Start der Switch ein

Picofly basiert auf einem günstigen RP2040-Mikrocontroller, der als Modchip in die Nintendo Switch eingelötet wird. Beim Einschalten der Konsole erzeugt der Chip einen gezielten Spannungsfehler, einen sogenannten Glitch. Damit lässt sich die Sicherheitsprüfung beim Startvorgang aushebeln und nicht autorisierte Software ausführen.

So können Nutzer beispielsweise eigene Programme (Homebrew), Linux oder Spielmodifikationen auf der Switch verwenden. Gleichzeitig ermöglicht der Eingriff das Abspielen unerlaubter Spielekopien, was Nintendo mit seinen technischen Schutzmaßnahmen verhindern möchte.

In der DMCA-Beschwerde vom 6. November 2026 richtet sich Nintendo of America gegen das Repository Ansem-SoD/Picofly und dessen Forks. GitHub sperrte daraufhin das ursprüngliche Projekt sowie 143 daraus entstandene Kopien. Nintendo beruft sich auf den amerikanischen Digital Millennium Copyright Act (DMCA), der unter anderem die Verbreitung von Werkzeugen zur Umgehung technischer Schutzmaßnahmen untersagt.

Der Vorwurf betrifft dabei bereits die Bereitstellung der Modchip-Firmware, unabhängig davon, ob über die betroffenen Repositories tatsächlich urheberrechtlich geschützte Spiele verbreitet wurden. Nintendo verweist in seiner Beschwerde auch auf das frühere Vorgehen gegen Team-Xecuter, dessen Mitglieder unter anderem Modchips für die Switch verkauft hatten.

Auch Switch-Emulatoren betroffen

Neben Picofly stehen zwei bekannte Switch-Emulatoren im Mittelpunkt der Löschaktion. Eine weitere Beschwerde führte zur Sperrung von 71 Repositories des Projekts Citron Neo. Zwei zusätzliche Anträge betrafen Kopien von Yuzu für Windows und Android. Deren Betreiber entfernte den Quellcode einschließlich der Versionshistorie, weshalb die beiden Repositories weiterhin erreichbar sind.

Nintendo geht bereits seit Jahren gegen die Switch-Emulation vor. Besonders weitreichende Folgen hatte das Verfahren gegen Yuzu im März 2024. Die Entwickler verpflichteten sich im Rahmen eines gerichtlichen Vergleichs zur Zahlung von 2,4 Millionen US-Dollar und stellten die Entwicklung des Emulators ein. Seitdem entstanden verschiedene Nachfolgeprojekte auf Grundlage des ursprünglich quelloffenen Programms.

Wie TorrentFreak berichtet, hat Nintendo mit den jüngsten Beschwerden nun erstmals in größerem Umfang auch Modchip-Firmware auf GitHub ins Visier genommen. Bereits im August hatte der Konzern mehr als 400 Repositories rund um Switch-Emulatoren sperren lassen.

Die aktuellen Sperrungen beschränken sich auf die betroffenen GitHub-Projekte. Bereits installierte Modchips bleiben funktionsfähig, und die Firmware ist weiterhin über andere Quellen erhältlich. Ob die Verbreitung der Picofly-Firmware tatsächlich gegen den DMCA verstößt, wurde durch die GitHub-Sperrung selbst nicht gerichtlich entschieden.



Source link

Weiterlesen

Apps & Mobile Entwicklung

Nach 6-Finger-Menschen: Crimson-Desert-Entwickler setzen stärker auf KI


Nach 6-Finger-Menschen: Crimson-Desert-Entwickler setzen stärker auf KI

6 Finger an einer Hand, Menschpferd als echte Einheit, – das und mehr fanden Spieler im Action-Rollenspiel Crimson Desert. Die Entwickler setzen trotzdem weiter auf KI zur Unterstützung der Spieleentwicklung. Sie stellen allerdings klar, dass ihre Rolle begrenzt bleibt.

Auch wenn es vielleicht anders anklingt, gehört Crimson Desert zu den richtig guten Spielen des aktuellen Jahrgangs. Groß, schön, vielfältig, es gibt viele Gründe, mit dem Titel eine Menge Spaß zu haben. Das gilt dank kontinuierlicher Weiterentwicklung, die jüngst im Update zur „Enhanced“-Version mündete, im Herbst noch mehr als im Frühjahr.

Für Misstöne sorgte bei Veröffentlichung aber eine Anzahl offenkundig KI-generierter Inhalte vor allem bei im Spiel zu findenden Bildern, die aufgrund fehlerhafter Darstellungen offenkundig generiert wurden. Bei der Darstellung von Personen und Tieren ist „so ähnlich“ eben nicht gut genug. Für Spieler diente das als weiterer Beleg für „KI-Slop“, also gedankenlos generierte Inhalte, die mit echter Kunst und bewusstem Design eines Produktes wenig zu tun haben. Zugleich verstärkte dies die ablehnende Haltung gegenüber der Technologie. Laut Entwicklerstudio Pearl Abyss habe es sich allerdings nur um Platzhalter aus dem Prototypen-Stadium gehandelt, die noch hätten ausgetauscht werden sollen.

Diese Rolle bekommt KI

An KI bei der Spieleentwicklung hält das Studio dennoch fest, das unterstreicht sein jüngster Quartalsbericht. Sie soll die Entwicklung deutlich effizienter machen. Die Technologie werde dazu genutzt, um die „Produktivität und die Qualität beim Entwickeln“ zu erhöhen, verrät der Quartalsbericht.

Dazu wird sie in verschiedenen Bereichen der Entwicklung eingesetzt, „darunter die Automatisierung wiederkehrender Aufgaben, Unterstützung bei der Erstellung von Inhalten und die Optimierung von Tests“. Ihre Rolle solle noch ausgebaut werden, sei aber nicht als Ersatz für menschliche Entwickler zu verstehen. Für Pearl Abyss ist sie „ein Werkzeug“, um „Effizienz und Qualität“ zu erhöhen. Sie sei klar begrenzt auf die Validierung von Konzepten und „Pipeline-Produktivität“ – sie soll also unter anderem dazu beitragen, dass weniger Leerlauf entsteht und schneller gearbeitet werden kann. Das Spielerlebnis und die tatsächlichen Inhalte des Spiels sollen aber vollständig in der Hand des Entwicklerteams bleiben.

Im Kontext fast konservativ

Im Kontext der Entwicklungen in der Branche erscheint dieser Ansatz fast schon konservativ. Epic Games setzt weit stärker auf KI, während Valves Steam von KI-Slop und KI-Klonen überflutet wird. Das lässt sich anekdotisch belegen: Die Anzahl potentiell KI-generierter Pressemitteilungen zu kleinen, potentiell KI-erstellten Solo-Spielen und Tools hat in den vergangenen Wochen erhebliche Ausmaße angenommen. Auch im Falle von Portierungen ist KI kaum mehr wegzudenken. Sie baut Remaster, portiert Klassiker in den Browser oder erstellt Plattformportierungen in Windeseile.

Billboard März 2026



Source link

Weiterlesen

Beliebt