Apps & Mobile Entwicklung

KI-Sicherheitsdebatte: Sam Altman warnt ebenfalls vor Kontrollverlust durch KI

OpenAI-Chef Sam Altman unterstützt den Vorstoß von Anthropic-Chef Dario Amodei, das Entwicklungstempo der leistungsfähigsten KI-Systeme zu drosseln und zugleich verbindlichere Sicherheitsmechanismen zu etablieren. Altman warnt dabei vor zwei Fehlentwicklungen: den Kontrollverlust über oder durch die Künstliche Intelligenz.

Künstliche Intelligenz als Gefahr

Aufschwung erhielt die ohnehin zunehmend intensiv geführte Debatte über die Sicherheit Künstlicher Intelligenz durch den Abgang von Jacob Coxon, der Anthropic in den vergangenen Tagen verlassen hatte. Seinen Abschied verband er mit der eindringlichen Warnung, dass die derzeit entwickelten Systeme bis zum Ende des Jahrzehnts eine existenzielle Gefahr darstellen könnten.

Anthropic-Chef Dario Amodei legte daraufhin einen ausführlichen Vorschlag vor, der eine Verlangsamung der Entwicklung an der technologischen Spitze vorsieht. Unterstützung erhielt er unter anderem von Altman, Elon Musk und Google-DeepMind-Chef Demis Hassabis – eine seltene Übereinstimmung zwischen Vertretern ansonsten stark konkurrierender Unternehmen. Bei OpenAI führte die Debatte zudem dazu, den geplanten Börsengang vorerst auf Eis zu legen.

Altman hat einem Bericht von CNBC zufolge inzwischen konkretisiert, welche Leitplanken OpenAI für einen solchen Kurs als sinnvoll erachtet. Einen vorgeschlagenen bundesweiten gesetzlichen Rahmen, der einheitliche Sicherheitsanforderungen für Entwickler sogenannter Frontier-KI schaffen und unabhängigen Prüfern eine wichtige Rolle einräumen könnte, begrüße der Konzern ausdrücklich. Allein auf staatliche Vorgaben zu warten, hält Altman allerdings für den falschen Weg: Die Unternehmen sollten entsprechende Sicherheitsmaßnahmen bereits eigenständig umsetzen, bevor der Gesetzgeber sämtliche Regeln festgelegt hat.

Zu viel Macht an einer Stelle

Zwei Szenarien hält Altman für besonders problematisch. Zum einen bestehe seiner Aussage nach das Risiko, dass Menschen die Kontrolle über die weitere Entwicklung Künstlicher Intelligenz verlieren. Zum anderen könne eine zu starke Konzentration der Technologie außergewöhnlich viel Macht in den Händen einer einzelnen Person oder eines einzelnen Unternehmens bündeln. Die technische Frage nach der Beherrschbarkeit immer leistungsfähigerer KI-Systeme verknüpft Altman damit unmittelbar mit der gesellschaftlichen und politischen Frage, wer letztlich die Kontrolle über diese Technologie ausübt.

Eine Verlangsamung dürfe nach Altmans Vorstellungen allerdings keinesfalls einem Entwicklungsstopp gleichkommen. Der Fortschritt werde weiterhin schnell verlaufen, davon zeigt sich der OpenAI-CEO überzeugt. Stattdessen gehe es darum, die Fähigkeiten neuer Modelle nur in einem Tempo auszubauen, mit dem Verfahren für Alignment, Überwachung und Sicherheitskontrollen Schritt halten können. Bereits Amodei hatte ähnlich argumentiert und darauf verwiesen, dass sich der technologische Fortschritt zuletzt erheblich beschleunigt habe. Setze sich diese Dynamik fort, könnten die menschlichen Möglichkeiten, die Systeme zu verstehen und zu kontrollieren, hinter deren Entwicklung zurückbleiben. Der Konkurrenzdruck innerhalb wie außerhalb der USA dürfe laut Altman dafür keine Rechtfertigung sein.

Internationale Einhaltungen die größte Wachstelle des Plans

Genau an diesem Punkt liegt für Altman zugleich die wohl größte Schwachstelle des Vorhabens: die internationale Abstimmung. Selbst eine Einigung amerikanischer Unternehmen auf ein begrenztes Entwicklungstempo könnte schnell wirkungslos werden, wenn Konkurrenten in anderen Staaten ihren bisherigen Kurs fortsetzen.

Besondere Bedeutung kommt dabei China zu, das mit den USA um die technologische Führungsposition bei Künstlicher Intelligenz konkurriert. Gleichzeitig gewinnen chinesische Modelle sowohl bei ihrer Leistungsfähigkeit als auch bei ihrer internationalen Verbreitung zunehmend an Boden. Auch Amodei räumt ein, dass sich eine internationale Begrenzung des Entwicklungstempos angesichts erheblicher wirtschaftlicher und militärischer Anreize nur schwer durchsetzen lassen dürfte.

USA und China lehnen Pläne aus mehr oder weniger gleichen Gründen ab

Damit wäre eine internationale Koordination unter Führung verschiedener Regierungen eine wesentliche Voraussetzung für den Erfolg des Vorhabens. Widerstand kommt allerdings bereits aus den USA selbst. Die US-Regierung lehnt eine Verlangsamung ab, weil Präsident Trump darin eine mögliche Gefährdung der amerikanischen Führungsposition gegenüber China sieht. Zugleich stellte er die Warnungen der KI-Chefs öffentlich infrage und hob stattdessen die strategische Bedeutung eines amerikanischen Sieges im internationalen KI-Wettbewerb hervor. Auch darüber hinaus stoßen zusätzliche Regulierungen innerhalb der US-Politik auf erhebliche Skepsis.

Erwartungsgemäß fällt die Reaktion aus China ebenfalls ablehnend aus, wenn auch aus einer anderen Blickpunkt: Dort werden die jüngsten Warnungen als reine Panikmache zurückgewiesen. Gleichzeitig gilt Amodeis Vorstoß als Versuch, Chinas legitime technologische Entwicklung als Bedrohung darzustellen und damit die Konfrontation zwischen beiden Ländern im KI-Bereich weiter zu verschärfen.

Source link

Verwandte Themen:Altman durch ebenfalls KISicherheitsdebatte Kontrollverlust Sam vor warnt

Up Next

Wie gut ist Forsaken Kingdoms?: WarCraft 3 fällt mit Genrewechsel auf die Nase

Nicht verpassen

PC-Spiele lokal auf Android zocken: GameNative 1.2.1 mit Neuerungen für Steam und Meta Quest

Apps & Mobile Entwicklung

KI-Upscaling: Sechs weitere PS5-Spiele erhalten schärfere Grafik dank QSSR

Die Upscaling-Technik Quick Spectral Super Resolution, kurz QSSR, hält in weiteren Spielen für die PlayStation 5 Einzug. Sony verkündet, dass (bald) auch ARC Raiders, Control Resonant, Hell Let Loose: Vietnam, Marvel’s Spider-Man 2, No Man’s Sky und The Finals QSSR unterstützen.

Erst letzten Monat hatte Sony mit QSSR auch für die PlayStation 5 eine KI-basierte Upscaling-Technik eingeführt. Die technische Basis der Software ist die gleiche wie beim PlayStation Spectral Super Resolution (PSSR), das schon länger auf der stärkeren PlayStation 5 Pro eingesetzt wird. Da die Hardware der PS5 aber nicht die dedizierten Machine-Learning-Einheiten mit schneller INT8-Beschleunigung des Pro-Modells besitzt, nutzt QSSR eine schlankere Architektur des neuronalen Netzes.

Dennoch wird die Bildqualität auch durch QSSR verbessert. Feine Strukturen werden stabiler rekonstruiert. Außerdem soll das Bild bei Bewegung weniger flimmern oder zerfallen.

Sechs weitere Titel erhalten QSSR

Während zu Beginn nur Wolverine und Ghost of Yōtei QSSR-Support erhielten, kündigt Sony jetzt sechs weitere Spiele an, die zeitnah QSSR erhalten sollen oder es im Falle von Marvel’s Spider-Man 2 bereits bieten.

Angekündigte Spiele mit QSSR-Support

ARC Raiders (coming soon)
Control Resonant (im Dezember)
Hell Let Loose: Vietnam (ohne Termin)
Marvel’s Spider-Man 2 (ab sofort)
No Man’s Sky (in den nächsten Wochen)
The Finals (coming soon)

Da Insomniac Games schon bei Wolverine Pionierarbeit geleistet hatte, überrascht es nicht, dass ab sofort auch Marvel’s Spider-Man 2 QSSR unterstützt. Das entsprechende Update werde bereits verteilt.

Bei den anderen ist die Terminierung für ein QSSR-Update nicht so eindeutig. Remedy Entertainment spricht zumindest vom Dezember, während es bei No Man’s Sky von Hello Games in den nächsten Wochen so weit sein soll. Bei ARC Raiders und The Finals, beides Titel von den Embark Studios, heißt es nur „coming soon“. Für Hell Let Loose: Vietnam hat der Entwickler Expression Games den Zeitraum noch gar nicht eingegrenzt und spricht lediglich von einem „kommenden Update“.

In den nächsten Monaten sollen weitere PS5-Spiele QSSR bekommen. Sehr wahrscheinlich werden dies vornehmlich Titel sein, die auch schon PSSR für die PS5 Pro unterstützen.

Erste Bildvergleiche

Mal deutlich sichtbar wie bei Hell Let Loose: Vietnam, mal eher subtil wie bei Control Resonant: Kurze Videos zeigen die Vorteile von QSSR.

Source link

Apps & Mobile Entwicklung

Nintendo vs. Modchips: GitHub sperrt 144 Firmware-Repositories

Nintendo geht mit einer neuen DMCA-Beschwerde gegen Firmware für Modchips der ersten Switch-Generation vor. GitHub hat daraufhin 144 Repositories rund um Picofly gesperrt. Auch Emulatoren sind betroffen: Insgesamt erfassen vier Beschwerden 217 Repositories, von denen 215 gesperrt wurden.

Picofly greift beim Start der Switch ein

Picofly basiert auf einem günstigen RP2040-Mikrocontroller, der als Modchip in die Nintendo Switch eingelötet wird. Beim Einschalten der Konsole erzeugt der Chip einen gezielten Spannungsfehler, einen sogenannten Glitch. Damit lässt sich die Sicherheitsprüfung beim Startvorgang aushebeln und nicht autorisierte Software ausführen.

So können Nutzer beispielsweise eigene Programme (Homebrew), Linux oder Spielmodifikationen auf der Switch verwenden. Gleichzeitig ermöglicht der Eingriff das Abspielen unerlaubter Spielekopien, was Nintendo mit seinen technischen Schutzmaßnahmen verhindern möchte.

In der DMCA-Beschwerde vom 6. November 2026 richtet sich Nintendo of America gegen das Repository Ansem-SoD/Picofly und dessen Forks. GitHub sperrte daraufhin das ursprüngliche Projekt sowie 143 daraus entstandene Kopien. Nintendo beruft sich auf den amerikanischen Digital Millennium Copyright Act (DMCA), der unter anderem die Verbreitung von Werkzeugen zur Umgehung technischer Schutzmaßnahmen untersagt.

Der Vorwurf betrifft dabei bereits die Bereitstellung der Modchip-Firmware, unabhängig davon, ob über die betroffenen Repositories tatsächlich urheberrechtlich geschützte Spiele verbreitet wurden. Nintendo verweist in seiner Beschwerde auch auf das frühere Vorgehen gegen Team-Xecuter, dessen Mitglieder unter anderem Modchips für die Switch verkauft hatten.

Auch Switch-Emulatoren betroffen

Neben Picofly stehen zwei bekannte Switch-Emulatoren im Mittelpunkt der Löschaktion. Eine weitere Beschwerde führte zur Sperrung von 71 Repositories des Projekts Citron Neo. Zwei zusätzliche Anträge betrafen Kopien von Yuzu für Windows und Android. Deren Betreiber entfernte den Quellcode einschließlich der Versionshistorie, weshalb die beiden Repositories weiterhin erreichbar sind.

Nintendo geht bereits seit Jahren gegen die Switch-Emulation vor. Besonders weitreichende Folgen hatte das Verfahren gegen Yuzu im März 2024. Die Entwickler verpflichteten sich im Rahmen eines gerichtlichen Vergleichs zur Zahlung von 2,4 Millionen US-Dollar und stellten die Entwicklung des Emulators ein. Seitdem entstanden verschiedene Nachfolgeprojekte auf Grundlage des ursprünglich quelloffenen Programms.

Wie TorrentFreak berichtet, hat Nintendo mit den jüngsten Beschwerden nun erstmals in größerem Umfang auch Modchip-Firmware auf GitHub ins Visier genommen. Bereits im August hatte der Konzern mehr als 400 Repositories rund um Switch-Emulatoren sperren lassen.

Die aktuellen Sperrungen beschränken sich auf die betroffenen GitHub-Projekte. Bereits installierte Modchips bleiben funktionsfähig, und die Firmware ist weiterhin über andere Quellen erhältlich. Ob die Verbreitung der Picofly-Firmware tatsächlich gegen den DMCA verstößt, wurde durch die GitHub-Sperrung selbst nicht gerichtlich entschieden.

Source link

Apps & Mobile Entwicklung

Nach 6-Finger-Menschen: Crimson-Desert-Entwickler setzen stärker auf KI

6 Finger an einer Hand, Menschpferd als echte Einheit, – das und mehr fanden Spieler im Action-Rollenspiel Crimson Desert. Die Entwickler setzen trotzdem weiter auf KI zur Unterstützung der Spieleentwicklung. Sie stellen allerdings klar, dass ihre Rolle begrenzt bleibt.

Auch wenn es vielleicht anders anklingt, gehört Crimson Desert zu den richtig guten Spielen des aktuellen Jahrgangs. Groß, schön, vielfältig, es gibt viele Gründe, mit dem Titel eine Menge Spaß zu haben. Das gilt dank kontinuierlicher Weiterentwicklung, die jüngst im Update zur „Enhanced“-Version mündete, im Herbst noch mehr als im Frühjahr.

Für Misstöne sorgte bei Veröffentlichung aber eine Anzahl offenkundig KI-generierter Inhalte vor allem bei im Spiel zu findenden Bildern, die aufgrund fehlerhafter Darstellungen offenkundig generiert wurden. Bei der Darstellung von Personen und Tieren ist „so ähnlich“ eben nicht gut genug. Für Spieler diente das als weiterer Beleg für „KI-Slop“, also gedankenlos generierte Inhalte, die mit echter Kunst und bewusstem Design eines Produktes wenig zu tun haben. Zugleich verstärkte dies die ablehnende Haltung gegenüber der Technologie. Laut Entwicklerstudio Pearl Abyss habe es sich allerdings nur um Platzhalter aus dem Prototypen-Stadium gehandelt, die noch hätten ausgetauscht werden sollen.

Diese Rolle bekommt KI

An KI bei der Spieleentwicklung hält das Studio dennoch fest, das unterstreicht sein jüngster Quartalsbericht. Sie soll die Entwicklung deutlich effizienter machen. Die Technologie werde dazu genutzt, um die „Produktivität und die Qualität beim Entwickeln“ zu erhöhen, verrät der Quartalsbericht.

Dazu wird sie in verschiedenen Bereichen der Entwicklung eingesetzt, „darunter die Automatisierung wiederkehrender Aufgaben, Unterstützung bei der Erstellung von Inhalten und die Optimierung von Tests“. Ihre Rolle solle noch ausgebaut werden, sei aber nicht als Ersatz für menschliche Entwickler zu verstehen. Für Pearl Abyss ist sie „ein Werkzeug“, um „Effizienz und Qualität“ zu erhöhen. Sie sei klar begrenzt auf die Validierung von Konzepten und „Pipeline-Produktivität“ – sie soll also unter anderem dazu beitragen, dass weniger Leerlauf entsteht und schneller gearbeitet werden kann. Das Spielerlebnis und die tatsächlichen Inhalte des Spiels sollen aber vollständig in der Hand des Entwicklerteams bleiben.

Im Kontext fast konservativ

Im Kontext der Entwicklungen in der Branche erscheint dieser Ansatz fast schon konservativ. Epic Games setzt weit stärker auf KI, während Valves Steam von KI-Slop und KI-Klonen überflutet wird. Das lässt sich anekdotisch belegen: Die Anzahl potentiell KI-generierter Pressemitteilungen zu kleinen, potentiell KI-erstellten Solo-Spielen und Tools hat in den vergangenen Wochen erhebliche Ausmaße angenommen. Auch im Falle von Portierungen ist KI kaum mehr wegzudenken. Sie baut Remaster, portiert Klassiker in den Browser oder erstellt Plattformportierungen in Windeseile.