Sperre von Fable 5 und Mythos 5 angeblich nach simplem Prompt

Die US-Regierung hat am Wochenende die Anthropic-Modelle Fable 5 und Mythos 5 unter einer Exportkontrolldirektive gesperrt. Verhandlungen mit dem Hersteller laufen, eine Einigung steht aus. Auslöser war ein Bericht einer Sicherheitsabteilung von Amazon, der einen vermeintlichen Jailbreak des Modells Fable beschrieb.

Die Cybersicherheitsexpertin Katie Mosuris, die den Bericht eingesehen hat, widerspricht dieser Darstellung. Das Modell habe schlicht die Aufforderung „fix the Code“ befolgt und einen Patch entworfen, den Menschen danach manuell prüften. Genau das solle KI in der Cybersicherheit leisten, argumentiert Mosuris. Andernfalls blieben mächtige Werkzeuge allein Angreifern vorbehalten. Ein weiterer Faktor für die Sperre soll ein chinesischer Zugriff auf das vollständige Mythos-Modell gewesen sein. Washington hält bislang an der Maßnahme fest.

Zivilgesellschaft fordert Stopp von KI-Waffen

Über 200 Menschenrechtsorganisationen, darunter Amnesty International, fordern den sofortigen Stopp von KI-Systemen in militärischen Tötungsketten. Sie warnen vor einer Zukunft, in der Algorithmen über Leben und Tod entscheiden. Ein Bericht des New Scientist nennt einen ersten bestätigten Fall: Vollautonome Drohnen sollen im „Terminator-Modus“ eigenständig feindliche Soldaten getötet haben, ohne menschliche Kontrolle.

Auch in Gaza, im Libanon und im Iran sind automatisierte Systeme zur Überwachung und Zielgenerierung im Einsatz. Die Organisationen sprechen von „Massenabfertigung“, die Angriffe im Minutentakt autorisiere. In der Kritik stehen Google, Microsoft und OpenAI, die Milliarden mit Militäraufträgen verdienen. Gefordert werden strenge Regeln, um den Ausbau autonomer Waffensysteme zu stoppen.

Klage gegen Meta Platforms wegen KI-Training

Die niederländische Verbraucherschutz-Stiftung SOMI hat Meta verklagt. Sie wirft dem Konzern vor, Beiträge und Kommentare aus Facebook und Instagram unter falschen Angaben zum KI-Training zu nutzen. Meta erwecke den Eindruck, die Daten flössen in die Llama-Sprachmodelle. Tatsächlich landeten sie im Werbeoptimierungssystem GEM. Verarbeitet würden zudem Daten von Personen ohne Konto sowie von Minderjährigen.

SOMI fordert mindestens 1.000 Euro Schadenersatz pro Betroffenem plus 100 Euro für jeden Monat seit Mai 2025. Für Jugendliche soll der Mindestbetrag im Erfolgsfall das Dreifache, für Kinder das Fünffache betragen. Auch Personen ohne Facebook- oder Instagram-Konto können sich der Sammelklage anschließen.

EU beschließt Verbot von sexualisierter Deepfake-KI

Das Europaparlament hat mit großer Mehrheit neue Regeln gegen pornografische Deepfakes beschlossen. Verboten sind KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen. Auch Apps, die intime Bereiche identifizierbarer Personen oder sexuell eindeutige Handlungen ohne Einwilligung zeigen, sind untersagt. Anbieter dürfen Bild- oder Videogeneratoren in der EU nur vertreiben, wenn technische Schutzvorkehrungen die Erstellung solchen Materials verhindern.

Die Regelung ergänzt bestehende Vorschriften und nimmt erstmals auch die Anbieter von Nudification-Apps in die Pflicht. Eine Lücke bleibt: Nicht einvernehmliche Bikini-Bilder, wie sie der Chatbot Grok auf X erzeugte, dürften weiterhin erlaubt sein. Stimmen die Mitgliedsstaaten zu, tritt das Gesetz am 2. Dezember in Kraft.

Speicherkrise treibt Smartphonepreise weiter in die Höhe

Smartphone-Preise steigen wegen einer anhaltenden Speicherkrise. Carl Pei vom Hersteller Nothing erklärte auf X, Speicher sei mittlerweile die teuerste Komponente und mache über die Hälfte der Hardwarekosten aus. Ursache ist der KI-Boom: Rechenzentren benötigen denselben Speichertyp wie Smartphones. Erstmals konkurrieren Geräte- und KI-Infrastruktur direkt um dieselben Chips.

Neue Modelle kosten bereits bis zu 100 Dollar mehr als ihre Vorgänger. Xiaomi-Chef Lei Jun erwartet weitere Aufschläge in den kommenden zwei Jahren. Betroffen sind auch Gaming-Konsolen und PC-Hardware. Beide Firmenchefs raten zu zügigen Käufen, da sich die Lage so bald nicht entspanne.

SpaceX schluckt Entwickler-Tool Cursor

SpaceX kauft das KI-Entwicklertool Cursor für 60 Milliarden Dollar in Aktien. Es ist einer der größten Tech-Deals der jüngeren Zeit. SpaceX gewinnt damit direkten Zugang zur globalen Entwickler-Community und will Cursor neben dem Chatbot Grok als profitables Vorzeigeprodukt etablieren. Das KI-Unternehmen xAI ist bereits integriert.

Cursor könnte vom Supercomputer „Colossus“ mit 200.000 Nvidia-GPUs profitieren, aus dem auch Google und Anthropic Rechenleistung mieten. Für Konkurrenten wie Anthropic und OpenAI im KI-Coding-Geschäft steigt der Druck.

Salesforce übernimmt KI-Kundenservice-Plattform Fin

Salesforce übernimmt die KI-Kundenservice-Plattform Fin für 3,6 Milliarden Dollar. Kernprodukt ist ein KI-Agent, der Kundenanfragen über Kanäle wie Live-Chat und WhatsApp bearbeitet. Grundlage ist das hauseigene Modell „Apex“, das für den Support entwickelt wurde. Salesforce verspricht autonome Problemlösung, niedrigere Kosten und schnellere KI-Einführung.

Der Deal zeigt den Druck auf klassische Softwareanbieter durch generative KI. Salesforce hatte zuvor Informatica für acht Milliarden Dollar gekauft, um KI tiefer in die eigenen Produkte zu integrieren.

Neuer Benchmark testet KI-Modelle auf russische Propaganda

Nach dem Github Copilot stellt Microsoft auch sein KI-Tool Copilot Cowork auf nutzungsbasierte Abrechnung um. Cowork ist eine Adaption eines gleichnamigen Anthropic-Tools und soll Wissensarbeit mit agentischer KI unterstützen. Charles Lamanna, bei Microsoft für Copilot zuständig, bezeichnet ein Pauschalmodell als nicht tragbar. Manche Nutzer erledigten hunderte Aufgaben pro Woche, was die Kosten in die Höhe treibe.

Parallel prüft Microsoft laut dem Nachrichtenportal Axios den Einbau des chinesischen Modells DeepSeek V4 als günstigere Option. Da der Einsatz eines chinesischen Modells besonders in den USA Kritik auslösen dürfte, betont der Konzern, DeepSeek wäre optional und liefe vollständig auf der eigenen Cloud Azure. Eine Entscheidung soll in den kommenden Wochen fallen.

Microsoft rechnet Copilot Cowork nach Nutzung ab und prüft Deepseek

Nach dem Github Copilot stellt Microsoft auch sein KI-Tool Copilot Cowork auf nutzungsbasierte Abrechnung um. Cowork ist eine Adaption eines gleichnamigen Anthropic-Tools und soll Wissensarbeit mit agentischer KI unterstützen. Charles Lamanna, bei Microsoft für Copilot zuständig, bezeichnet ein Pauschalmodell als nicht tragbar. Manche Nutzer erledigten hunderte Aufgaben pro Woche, was die Kosten in die Höhe treibe.

Parallel prüft Microsoft laut dem Nachrichtenportal Axios den Einbau des chinesischen Modells DeepSeek V4 als günstigere Option. Da der Einsatz eines chinesischen Modells besonders in den USA Kritik auslösen dürfte, betont der Konzern, DeepSeek wäre optional und liefe vollständig auf der eigenen Cloud Azure. Eine Entscheidung soll in den kommenden Wochen fallen.

Scans aus Pokémon Go fließen in militärische KI-Modelle

Daten von Pokémon-Go-Spielern sind in ein KI-Modell geflossen, das künftig Militärdrohnen unterstützen könnte. Mehrere europäische Zeitungen berichten darüber. 2021 setzte der Entwickler Niantic Spielanreize, damit Nutzer reale Orte mit ihren Smartphones scannen. Die Teilnahme war freiwillig und erforderte eine ausdrückliche Zustimmung. Millionen scannten daraufhin Straßen, Gebäude und Parks und lieferten Milliarden visueller Mapping-Daten.

Das Spin-off Niantic Spatial wandelte die Scans in eine 3D-Karte um, mit der sich Maschinen per Kamera orten und navigieren können, ganz ohne GPS. Im Dezember 2025 kündigte Niantic Spatial eine Partnerschaft mit dem US-Rüstungsdienstleister Vantor an, der auf Software zur Drohnenortung spezialisiert ist. Die Kooperation soll Probleme mit gestörten oder manipulierten Satellitensignalen lösen, wie sie in den Kriegen in der Ukraine und im Iran auftreten.

Meta testete angeblich Gesichtserkennung von Pentagon-Zulieferer

Meta hat offenbar die Gesichtserkennung des Pentagon-Zulieferers Rank One Computing (ROC) für seine Smart Glasses geprüft. Eine Softwarelizenz verknüpft die ROC-Technologie mit einer Testversion der Meta-AI-App, die für die Ray-Ban-Meta-Brillen nötig ist. Sie deckt Gesichtserkennung, Lebenderkennung und bis zu zehn Millionen Gesichtsvorlagen ab. Spuren der Software fanden sich in der App, aktiviert war sie nicht.

ROC wurde von ehemaligen FBI-Mitarbeitern gegründet und beliefert vor allem Militär, Geheimdienste und Strafverfolgung. Meta hatte zuvor eigenen, ebenfalls inaktiven Code für eine Funktion namens „Nametag“ entwickelt und nach Medienberichten entfernt. Der Konzern bezeichnet das Projekt als rein explorativ und betont, noch keine endgültige Entscheidung über Gesichtserkennung getroffen zu haben.

Wie ein 20-Milliarden-Parameter-Modell aufs iPhone passt

Apple bringt ein KI-Modell mit 20 Milliarden Parametern auf das iPhone, obwohl Arbeitsspeicher dort knapp ist. Das bisherige On-Device-Modell hatte rund drei Milliarden Parameter. Das neue Modell AFM Core Advanced dreht das Prinzip um: Es liegt vollständig im Flash-Speicher, in dem sonst Fotos und Apps stecken. In den schnellen RAM lädt das System nur jenen Teil, den es für die aktuelle Anfrage braucht.

Den Kniff nennt Apple Instruction Following Tuning. Statt bei jedem Wort neu zu entscheiden, welche Teile zu aktivieren sind, analysiert das Modell die gesamte Anfrage und wählt einmalig den passenden Ausschnitt. Das Modell versteht Text, Bilder und Audio gleichzeitig und treibt die neuen, natürlicher klingenden Siri-Stimmen komplett ohne Cloud an. Siri-Projektleiter Mike Rockwell sagt, ohne dieses Modell wären die Stimmen nicht möglich gewesen. Es läuft nur auf dem iPhone 17 Pro, dem 17 Pro Max, dem iPhone Air sowie leistungsfähigen Macs und iPads. Apple schafft damit zwei KI-Klassen innerhalb der eigenen Produktlinie.

Diese Smart Glasses laufen autark

Auf der Augmented World Expo zeigt das kalifornische Start-up Raven Resonance eine Smart-Glasses-Brille, die ohne Smartphone oder Cloud auskommt. Anders als Modelle von Meta, Samsung oder Google trägt die Raven Prism einen ARM-Prozessor mit vier Kernen, der das hauseigene Linux-System RavenOS ausführt. Gesteuert wird per Eye-Tracking und Sprache, ein farbiges Display projiziert Inhalte ins Sichtfeld.

Besonderheit sind die wechselbaren „Raven Wings“-Akkumodule, die sich im laufenden Betrieb tauschen lassen. Das System friert den Zustand ein und arbeitet danach nahtlos weiter. KI-Funktionen laufen lokal, die Kamera hat eine mechanische Abdeckung und Signal-LEDs. Die Brille soll noch dieses Jahr erscheinen. Angaben zu Preis und technischen Daten fehlen bislang.

(igr)