Anthropics KI-Modell „Mythos“ ist zu gefährlich für die Öffentlichkeit

Anthropic hat ein KI-Modell namens Mythos entwickelt, das Sicherheitslücken in Software nicht nur findet, sondern auch ausnutzen kann. Laut dem Unternehmen entdeckte es unter anderem eine 27 Jahre alte Lücke in OpenBSD und eine 17 Jahre alte in der Videosoftware FFMPEG, die Millionen automatischer Suchläufe übersehen hatten. Besonders brisant: Das Modell kann mehrere harmlose Einzellücken zu einem funktionierenden Angriff kombinieren.

Anthropic gibt das Modell nicht frei, sondern stellt es über das Programm „Project Glasswing“ ausgewählten IT-Unternehmen und Organisationen wie der Linux Foundation zur Verfügung. Diese sollen damit ihre Software absichern, bevor andere KI-Systeme ähnliche Fähigkeiten erreichen. Anthropic stellt dafür Tokens im Wert von 100 Millionen US-Dollar bereit. Ob genug Hersteller kritischer Software mitmachen und ob die Zahl der Lücken tatsächlich endlich ist, bleibt offen.

EU-Gremien verbannen KI-Bilder aus ihrer Kommunikation

Kommission, Parlament und Ministerrat der EU haben ihren Presseteams untersagt, vollständig KI-generierte Bilder und Videos in der offiziellen Kommunikation zu verwenden. Ein Sprecher der Kommission sagte Politico, das für Journalisten und Öffentlichkeit bereitgestellte Material solle frei von KI-Inhalten bleiben. Technische Nachbearbeitung zur Verbesserung der Bildqualität bleibt unter strengen Auflagen erlaubt.

OpenAI entwirft Plan für eine Welt mit Superintelligenz

OpenAI hat ein zwölfseitiges Grundsatzpapier veröffentlicht, das politische Maßnahmen für den Übergang zur Superintelligenz skizziert. Im Zentrum steht ein staatlicher Vermögensfonds, der Erträge aus KI-getriebenem Wirtschaftswachstum an alle Bürger ausschütten soll. Daneben schlägt das Papier höhere Kapitalertragsteuern, eine Vier-Tage-Woche bei vollem Lohn als Pilotprojekt und ein formelles Mitspracherecht der Beschäftigten bei der Einführung von KI am Arbeitsplatz vor.

Für den Fall größerer Verwerfungen am Arbeitsmarkt sieht OpenAI automatische Hilfen vor: flexiblere Arbeitslosenunterstützung, Bargeldhilfen und Weiterbildungsgutscheine, die greifen, sobald Warnindikatoren bestimmte Schwellen überschreiten. Das Unternehmen benennt auch sich selbst als Risiko. KI-Firmen an der Spitze sollten Governance-Strukturen annehmen, die öffentliches Interesse in ihre Entscheidungen einbetten.

Googles KI-Suche liefert neun von zehn Mal richtige Antworten

Das KI-Start-up Oumi, das im Auftrag der New York Times über 4300 Suchanfragen testete, kommt zu einem gemischten Befund: Googles KI-generierte Suchantworten liegen mit dem neueren Modell Gemini 3 in 91 Prozent der Fälle richtig, nach 85 Prozent beim Vorgänger. Bei Milliarden täglicher Anfragen bedeuten neun Prozent Fehlerquote allerdings Millionen falscher Antworten pro Stunde.

Zugleich hat sich die Nachprüfbarkeit verschlechtert. Bei 56 Prozent der korrekten Antworten von Gemini 3 ließen sich die Aussagen nicht durch die verlinkten Quellen belegen, nach 37 Prozent beim Vorgänger. Unter den meistzitierten Quellen fanden sich Facebook und Reddit auf Platz zwei und vier. Google kritisierte die Studie als nicht repräsentativ für tatsächliches Suchverhalten.

Metas neue KI-Modelle sollen teils Open Source werden

Meta plant eine hybride Strategie für kommende KI-Modelle: Die leistungsstärksten sollen als geschlossene Systeme erscheinen, die kleineren als echte Open-Source-Modelle mit frei zugänglichem und editierbarem Quellcode. Bisherige Llama-Modelle waren lediglich „Open Weight“, bei denen zwar die Modellgewichte, nicht aber der vollständige Code und die Trainingsdaten offenlagen.

Die neuen Modelle wären die ersten unter der Leitung von Alexandr Wang, den Meta Mitte vergangenen Jahres zum Chief AI Officer ernannte, nachdem Llama 4 hinter den Erwartungen zurückgeblieben war. Mit der Doppelstrategie will Meta einerseits Entwickler anlocken, andererseits Wettbewerbsvorteile bei den großen Modellen sichern.

Meta-Mitarbeiter wetteifern um den höchsten KI-Verbrauch

Meta hat ein internes Rangsystem eingeführt, das den KI-Verbrauch seiner Belegschaft misst. Eine Rangliste namens „Claudeonomics“ erfasst den Token-Verbrauch von über 85.000 Beschäftigten. In 30 Tagen summierten sich die Tokens auf 60 Billionen, der Spitzenreiter kam auf 281 Milliarden. Titel wie „Token Legend“ oder „Cache Wizard“ sollen motivieren.

Die Praxis hat Schwächen: Manche Mitarbeiter lassen KI-Agenten stundenlang laufen, nur um ihren Verbrauch zu steigern. Das Phänomen heißt im Silicon Valley „Tokenmaxxing“ und gilt dort als Produktivitätsmaß. Nvidia-Chef Jensen Huang sagte, er wäre beunruhigt, wenn ein Ingenieur mit 500.000 Dollar Gehalt nicht mindestens 250.000 Dollar an Tokens jährlich verbrauche. Belege für einen Zusammenhang zwischen hohem Verbrauch und tatsächlicher Produktivität hat bislang kein Unternehmen vorgelegt.

Intel steigt bei Musks Terafab-Projekt ein

Intel beteiligt sich an Elon Musks Projekt Terafab, einem geplanten Halbleiterkomplex, der KI-Beschleuniger mit einer jährlichen Rechenkapazität von einem Terawatt produzieren soll. „Intel ist stolz darauf, sich gemeinsam mit SpaceX, xAI und Tesla am Terafab-Projekt zu beteiligen“, schrieb das Unternehmen auf X.

Für Intels Foundry-Sparte, die seit Jahren Großkunden sucht, könnte die Beteiligung ein Rettungsanker sein. Auch wenn der Bau scheitert, könnte Intel die Musk-Firmen als Kunden gewinnen.

Anthropic will mit Google-TPUs über 3,5 Gigawatt Rechenkapazität erreichen

Anthropic hat eine Vereinbarung mit Google und Broadcom über den Einsatz von Googles Tensor Processing Units für seine Claude-Modelle geschlossen. Laut einer Börsenaufsichtsmeldung von Broadcom geht es um 3,5 Gigawatt Rechenkapazität allein von Broadcom, weitere Kapazität soll Google liefern. Der erste Schwung an TPUs soll ab 2027 bereitstehen, final geht es um mehrere Millionen KI-Beschleuniger.

Anthropic benötigt die Rechenleistung dringend. Erst kürzlich strich das Unternehmen Tools wie OpenClaw aus seinen Abos, um die Rechenlast zu senken. Die Kosten für ein Gigawatt Rechenkapazität werden auf bis zu 50 Milliarden US-Dollar geschätzt. Gleichzeitig verkündete Anthropic einen Umsatzmeilenstein: Hochgerechnet auf das Gesamtjahr liegt der Umsatz bei 30 Milliarden US-Dollar, nach 9 Milliarden Ende 2025.

Bund veröffentlicht lizenzfreie KI-Werkzeuge

Das Bundesministerium für Digitales und Staatsmodernisierung hat mit dem Projekt Spark eine Reihe von KI-Modulen auf der Plattform OpenCode veröffentlicht. Unter dem Leitsatz „Public Money, Public Code“ können Kommunen, Unternehmen und die Zivilgesellschaft die Werkzeuge ohne Lizenzgebühren nutzen und weiterentwickeln.

Spark soll komplexe Planungs- und Genehmigungsverfahren beschleunigen, die bisher Monate oder Jahre dauern. Die KI bereitet Informationen aus Antragsunterlagen so auf, dass Sachbearbeiter schneller zu fundierten Entscheidungen kommen. Das letzte Wort behält der Mensch.

Polizeiliche Gesichtserkennung in Deutschland hat sich verdoppelt

Die Polizei in Deutschland führte im vergangenen Jahr rund 344 000 Gesichtserkennungs-Suchläufe durch, mehr als doppelt so viele wie im Vorjahr. Treiber ist ein seit September 2024 beim Bundeskriminalamt eingesetztes KI-System mit einer Fehlerrate von unter einem Prozent. Zusätzlich ermöglichen mobile Apps den Beamten, Abgleiche direkt vor Ort vorzunehmen.

Kritiker warnen, dass Menschen aus sozioökonomisch schwachen Schichten und Personen, die als ausländisch wahrgenommen werden, häufiger kontrolliert werden. Sie landeten überproportional oft in der Datenbank und seien dadurch einem höheren Risiko ausgesetzt, von der KI identifiziert zu werden.

Externe KI-Grafikkarten kommen für Apple Silicon

Aktuelle Apple-Rechner können trotz schneller M-Chips keine externen KI-Beschleuniger von Nvidia oder AMD nutzen, weil passende Treiber fehlen. George Hotz, bekannt als PlayStation-3-Hacker, hat mit seiner Firma Tiny Corp nun solche Treiber entwickelt. Sie arbeiten mit seinem eigenen Framework „tinygrad“, nicht mit gängigen Alternativen wie MLX oder GGUF.

Nutzer benötigen neben der kostenlosen Treibersoftware ein externes GPU-Gehäuse und eine passende Grafikkarte. Wie viel ein solches Setup am Mac tatsächlich bringt, ist noch unklar.

Copyright-Sperren bei KI-Musik lassen sich leicht umgehen

Der KI-Musikgenerator Suno prüft hochgeladene Songs und Texte automatisch auf Urheberrechtsverletzungen und blockiert sie bei Verstößen. Ein Test des Technikmagazins The Verge ergab jedoch, dass schon kleine Anpassungen wie halbe oder doppelte Abspielgeschwindigkeit oder kurzes Rauschen am Anfang und Ende ausreichen, um die Prüfung zu umgehen. Auch bei Liedtexten genügen minimale Änderungen in der Schreibweise.

Für unabhängige Künstler ist das besonders problematisch. Suno überprüft Inhalte offenbar nur beim Upload, nicht beim Export. Erzeugte Stücke lassen sich daher über Distributoren auf Streaming-Dienste hochladen und dort monetarisieren, ohne die eigentlichen Urheber zu beteiligen.

Waymo wagt den Sprung nach Europa

Waymo, die Robotaxi-Tochter von Google, hat mit der Kartierung Londons begonnen und will noch in diesem Jahr einen öffentlichen Dienst starten. In zehn US-Städten gehören die fahrerlosen Taxis bereits zum Straßenbild. In ganz Europa existiert bislang kein kommerzieller Robotaxi-Dienst.

London stellt eine besondere Herausforderung dar: Statt der strengen Schachbrettmuster moderner US-Städte erwartet Waymo ein historisch gewachsenes Straßenlabyrinth. Zudem trifft die Technik auf eine gespaltene Branche aus App-Fahrern und den traditionellen Black Cabs.

(igr)