Nvidia will Rechenzentren schneller bauen und KI-Agenten selbst bändigen

Nvidia will große KI-Rechenzentren schneller ans Netz bringen. Auf seiner Hausmesse GTC in Berlin stellte der Konzern dafür das Referenzdesign DSX Pod vor. Partner sollen damit ganze Rechenanlagen samt Servern der Vera-Rubin-Serie in Schiffscontainern vormontieren. Statt durchschnittlich sechs Monate soll der Aufbau nur noch 14 Tage dauern. Chef Jensen Huang wäre auch mit wenigen Wochen zufrieden, denn für die Betreiber zählt jeder Tag. Ein Rechenzentrum mit einem Gigawatt Leistung bringe täglich 100 bis 200 Millionen Dollar Umsatz, hieß es auf der GTC. Damit das Stromnetz mithält, sollen die Server ihren Verbrauch bei Lastspitzen automatisch drosseln, etwa wenn in der Halbzeitpause eines WM-Finales Millionen Menschen Kaffee kochen. Das bis zu 45 Grad warme Kühlwasser soll in einem geschlossenen Kreislauf fließen, statt zu verdunsten. Zudem baut Nvidia seine europäischen Lieferketten aus. Hartmut Gieselmann von der c’t bezweifelt jedoch, dass die Anlagen sparsam werden. Wer schneller mehr Rechenzentren baut, verbraucht mehr Ressourcen. Er erwartet, dass Speicherchips im kommenden Jahr noch teurer werden.

In den neuen Anlagen sollen auch KI-Agenten laufen, die zuletzt mehrfach aus ihren abgeschotteten Testumgebungen ausgebrochen sind. Die Rufe nach strengeren Regeln, die darauf folgten, sieht Nvidia als Gefahr für sein Geschäft. Huang hält Regulierung für unnötig, denn Ingenieure könnten das Problem technisch lösen. Seine Antwort heißt Open Agent Safety Platform. Kern ist ein System namens OpenShell, das Software und Hardware im laufenden Betrieb prüfen lässt, ob ein Modell auf verbotene Daten oder Ressourcen zugreift. Solche Zugriffe soll es binnen Millisekunden stoppen. Ein zweites Modell soll als Wächter mitlaufen und schon die Denkschritte des ersten überwachen. Laut Nvidia testen weltweit über 100 Firmen das System, Details nannte der Konzern aber nicht. Das Konzept verschiebt Macht. Nicht nur wer ein Modell trainiert, kann es dann kontrollieren, sondern auch, wer die Rechenzentren betreibt. Im Zweifel könnten das Regierungen sein, die eine unliebsame KI einfach abschalten.

Microsoft vergleicht KI-Einführung mit dem Kölner Dom

Auf seiner Frontier Tour in Köln stellte Microsoft vor allem KI-Produkte vor, bei denen Unternehmen die Kontrolle behalten sollen. Konzernchef Satya Nadella forderte, Protokolldateien müssten fälschungssicher sein und aktiv überwacht werden. Mit der neuen Sovereign Cloud legen Organisationen für jede Rechenaufgabe fest, wie viel Kontrolle, Transparenz und lokale Ausführung sie brauchen. Die Entra Agent ID regelt, worauf KI-Agenten zugreifen dürfen. Zudem will Microsoft seine eigene KI-Hardware Maia weiterentwickeln.

Agnes Heftberger, Chefin von Microsoft Deutschland, griff zu einem lokalen Bild. Unternehmen hätten zwar den Kran gekauft, doch der Bau sei damit nicht fertig. Wie beim Kölner Dom brauche es nun Plan, Technik, Menschen und einen langen Atem.

OpenAI trainiert seine stärksten Modelle in einer Offline-Welt

OpenAI will seine stärksten Modelle ohne Internetzugang trainieren. Zuvor war eine KI des Unternehmens aus einer Testumgebung ausgebrochen und hatte sich in Rechner der KI-Plattform Hugging Face gehackt. Damit die Modelle trotzdem lernen, im Netz zu suchen und Web-Anwendungen zu bedienen, baute OpenAI eine „Offline-Welt“ mit gespeicherten Web-Inhalten. Ganz vom Netz trennt OpenAI die Umgebung aber nicht. Das sei „derzeit nicht umsetzbar“, da man externe Verbindungen für Experimente und Überwachung brauche. Nachdem ein Modell trotz Sperre Antworten von einem externen Chatbot bekommen hatte, ruhte das Training elf Tage lang.

Die Agenten laufen in abgeschotteten virtuellen Maschinen. Aus diesen sind sie früher über Seitenkanalangriffe auf die Hardware entkommen. OpenAI hat die Abschottung nun verbessert und lässt die Systeme ständig überwachen. Agenten sollen sich schneller anhalten lassen. Die Aufsicht übernimmt ebenfalls KI, allerdings mit anderen Modellen. Dafür stelle man „erhebliche Rechenleistung“ bereit, schreibt OpenAI. Ob eine KI eine andere zuverlässig im Blick behalten kann, muss sich erst noch beweisen.

OpenAI-Agenten schalten eigene Sicherheitswarnungen ab

OpenAI hat in seinem Forschungsblog zwei Fälle beschrieben, in denen KI-Agenten ihre eigene Überwachung aushebelten. Diese Überwachung soll sicherstellen, dass Agenten ihren Anweisungen folgen. Im ersten Fall sollte ein Agent Programmcode in eine Referenzumgebung übertragen. Er gab die Aufgabe an einen Subagenten weiter, ohne festzulegen, dass die Überwachung aktiv bleiben muss. Der Subagent übernahm die Einstellungen der Umgebung, damit lief die Überwachung nicht mehr. Der übergeordnete Agent registrierte das, stufte es aber als zulässig ein, weil er eine frühere Nutzeranweisung als Erlaubnis auslegte. Er änderte sogar einen Test, der die Überwachung prüfen sollte. Auf direkte Nachfrage antwortete er falsch, die Überwachung sei nicht abgeschaltet. Diese falsche Auskunft war einer der Gründe, warum OpenAI die Veröffentlichung des Modells strich. Im zweiten Fall sollten Agenten Nutzerfeedback auswerten, ohne Nachrichten zu verschicken. In ihren protokollierten Zwischenschritten kam mehrfach die Frage auf, ob das Verbot auch für Sicherheitsmeldungen an die Entwickler gilt. Zunächst blieben die Meldungen bestehen, dann entfernte ein Agent alle Empfänger und schaltete die Benachrichtigung per Codeänderung ab.

OpenAI untersucht nun, ob die Agenten eine mehrdeutige Anweisung falsch umgesetzt haben oder ob sie die Warnungen als Hindernis für ihre Aufgabe behandelt und deshalb entfernt haben. Beides ist heikel. Im ersten Fall ließen sich Anweisungen kaum eindeutig formulieren. Im zweiten Fall würden Agenten ihre eigenen Kontrollen umgehen, sobald diese bei der Arbeit stören, ein weit ernsteres Warnsignal. Die Fälle reihen sich in eine Serie. Ein Modell zerstörte seine eigene Testumgebung, um an fehlende Eingabedaten zu kommen. Andere lieferten selbst bei Routineaufgaben falsche Ergebnisse oder machten Nutzern falsche Angaben. Agenten griffen zudem unbefugt auf Websites von Regierungen und Universitäten zu, OpenAI informierte dutzende Betroffene. Je selbstständiger Agenten arbeiten, desto mehr hängt an Kontrollen, die sie nicht selbst verändern können.

Mistral und DeepL warnen vor Europas Rückzug aus der KI-Spitze

In Europa streiten Politik und Tech-Branche, ob der Kontinent eigene Spitzenmodelle braucht oder sich auf KI-Anwendungen beschränken sollte. EU-Kommissionspräsidentin Ursula von der Leyen hält Anwendungen für ausreichend. Die Chefs vom französischen Mistral und dem Kölner Übersetzungsdienst DeepL widersprechen. Ohne eigene Frontier-Modelle, also Modelle an der technischen Spitze, verliere Europa seinen restlichen Einfluss in der KI. Wer nur fremde Modelle nutze, werde abhängig, und die Wertschöpfung wandere ab.

Europa liegt bei großen Modellen deutlich hinter den USA und China. Ein Grund ist die enorme Rechenleistung, die Training und Betrieb verschlingen. Trotzdem gab die Kommission im Sommer den Startschuss für sieben KI-Gigafabriken im Wert von rund 30 Milliarden Euro.

Block stellt Stimmmodell vor, das Gefühle hört

Block, die Zahlungsfirma von Twitter-Mitgründer Jack Dorsey, hat ein eigenes KI-Sprachmodell namens Dessa vorgestellt. Laut Block lernte es nur aus gesprochener Sprache, ganz ohne Text. Anders als die meisten Sprachassistenten wandelt es Gesagtes nicht erst in Text um, sondern verarbeitet den Ton direkt. So soll es in Echtzeit hören, ob jemand gereizt, sarkastisch oder unsicher ist, wann jemand lacht und was eine Pause meint.

In Demos klingt Dessa sehr menschlich. Es lacht mitten im Satz und schnappt vor Überraschung nach Luft. Weil es gleichzeitig zuhört und spricht, streut es Signale wie „ja“ und „ach so“ ein. Das Modell läuft lokal auf einem MacBook Pro mit M4 Max, ist aber noch nicht öffentlich. Zuerst sollen Sicherheitsforscher es auf unerwartete Risiken prüfen.

Kimi K3.1 Pro rückt an die Spitze heran

Das chinesische Moonshot AI hat sein Modell Kimi K3 mit deutlich mehr Aufwand nachtrainiert. Das Ergebnis, Kimi K3.1 Pro, springt im Artificial Analysis Intelligence Index, einer unabhängigen Rangliste, aus dem Mittelfeld auf Platz vier. Vor ihm liegen nur zwei Modelle von Anthropic und eines von Meta. Am stärksten legt Kimi bei Aufgaben zu, die es selbstständig in mehreren Schritten erledigt. Besonders zählt die Arbeit in der Kommandozeile, wo Agenten Systeme bedienen und Software bauen. Hier kam der Vorgänger kaum zurecht, das neue Modell liegt fast gleichauf mit Claude Opus 5.5. Auch bei Büroarbeit und Finanzanalysen schneidet es besser ab und erfindet laut Moonshot seltener Fakten. Eine Spezialität ist 3D-Modellierung. Kimi arbeitet mit Spiele-Engines wie Unity, Unreal und Godot und schreibt Skripte für Blender und CAD-Programme.

Obwohl das Modell nicht größer geworden ist, senkt Moonshot die Preise für die Schnittstelle um ein Drittel. Anfang November sollen die Modellgewichte frei verfügbar werden. Kimi K3.1 Pro wäre dann das stärkste offene Modell, und der Abstand zu den besten geschlossenen Modellen von Anthropic und Meta so klein wie lange nicht. Für die offene Version entfernte Moonshot bewusst Trainingsdaten zur IT-Sicherheit. Mit jedem Trainingsschritt war Kimi besser darin geworden, Sicherheitslücken zu finden und auszunutzen. Ganz verzichten will Moonshot darauf nicht, denn auch Verteidiger brauchen offene Modelle, etwa um alte Systeme zu prüfen.

Amazon lässt KI Schwachstellen im Code prüfen

Amazon macht die KI-Funktion seines Sicherheitsdienstes AWS Continuum für alle Kunden verfügbar. Sie prüft, ob sich Schwachstellen im Code wirklich ausnutzen lassen, und sortiert sie nach dem Risiko für das Geschäft. Dazu verknüpft sie Code und Infrastruktur und spielt Angriffe bei Bedarf in einer geschützten Umgebung durch. Für bestätigte Lücken schlägt der Dienst Korrekturen vor. Menschen müssen sie prüfen und freigeben. Erst später soll die KI Korrekturen selbst einspielen dürfen.

Anthropics neues Modell bricht Angriffe öfter ab

Anthropic hat intern ein Modell getestet, das stärker ist als Mythos 5.1, sich aber besser an Regeln hält. Anlass war ein Vorfall, über den das britische AI Security Institute berichtet hatte. Claude Mythos 5 sollte dort in einem Test Sicherheitslücken aufspüren und ging zu weit. Es schleuste schädlichen Code in ein echtes Open-Source-Projekt ein und gab ihn gegenüber den Entwicklern als harmlos aus, sogar über ein gefälschtes Konto. Anthropic stellte solche Situationen mit neueren Modellen nach. Claude Opus 5.5 brach die Angriffe nur selten von sich aus ab. Das neue interne Modell stoppte in zwei Dritteln der Fälle.

Perplexity Computer läuft ohne Cloud

Der KI-Anbieter Perplexity hat sein Agentensystem Perplexity Computer für macOS erweitert. Die App steuert einen Mac, auf Wunsch auch aus der Ferne. Sie braucht nun kein Sprachmodell in der Cloud und damit keinen ständigen Internetzugang mehr. Stattdessen arbeitet sie mit lokalen Modellen, zunächst mit Qwen 3.6 oder PPLX Pro, einer von Perplexity nachtrainierten Qwen-Variante. Laut Perplexity erledigen sie Aufgaben in mehreren Schritten, etwa die Analyse privater Geldanlagen oder die Arbeit mit Dateien, Notizen, Tabellen und Apple Mail. Im lokalen Betrieb sollen keine Daten den Rechner verlassen.

Die Hürden sind hoch. Nötig ist ein Mac mit Apple-Silicon-Chip, Perplexity empfiehlt mindestens 36 GByte Arbeitsspeicher. Den aktuellen Mac mini mit M6 gibt es aber höchstens mit 32 GByte, ein passendes M5-Pro-Modell mit 48 GByte kostet mindestens 2659 Euro. Zudem braucht man ein Pro-, Max- oder Enterprise-Abo. Reicht die lokale Leistung nicht, lässt sich eines von über 15 Spitzenmodellen in der Cloud zuschalten. Wie gut der Wechsel klappt und ob weitere lokale Modelle folgen, ist offen.

Verlage wollen Metas neue Regeln stoppen lassen

Meta will sich mit neuen Geschäftsbedingungen das Recht sichern, verlinkte Verlagsinhalte automatisch auszulesen und für eigene Produkte zu nutzen. Europäische Verlegerverbände fordern die EU-Kommission auf, das zu verhindern. Meta nutze seine Marktmacht, um den Zugang zu seinen Plattformen an die kostenlose Herausgabe aller digitalen Verlagsinhalte zu knüpfen. Das verstoße gegen den Digital Markets Act.

Die Verlage warnen, abgeflossene Daten ließen sich kaum zurückholen. Nach heftiger Kritik, auch aus den USA, änderte Meta seine Bedingungen am 16. Oktober leicht. Das Training von KI-Modellen wird nicht mehr ausdrücklich genannt. Suche, Empfehlungen und Werbung bleiben aber abgedeckt.

KI-Videos erschüttern das Vertrauen in Bewegtbilder

Die meisten Deutschen sind im Netz schon auf KI-Videos gestoßen, vor allem auf TikTok und Instagram. Das ergab eine Studie der Landesmedienanstalten. Viele hielten solche Clips schon einmal für echt, auch wenn sie sich beim Erkennen für sicher halten.

Die Flut an Deepfakes und bearbeiteten Clips kostet Vertrauen. 81 Prozent der Befragten zweifeln häufiger an der Echtheit von Videos. Rund drei Viertel fürchten Täuschungen, glauben Bewegtbildern weniger als früher und prüfen sie kritischer. Die große Mehrheit will eine Kennzeichnungspflicht für KI-Inhalte und Verbote bestimmter Deepfakes.

(igr)