Datenschutz & Sicherheit
Nvidia will KI-Agenten per Hardware überwachen
Nvidia will Unternehmen mehr Kontrolle über autonome KI-Agenten geben und dafür Sicherheitsmechanismen direkt in die Hardware seiner KI-Systeme integrieren. Auf der GTC in Berlin präsentierte der Konzern seine Open Agent Safety Platform rund um die Laufzeitumgebung OpenShell mit neuen Leistungsversprechen und zusätzlichen Industriepartnern.
Weiterlesen nach der Anzeige
Spezielle BlueField-4-DPUs sollen die Aktivitäten von KI-Agenten unabhängig von den verwendeten Sprachmodellen überwachen und unerlaubte Aktionen innerhalb von Millisekunden unterbinden. Gleichzeitig kündigt Nvidia weitere offene KI-Modelle und Software an, mit der Agenten auf Unternehmensdaten zugreifen und selbstständig Vorhersagen treffen.
Fußfesseln für Agenten
Mit OpenShell hatte Nvidia bereits eine quelloffene Laufzeitumgebung vorgestellt, die KI-Agenten in abgeschotteten Umgebungen ausführt. Sie soll verhindern, dass ein Agent beliebig auf Dateien, Netzwerkdienste oder Programme zugreift. Solche Sicherheitsgrenzen sind nötig, weil autonome Agenten nicht nur Texte erzeugen, sondern eigenständig Werkzeuge aufrufen und Änderungen an IT-Systemen vornehmen können.
Die Open Agent Safety Platform erweitert dieses Konzept um hardwaregestützte Kontrollen. Auf der GTC hat Nvidia dazu eine Referenzarchitektur für OpenShell vorgestellt. Nvidia sieht dafür eine Arbeitsteilung vor: Vera-Rubin-Systeme berechnen die KI-Modelle, Vera-CPUs betreiben die Agenten und ihre Werkzeuge. BlueField-4-DPUs übernehmen mit der Sicherheitssoftware Sentry die unabhängige Überwachung und Durchsetzung der Zugriffsregeln.
Nvidia verspricht, dass Sentry Agenten innerhalb von Millisekunden isolieren und stoppen kann, wenn sie vorgegebene Sicherheitsgrenzen überschreiten. Da die Kontrollen außerhalb der eigentlichen Sandbox laufen, sollen die Agenten sie weder verändern noch umgehen können. Die OpenShell-Software ist quelloffen und unterstützt auch Agenten-Frameworks anderer Anbieter, darunter Claude Code von Anthropic und Codex von OpenAI.
Sicherheitstrakt für die KI
Nvidia ergänzt damit die Sicherheitsmechanismen der KI-Modelle um Kontrollen in der Infrastruktur. Bisher versuchen die Anbieter vor allem, unerwünschte Antworten durch Alignment zu verhindern. Dazu werden die Modelle nachträglich so trainiert, dass sie bestimmte Anfragen verweigern. Diese Beschränkungen lassen sich bei frei verfügbaren Modellen teilweise durch sogenannte Abliteration wieder entfernen, bei der gezielt interne Repräsentationen verändert werden.
Weiterlesen nach der Anzeige
OpenShell verfolgt einen anderen Ansatz. Statt die Antworten des Modells zu beschränken, kontrolliert die Laufzeitumgebung, auf welche Dateien, Programme und Netzwerkdienste ein Agent zugreifen darf. Administratoren können darüber festlegen, welche Modellserver und Inferenz-Endpunkte ein Agent überhaupt erreichen kann. Das System kann somit unbefugte Zugriffe unterbinden, aber nicht kontrollieren, was ein KI-Modell bei befugten Zugriffen alles anstellt: ob es ungewollt Daten manipuliert, Backdoors einbaut oder anderweitig die Sicherheit kompromittiert.

Von Siemens bis Palantir: Laut Nvidia arbeiten bereits über 100 Organisationen mit Technologien der Open Agent Safety Platform. „Ich kann sie gar nicht alle aufzählen, aber ich liebe sie alle“, erklärte Huang.
(Bild: heise)
Mit OpenShell lassen sich bestimmte Modelle vom Betrieb ausschließen, ohne ihre Gewichte oder ihr Alignment zu verändern. Entscheidend ist dann nicht mehr allein, wer die KI-Modelle entwickelt und ihre inhaltlichen Grenzen festlegt, sondern auch, wer ihre Laufzeitumgebung und deren Zugriffsregeln kontrolliert.
Auswertung von Unternehmensdaten
Mit der neuen Agent Knowledge Foundation will Nvidia die Agenten enger mit den Informationsbeständen ihrer Unternehmen verbinden. Die Software soll sowohl strukturierte Daten aus Datenbanken als auch unstrukturierte Informationen aus Dokumenten erschließen, ohne dass die Unternehmen dafür ihre Datenbestände in Nvidias Cloud übertragen müssen.
Eine neue Auto-Ontology-Bibliothek soll Beziehungen zwischen Geschäftsdaten erkennen und etwa Kunden, Produkte oder Bestellungen miteinander verknüpfen. Dafür kombiniert Nvidia bestehende CUDA-X-Bibliotheken mit seinen Nemotron-Retriever-Modellen und der neuen Modellfamilie Kumo. Sie basiert auf der Technik des Start-ups Kumo AI, das Nvidia laut Medienberichten im Juni übernommen hat.

Man beachte die grüne Kurve: Schon heute sieht sich Nvidia nicht nur als weltweit größter Lieferant von KI-Chips und Rechenzentren, sondern auch von Open-Weight-Modellen. Neben Nemotron, für das auch Quell- und Trainingsdaten verfügbar sind, kamen weitere Familien wie Kumo hinzu.
(Bild: heise)
Kumo ist auf Vorhersagen aus strukturierten Daten spezialisiert. Nvidia bietet dafür mehrere vortrainierte Modelle an, darunter Kumo Tabular, Relational, Time Series, Forecast und Anomaly. Sie sollen etwa Umsatzentwicklungen prognostizieren, Anomalien erkennen oder betriebliche Risiken bewerten. Bisher erfordern solche Anwendungen häufig speziell entwickelte Machine-Learning-Verfahren für einzelne Datensätze. Nvidia will diesen Aufwand durch vortrainierte Modelle für unterschiedliche Datentypen verringern.
Zu den Partnern gehören Databricks und Snowflake. Auch Palantir arbeitet mit Nvidia zusammen: Dessen Software wertet innerhalb von Nvidias eigener Lieferkettenorganisation Geschäftsdaten aus und bereitet Entscheidungen vor,
Alles aus einer Hand
Daneben erweitert Nvidia sein Angebot frei verfügbarer KI-Modelle. Nemotron 3.5 Super VL verarbeitet Text- und Bildinformationen. Ebenfalls schon verfügbar ist Nemotron 3.5 Bolt 74B-A9B, die kompakte Variante Bolt E4B ist für den 23. Oktober angekündigt. Hinzu kommen neue Retriever-Modelle für die Suche in Unternehmensdokumenten. Mit Cosmos, Alpamayo und BioNeMo stellt Nvidia zudem Spezialmodelle für Robotik, autonomes Fahren und die Proteinforschung bereit.
Der Konzern betont, dass Unternehmen die Modelle mit eigenen Daten anpassen und auf selbst kontrollierter Infrastruktur einsetzen können. Zumindest Kumo Tabular wird als Open Weight angeboten. Damit können Entwickler die veröffentlichten Modellgewichte verwenden und gegebenenfalls verändern. Bei Nemotron stellt Nvidia teilweise zusätzlich Datensätze und Trainingsrezepte bereit.

Eine Welt ist nicht genug: Nvidia will mit seiner KI am Ende einen digitalen Zwilling des gesamten Globus entwickeln.
(Bild: heise)
Nvidia bietet damit einerseits mehr Freiheiten beim Einsatz und bei der Anpassung von KI-Modellen, etabliert andererseits aber seine eigene Plattform für deren Betrieb, Datenzugriff und Absicherung.
Mit der Verbindung von Unternehmensdaten, KI-Modellen und Agentenlaufzeit dringt Nvidia zugleich tiefer in die Geschäftsprozesse seiner Kunden vor. Die Daten können zwar im Unternehmen verbleiben, doch die Werkzeuge für Hard- und Software liefert Nvidia.
Wohin die Reise gehen soll, zeigte Jensen Huang am Ende seiner Keynote im Berliner Tempodrom: Nvidia wolle mit seinen Partnern digitale Zwillinge aller erdenklichen Produktionsprozesse schaffen. Bald werde jedes Unternehmen ein KI-Unternehmen sein, am Ende stehe ein digitaler Zwilling der gesamten Erde. Während Elon Musk also für die Flucht zum Mars rüstet, arbeitet Huang schon an einer digitalen Kopie unseres Planeten. Falls die neue KI-Industrialisierung das Klima endgültig ruiniert, wäre wenigstens ein Backup vorhanden.
(hag)
Datenschutz & Sicherheit
KW 46: Die Woche, in der wir Richtung Geheimpolizei gehen
Liebe Leser*innen,
Deutschland ist auf dem Weg, eine Art Geheimpolizei zu schaffen. Und gemessen daran, was die schwarz-rote Koalition am gestrigen Freitag erfolgreich durch den Bundestag gebracht hat, sind die Reaktionen bisher erstaunlich zurückhaltend. Kaum jemand protestiert dagegen, dabei ist diese Reform aus dem Hause Dobrindt (CSU) wirklich ein Umbruch.
Agent*innen des Verfassungsschutzes sollen etwa das Recht bekommen, heimlich Wohnungen von Bürger*innen betreten zu dürfen. Sie sollen sogar Datenträger heimlich zerstören oder manipulieren dürfen, Informationen löschen.
Wer aus welchen Gründen auch immer auf dem Radar des Verfassungsschutzes landet, wird womöglich nie erfahren, wer in der Wohnung war und warum. Denn anders als die Polizei, die bisher erst nach richterlicher Anordnung eine Wohnung durchsuchen und dabei viele Regeln befolgen muss, müssen „echte Geheimdienste“, wie Dobrindt sie jetzt nennt, kaum Rechenschaft ablegen.
Das ist eine ganz schön harte Gangart für einen Rechtsstaat. Besonders für einen Rechtsstaat wie Deutschland, wo die Aufgaben von Geheimdiensten und Polizei ganz bewusst getrennt wurden, als Lehre aus dem Nationalsozialismus und der Brutalität, mit der die Geheime Staatspolizei damals gegen Jüd*innen und politisch Andersdenkende vorging. Das Trennungsgebot war ein wichtiger Pfeiler der Vorsicht, um den Sicherheitsapparat einzuhegen und Menschen vor Übergriffen des Staates zu schützen.
Das heimliche Betreten von Wohnungen ist nur eine von vielen problematischen neuen Befugnissen. Meine Kollegin Anna Biselli hat sie nochmal hier aufgezählt. Die Linken-Abgeordnete Clara Bünger hielt gestern im Bundestag eine flammende Gegenrede. Flankiert wurde sie von den Warnrufen vieler Menschenrechtsorganisationen. Konstantin von Notz von den oppositionellen Grünen lobte hingegen die Arbeit der Koalition: „Heute ist ein guter Tag für die Sicherheit der Bundesrepublik Deutschland“.
Öl ins Feuer
Die Bundesregierung gießt mit dieser Reform Öl ins Feuer: Sie rüstet den Überwachungsstaat auf und beschneidet Grundrechte. Das ist besonders gefährlich in einer Zeit, in der Rechtsextreme in Richtung Regierung drängen. Denn der Schutz demokratischer Werte und Errungenschaften beginnt schon, bevor die Rechtsradikalen an den Hebeln der Macht sitzen.
Auch deswegen haben wir eng und detailliert über dieses Gesetz berichtet. Wie so oft haben wir es nicht verhindern können. Doch wir wollen wenigstens, dass die kritischen Stimmen so laut wie möglich sind und dass das historische Ausmaß klar wird, in dem diese Reform unsere Demokratie verändert. Es ist wahrlich eine „Jahrhundertreform“, wie Alexander Dobrindt sagt – nur nicht im guten Sinne.
Wir sagen nicht nur laut, was schief läuft und gefährlich für unsere Verfassung ist. Wir denken Sicherheit auch anders und neu. Als echte Sicherheit, die schon bei unseren Lebensgrundlagen anfängt, bei Bildung, sozialer Sicherung oder Klimaschutz.
Damit Grund- und Freiheitsrechte eine hörbare Stimme haben, suchen wir derzeit Unterstützung. Bis Sonntag läuft noch unsere Suche nach Brandschutzhelfer*innen: Menschen, die uns mit einem monatlichen Betrag unterstützen.
Für uns macht das einen großen Unterschied, denn regelmäßige Unterstützung wirkt nachhaltiger als eine Einzelspende.Wir können damit Recherchen langfristig anlegen und zugleich in die Tiefe gehen. Wir müssen seltener um Unterstützung bitten und können mehr Energie in die redaktionelle Arbeit stecken.
Wenn du unsere Arbeit mit einer Dauerspende unterstützt, können wir dranbleiben – an der Geheimdienstreform, an dieser Bundesregierung und an allen Versuchen, die unsere Verfassung gefährden. Wir wühlen uns durch die Bleiwüsten von Gesetzen, um klar und deutlich zu sagen, was passiert.
Das geht nur mit Deiner Hilfe.
Chris
Datenschutz & Sicherheit
Amazon Ring rüstet auf: Endlich autonome Drohnen für die Heimüberwachung!
Es gibt solche Meldungen, wo man einfach nur noch den Kopf schütteln kann. Also einerseits darüber, wie man als Journalist eine Drohne zur Heimüberwachung so genügsam heruntererzählen kann, als habe irgendwer gerade ein neues Druckermodell oder eine elektrische Zahnbürste herausgebracht.
Andererseits über das Produkt selbst: Wir sind jetzt also bei autonomen Überwachungsdrohnen für den Heimgebrauch angekommen. Fliegende Kameras, die mit der notorischen Amazon-Videoüberwachung gekoppelt das Eigenheim absichern sollen.
Zunächst soll die Drohne nur in den USA verkauft werden. Bei Heise heißt es dazu nüchtern:
Sie harrt in ihrer Ladestation aus und startet ihre Kontrollflüge anhand zuvor festgelegter Routen und Zeitpläne. Zudem kann die Drohne in ein bestehendes Ring-Ökosystem eingebunden werden. Dann führt die Ring Drone automatisch einen Kontrollflug in Innenbereichen zu festgelegten Punkten durch, wenn ein Alarm von einer Ring-Kamera, einem Sensor oder einem Alarmsystem ausgelöst wird. Dort erfasst die Drohne dann die Umgebung durch eine 360-Grad-Flugbewegung und sendet die Bilder an Smartphones von Nutzerinnen und Nutzern.
Schöne neue Welt.
Wie die Polizei mit vernetzten privaten Kameras amerikanische Kleinstädte überwacht
Eigentlich ist Sarkasmus fehl am Platze. Denn Amazon Ring rüstet seit Jahren private Haushalte mit Überwachungs-Gagdets aller Art auf – und erweitert dadurch die Überwachungssphäre des Staates massiv.
Behörden bekommen zum Nulltarif eine Überwachung von Wohnungen, Vorgärten und Straßen aufgebaut.
Sie können die Aufnahmen per Knopfdruck beim Bürger anfragen oder sie von Amazon bekommen, manchmal ohne richterlichen Beschluss und machmal auch mit. Schon vor fünf Jahren arbeiteten 2.000 US-Behörden mit Amazon bei dieser Form der Überwachung zusammen.
Nie war der Ausbau der Videoüberwachung so billig. Die Bürger:innen protestieren nicht dagegen. Sie schrauben die Kameras selbst an die Wand. Sie zahlen sie sogar mit Freude.
Win Win Win für den Überwachungsstaat – und für Amazon.
Datenschutz & Sicherheit
Operation Endgame: Weltweiter Schlag gegen Cybercrime
In einer international von Europol koordinierten Aktion aus dem Umfeld der „Operation Endgame“ sind Strafverfolger gegen 235 Server und 257 Domains aus dem Malware-Umfeld von Gootloader, CastleRAT und StealC vorgegangen. Die Malware-Verteilungsnetzwerke seien dadurch empfindlich gestört, teilt Europol zur jüngsten Runde der Operation mit.
Weiterlesen nach der Anzeige
Europol erklärt in der Mitteilung, dass sie mit „Operation Endgame“ insbesondere „Cybercrime-as-a-Service“-Geschäftsmodelle im Visier haben. Die dabei eingesetzten Tools ermöglichten weitere Straftaten wie Ransomware-Angriffe und Datendiebstahl. Die Strafverfolger haben zudem mit Unternehmen aus der Wirtschaft zusammengearbeitet. Sie sind gegen drei bösartige Toolkits vorgegangen: Bei Gootloader handelt es sich um einen Dropper/Loader, der unbefugten Zugriff auf Computer ermöglicht. Er kommt üblicherweise in Form gefälschter juristischer Dokumente auf kompromittierten Webseiten – oftmals geknackte WordPress-Seiten – auf die Rechner der Opfer. Die Täter setzen oft auf Erpressung durch Installation von Ransomware. Allein zu Gootloader haben die Ermittler 14 Server und 218 Domains vom Netz genommen, 681 infizierte Webseiten wurden bereinigt.
Der Remote-Access-Trojan (RAT) CastleRAT ist demnach seit dem Jahr 2025 bekannt. Er ermöglicht den Missbrauch infizierter Computer aus der Ferne. CastleRAT liefere eine moderne technische Architektur, erörtern die Ermittler. Er lasse sich flexibel verteilen und nutze Mechanismen, die die Erkennung erschweren. Auch mit CastleRAT haben die Angreifer zahlreiche Daten verschlüsselt und ganze IT-Systeme lahmgelegt, um die Betroffenen um Lösegeld zu erpressen. 120 der Server betrafen das RAT, dazu gehören zudem 39 der beschlagnahmten Domains. Die Daten von Opfern wurden zudem weitergegeben, um sie zu warnen. Außerdem waren 102 der Server für den Infostealer StealC zuständig. Der wurde über zahlreiche Angriffsvektoren verteilt und dient dazu, sensible Informationen wie Zugangsdaten und Passwörter, digitale Identitäten und mehr von infizierten Computern auszuleiten. Die Täter missbrauchen die Daten dann etwa für Handel und Betrügereien.
Millionen Datensätze
Mehr als 6 Millionen Zugangsdaten von Opfern haben die Ermittler in der kriminellen Infrastruktur ausfindig gemacht. Die Angreifer hätten die Daten verkauft, sodass sie später auch für Cyberangriffe etwa mit Ransomware missbraucht werden können. Die Daten der Opfer haben die Ermittler etwa mit dem Have-I-Been-Pwned-Projekt, DIVD, CheckjeHack, NoMoreLeaks, Sekoia, der Shadowserver Foundation und dem NL-NCSC geteilt, damit diese die Opfer über den Diebstahl durch die CastleRAT-Malware informieren können. Europol rät WordPress-Nutzerinnen und -Nutzern, ihre Zugangsdaten zu erneuern und Mehr-Faktor-Authentifizierung einzusetzen – außerdem sollen sie Schwachstellen in ihren Installationen patchen.
An der Aktion waren zahlreiche internationale Strafverfolgungsbehörden aus Europa, Kanada und den USA beteiligt. Aus Deutschland wirkte das Bundeskriminalamt mit. Beim Infostealer StealC knüpft die jetzige Aktion an die Juni-Runde an, in der die Ermittler auch gegen die Malware „SocGholish“ vorgegangen waren.
(dmk)
-
Apps & Mobile Entwicklungvor 2 Monatentado°: Smartes Wand-Thermostat ersetzt Batterien durch USB‑C‑Akku
-
Apps & Mobile Entwicklungvor 2 MonatenAqara Spatial Multi-Sensor FP400: Matter-Sensor erkennt bis zu 10 Personen mit mmWave‑Radar
-
Apps & Mobile Entwicklungvor 2 MonatenArm CSS for Mobile 2: C2-Ultra macht die CPU zum Orchestrator für KI‑Agenten
-
Künstliche Intelligenzvor 2 MonatenGesperrte Straße von Hormus: Laut Prognose werden CO₂-Emissionen 2026 sinken
-
Künstliche Intelligenzvor 1 MonatVerbrenner-Aus: Merz und Macron wollen CO₂-Ziel für 2035 weiter lockern
-
Künstliche Intelligenzvor 2 Monaten
Plug-in-Hybride emittieren sechsmal mehr CO₂ im Alltag als offiziell angegeben
-
Apps & Mobile Entwicklungvor 3 MonatenDeutsche Lüfter-Ikone: ebm‑papst geht für 5,1 Milliarden Euro in die USA
-
Künstliche Intelligenzvor 2 MonatenDänischer CO₂-Speicher „Greesand“ geht im Meeresgrund in Regelbetrieb
