Connect with us

Entwicklung & Code

W3C: Ein Auftrag ist kein Freibrief für KI-Agenten


Ein neues W3C-Diskussionspapier skizziert, wie Webstandards den Einsatz von KI-Agenten sicherer machen sollen. Im Mittelpunkt stehen Schutz vor Prompt Injection, kontrollierbare Berechtigungen und Barrierefreiheit.

Weiterlesen nach der Anzeige

Anlass ist laut W3C der Wandel vom lesenden zum handelnden Agenten: KI-Systeme rufen nicht mehr nur Informationen ab, sondern bedienen Websites im Auftrag ihrer Nutzer. Dabei können sie auf persönliche Daten zugreifen und Informationen zwischen Websites übertragen. Das W3C-Strategieteam fordert deshalb klare Sicherheitsgrenzen und verlässliche Verfahren, mit denen Nutzer folgenschwere Aktionen freigeben.

Philippe Le Hegaret, beim W3C für die technische Strategie verantwortlich, beschreibt die Vorschläge im Diskussionspapier „W3C and the State of the Web in the AI Era“. Der am 21. Oktober 2026 veröffentlichte Text soll die Debatte beim W3C-Treffen TPAC vorbereiten. Er enthält Empfehlungen des Strategieteams, keine bereits verabschiedeten Standards. Die offizielle Präsentation ist für den 29. Oktober vorgesehen.

Ein zentrales Problem ist Prompt Injection. Agenten verarbeiten Inhalte, denen sie nicht vertrauen dürfen, verfügen zugleich aber über Zugriffsrechte ihres Nutzers. Anders als bei Cross-Site Scripting muss ein Angreifer dafür nicht unbedingt ausführbaren Code einschleusen. Eine Anweisung in gewöhnlichem Seitentext, einem Dokument oder einer Werkzeugantwort kann genügen, um einen Agenten zu einer unerwünschten Aktion zu verleiten. Ob der Angriff gelingt, hängt von dessen Berechtigungen und dem Umgang mit fremden Inhalten ab.

Als Beispiel dient dieses Szenario: Ein Agent recherchiert auf einer öffentlichen Website und hat zugleich Zugriff auf interne Dokumente. Die Website fordert ihn auf, vertrauliche Inhalte an einen externen Dienst zu übermitteln. Die Same-Origin Policy verhindert einen solchen Angriff nicht unbedingt, denn der Agent kann mit seinen eigenen Zugriffsrechten Informationen zwischen Websites übertragen, die selbst nicht auf die Daten der jeweils anderen zugreifen dürften.

Das Strategieteam will deshalb zusammenhängende Bedrohungsmodelle für Agenten, WebMCP und browserinterne KI-Funktionen erarbeiten lassen. Zunächst sollen die Gruppen Architekturen und Vertrauensgrenzen klären. Dabei müssen sie unterschiedliche Einsatzformen berücksichtigen: Wenn ein Entwickler eine KI-API des Browsers nutzt, stellen sich andere Sicherheitsfragen als bei einem Agenten, der mit den Rechten eines Nutzers durchs Web navigiert. Zu den Prüfpunkten gehören auch gefälschte Werkzeuge und Agenten, die ihre eigenen Aktionen genehmigen.

Weiterlesen nach der Anzeige

Bevor ein Agent folgenschwere Aktionen ausführt, soll er die Zustimmung des Nutzers einholen. Nutzer sollen erkennen können, was ein Agent getan hat, Aktionen möglichst rückgängig machen und selbst entscheiden, welcher Agent für sie handelt. Bei Zahlungen nennt das Strategieteam konkrete Anforderungen: Ausgabenlimits, widerrufbare Befugnisse, eindeutige Belege und nachvollziehbare Wege für Reklamationen.

Das Beispiel einer Reisebuchung veranschaulicht die Unterscheidung: Der Auftrag, passende Flüge zu suchen, ist nicht automatisch eine Freigabe, ein kostenpflichtiges Ticket zu kaufen. Eine Bestätigung müsste die konkrete Buchung erkennbar machen. Zugleich warnt das W3C-Diskussionspapier vor Bestätigungsmüdigkeit. Wer jede Kleinigkeit freigeben muss, könnte auch sicherheitsrelevante Rückfragen irgendwann ungeprüft bestätigen.

Die vorgeschlagene Agentic Web Working Group soll deshalb Muster für Zustimmung und die Übergabe an Menschen bearbeiten. Identitäts- und Authentifizierungsgruppen sollen untersuchen, wie Agenten delegierte Befugnisse nachweisen können, ohne selbst Zugangsdaten besitzen zu müssen. Verifiable Credentials und dezentrale Identifikatoren könnten helfen, Agenten zu identifizieren und ihre Bevollmächtigung nachzuweisen. Die zuständigen W3C-Gruppen sollen prüfen, ob die vorhandenen Datenmodelle dafür ausreichen.

Ein weiterer Konflikt betrifft die Semantik von Websites. Agenten nutzen bereits HTML und Informationen zur Barrierefreiheit, um Oberflächen zu verstehen. Das Strategieteam warnt jedoch davor, ARIA – Accessible Rich Internet Applications – auf die Bedürfnisse von Agenten zuzuschneiden und damit die Bedienbarkeit für Menschen zu verschlechtern. Es schlägt ausdrücklich Leitlinien gegen Agentenanweisungen in aria-label und gegen Prompt Injection über ARIA vor.

Für Entwickler bedeutet das: Die zugängliche Beschriftung eines Buttons sollte weiterhin dessen Funktion vermitteln. Dort einen ausführlichen Arbeitsauftrag für einen Agenten unterzubringen, würde Informationen für assistive Technik mit Maschinenanweisungen vermischen. Auch automatisch erzeugte Alternativtexte sollen laut Diskussionspapier weder die Beschreibungen der Autoren noch deren Absicht vollständig ersetzen.

Wo vorhandenes HTML ausreicht und wo zusätzliche Schnittstellen nötig sind, bleibt Gegenstand der Diskussion. Die vorgeschlagene Arbeitsgruppe soll das Verhältnis von HTML, ARIA und WebMCP klären. Für Anforderungen aus den beteiligten Gruppen empfiehlt das Strategieteam zwei gekoppelte Listen: Was braucht der Agent, um zuverlässig zu handeln, und was braucht der Mensch, um sicher zu bleiben und die Kontrolle zu behalten? Bei Konflikten sollen die menschlichen Bedürfnisse Vorrang haben.

Agenten können Daten zwischen Websites, Sitzungen und ihrem eigenen Speicher bewegen. Das erweitert die Datenschutzfragen über einzelne Seitenaufrufe hinaus. Die Privacy Working Group soll deshalb untersuchen, wie sich solche Datenflüsse begrenzen lassen, welche Informationen in Modelle gelangen und welche Kontrolle Nutzer über lokale oder cloudbasierte Inferenz erhalten.

Das Papier schlägt dabei auch einen Inkognitomodus ohne Agentengedächtnis vor. Gemeint ist ein Arbeitsauftrag an die Standardisierung, keine angekündigte Browserfunktion. Der Unterschied zum privaten Browsen ist grundlegend: Ein Browser kann auf lokale Verlaufsdaten verzichten, während ein begleitender Agent Inhalte dennoch in einem dauerhaften Speicher ablegt.

Auch Protokolle von Prompts und Werkzeugaufrufen sollen in die Datenschutzprüfung einfließen. Solche Aufzeichnungen können bei der Fehlersuche helfen, enthalten aber möglicherweise vertrauliche Informationen. Das Strategieteam will klären lassen, welche Daten sie erfassen dürfen und wer sie einsehen kann.

Über die unmittelbaren Nutzerrisiken hinaus warnt das W3C-Papier vor einer stärkeren Zentralisierung. Agenten, die bevorzugt Partner-Websites bedienen, Abhängigkeiten von einzelnen Modellen und herstellerspezifische Werkzeugregister könnten das interoperable Web schwächen. Der vorgeschlagene Wertekatalog lehnt deshalb sowohl Agenten-Lock-in als auch reine KI-Zugangswege ab, die das von Menschen bedienbare Web ersetzen.

Auch Inhalteanbieter sollen kontrollieren können, wie ihre Arbeit verwendet wird. Das Strategieteam sieht bislang kein systematisches Gegenstück zum bisherigen Austausch mit Suchmaschinen: Inhalte crawlen und im Gegenzug Besucher vermitteln. Es will untersuchen lassen, wie bestehende Arbeiten zu maschinenlesbaren Nutzungsvorbehalten und Rechtebeschreibungen unterschiedliche Interessen zusammenbringen können.

Die nächsten Schritte bestehen vor allem darin, diese Anforderungen in konkrete Arbeitsaufträge zu übersetzen. Das Strategieteam empfiehlt unter anderem, die Agentic Web Working Group mit einem ausdrücklichen Auftrag für Sicherheit, Datenschutz, Identität und delegierte Befugnisse einzurichten. Ob und wie daraus Spezifikationen entstehen, sollen die W3C-Gruppen nun diskutieren.

Lesen Sie auch


(fo)



Source link

Entwicklung & Code

AWS Emulator im Detail: Die ganze Cloud auf dem eigenen Rechner?


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Amazon Web Services (AWS) hat einen eigenen AWS Emulator veröffentlicht. Er bildet die AWS-APIs auf dem eigenen Rechner nach, AWS CLI, SDKs und Coding-Agenten schicken ihre Aufrufe an einen lokalen HTTPS-Endpunkt. Mit seinem Stolz darauf, dass der Emulator vollständig von KI-Agenten entwickelt wurde, setzte sich AWS aber direkt in die Nesseln: Die Rezeption fiel kritisch aus – wie bei hundertprozentig KI-generierter Software zurzeit üblich – und dem Vergleich mit etablierten Drittanbieter-Tools wie LocalStack hält der Emulator wohl noch nicht stand.

Weiterlesen nach der Anzeige

Entwickler könnte er dennoch interessieren: AWS-Anwendungen lassen sich ohne Deployment lokal testen, CI/CD-Pipelines brauchen keine AWS-Zugangsdaten mehr und – was AWS besonders unterstreicht – Coding-Agenten können schneller und risikoärmer Ressourcen anlegen und Ergebnisse prüfen. AWS bringt also agentisch entwickelte Software für die Entwicklung mit Agenten. Es fällt keine Servicegebühr an, ein AWS-Konto braucht es nicht und der Quellcode steht unter der CC0-Lizenz auf GitHub.

iX-plore ist die Online-Serie des iX-Magazins für alle, die neue Tools und Technologien entdecken möchten. In kurzen Beiträgen stellen wir vor, was sie können, wofür sie sich eignen und warum sich ein genauerer Blick lohnen könnte.

Der Emulator ist in Rust geschrieben, die Dienste erzeugt AWS aus denselben API-Modellen, aus denen auch die SDKs entstehen. Kommt ein Dienst oder eine API hinzu, tauchen sie im Emulator auf. Alle Dienste, für die ein Modell im öffentlichen Repository AWS API Models liegt, werden auch unterstützt.

Wie genau der Emulator AWS nachbildet, misst AWS mit Fidelity-Tests. Jeder Test ist ein kurzes Python-Programm, das über das AWS-SDK boto3 einen Ablauf durchspielt, etwa ein Objekt zu speichern, zu lesen und wieder zu löschen. Die Abläufe werden dann gegen die echte Cloud geprüft, als Referenz dient die Region US West (Oregon), während globale Dienste in US East (N. Virginia) geprüft werden. Der Emulator besteht einen Test nur, wenn bei jedem Aufruf Statuscode, Antwort, Fehlercode und Fehlermeldung mit der Cloud übereinstimmen, dasselbe gilt für die Ressourcen und Daten, die der Ablauf erzeugt. Die Testsuite umfasst Zehntausende Tests, ist öffentlich und enthält auch die, die noch scheitern. Mit dem Python-Programm fidelity_tests_runner können Nutzer die Tests lokal gegen den Emulator laufen lassen.

Trotz der hohen API-Abdeckung hat die Emulation aber bewusste Grenzen: Für Sicherheitstests eignet sich das Tool laut AWS nicht, da es weder IAM- noch ressourcenbasierte Richtlinien wie die echte Cloud auswertet. Auch Cross-Account- und Cross-Region-Szenarien bildet es nicht ab, sämtliche Aufrufe laufen unter einer festen Dummy-Konto-ID.

Jede Instanz des Emulators bekommt einen eigenen Port, eigene Schlüssel und einen eigenen Zustand im Arbeitsspeicher. Mehrere Agenten oder CI-Jobs teilen sich also keine Buckets, Tabellen oder Queues und arbeiten parallel, ohne sich gegenseitig Ressourcen zu überschreiben. Nutzer des AWS SDK for Rust können den Emulator außerdem im Embedded-Modus betreiben, wobei er direkt ins Test-Binary kompiliert wird. Er läuft dann im selben Prozess und der Test übergibt dem SDK einen HTTP-Client des Emulators statt des Netzwerk-Connectors. Auch hier sind die Instanzen voneinander isoliert, sodass Tests parallel laufen können.

Weiterlesen nach der Anzeige

Coding-Agenten können den Emulator mit dem Skill aws-emulator direkt installieren, starten und verbinden, dafür braucht es allerdings die AWS CLI ab Version 2.35.0. Solche Skills sind im Prinzip Markdown-Anleitungen, die der Agent bei Bedarf lädt. Der Befehl aws agent-toolkit add-skill in der AWS CLI installiert sie für alle Agenten, die es auf dem Rechner findet. Unter Linux gibt es RPM- und Debian-Pakete, unter Windows und macOS einen Docker-Container. Ein fertiges Docker-Image gibt es nicht, das müssen Nutzer aus einem kurzen Dockerfile aus der Dokumentation zusammenbauen. Standardmäßig sendet der Emulator anonymisierte Nutzungsdaten an AWS, was sich jedoch per Start-Flag oder Umgebungsvariable abschalten lässt.

Wer den Emulator selbst kompiliert, braucht Linux auf x86_64 oder aarch64, eine Rust-Toolchain, einen C-Compiler und mindestens 100 GByte freien Speicherplatz für die Build-Artefakte. Jeder emulierte Dienst ist ein eigenes Rust-Paket (Crate), weshalb schon ein Debug-Build sehr groß wird. Das gilt auch für den Embedded-Modus, denn der erste cargo test-Lauf kompiliert sämtliche Service-Crates des Emulators mit. AWS empfiehlt, das Build-Verzeichnis in der CI zu cachen und den Emulator auf einen Release-Commit festzulegen.

Matthew Goldberg, Senior Principal Engineer im Developer-Tools-Team von AWS, setzt mit dem Emulator eine KI-Duftnote: Nicht nur ist die Software vor allem auf das schnelle Testen von agentischer KI zugeschnitten, sondern sie ist laut Amazons Firmenblog auch ausschließlich von autonomen Agenten geschrieben. Das Team hat den Code weder verfasst noch geprüft. Goldberg beschreibt, wie ihn der autonome Bau eines C-Compilers von Agenten dazu inspirierte und der Emulator aus einem simplen Wochenendprojekt hervorging. Ein Team von Agenten pflegt die Testsuite, ein zweites sucht Abweichungen von der echten Cloud, ein drittes setzt die Korrekturen um. Jede Änderung muss zudem vor dem Merge ein automatisiertes Quality Gate passieren, an dem weitere Agenten unter anderem die Sicherheit des Codes kontrollieren.

Die autonome Entwicklung lässt sich in den Repository-Verzeichnissen issues/things-that-now-work und issues/things-that-do-not-work nachvollziehen, in die die Agenten hineinschreiben. Menschliche Hilfe von außen ist dabei nicht vorgesehen: Zwar können Nutzer auf GitHub Fehler melden, Pull-Requests nimmt AWS für das Projekt aber nicht an. Ganz unabhängig von dem Tool an sich ist hier also anschaulich zu sehen, in welche Richtung Softwareentwicklung gerade steuert – und wie die großen Systemhäuser versuchen, Vibe-Coding sinnvoll anzugehen.


(kki)



Source link

Weiterlesen

Entwicklung & Code

Gestohlene Token: Secret-Stealer in Tausenden GitHub-Repositories


Mit gestohlenen Zugriffstoken für GitHub-Konten schleusen unbekannte Angreifer seit Dienstag Schadcode in Repositories ein, der die Secrets aus GitHub Actions und Cloudzugangsdaten abgreift.

Weiterlesen nach der Anzeige

Das Sicherheitsunternehmen Aikido zählt im Rahmen der auf den Namen wfx-loot getauften Kampagne bereits 4837 übernommene Konten, über die die Angreifer 61.764 Repositories attackiert haben. In mehr als 1800 Fällen sollen Workflows den Schadcode bereits ausgeführt haben.

Die Angreifer nutzen anscheinend keine Lücke in GitHub Actions aus, sondern missbrauchen die Schreibrechte gestohlener Token. Woher diese stammen, ist nur teilweise geklärt. Laut Fly.io wurden Token seiner GitHub-App missbraucht, die aus öffentlich erreichbaren .git/config-Dateien stammten; der Hoster widerruft sie. Eine Stellungnahme von GitHub liegt noch nicht vor.

Das Sicherheitsunternehmen SafeDep hat Schadcode-Commits bereits in über 8000 öffentlichen Repositories gefunden. Noch am Donnerstagmittag listete die GitHub-Suche mehr als 66.000 der typischen Test-Pull-Requests, rund 4300 davon vom selben Tag.

Ähnlich wie zuletzt beim Wurm testmetest erreichen Angreifer laut Aikido über Mitwirkenden- und Organisationsrechte mit über 10.000 Test-Pull-Requests auch Repositories, die den übernommenen Konten nicht selbst gehören. Damit können auch Organisationen betroffen sein, deren eigene Zugangsdaten gar nicht gestohlen wurden. Dürfen die Workflows eines Repositorys auf AWS oder Azure zugreifen, nutzt der Schadcode die erbeuteten Zugänge, um Hintertüren in den Cloudkonten einzurichten.

Die Angreifer lassen ihren Opfern kaum Zeit zu reagieren. Sie öffnen zunächst einen Pull Request, um die Schreibrechte zu bestätigen. Dann folgt der eigentliche Schadcode: ein Shellskript, das die Angreifer in einen bestehenden Workflow einfügen, als neuen Workflow ablegen oder in npm-Projekten bei jeder Installation starten lassen.

Meist schon innerhalb einer Minute machen die Angreifer die Änderungen rückgängig und löschen den Workflow-Lauf samt Logs. Oft weist nur eine fehlende Laufnummer auf den Angriff hin. Eine Branch-Protection für vorgeschriebene Status-Checks kann das Skript mit gefälschten Erfolgsmeldungen aushebeln. Aikido zufolge setzt das Skript solche gefälschten Status-Checks tatsächlich ab; in den von SafeDep untersuchten Proben war diese Funktion dagegen nicht aktiviert.


Mit einem gestohlenen Token testen die Angreifer zuerst ihre Schreibrechte, bevor sie den Stealer auf einem von drei Wegen einschleusen und die Änderung wieder zurücknehmen.

Mit einem gestohlenen Token testen die Angreifer zuerst ihre Schreibrechte, bevor sie den Stealer auf einem von drei Wegen einschleusen und die Änderung wieder zurücknehmen.

Mit einem gestohlenen Token testen die Angreifer zuerst ihre Schreibrechte, bevor sie den Stealer auf einem von drei Wegen einschleusen und die Änderung wieder zurücknehmen.

(Bild: SafeDep)

Neben Token für KI-Dienste wie OpenAI, Anthropic oder Cursor fischt das eingeschleuste Skript insbesondere die Secrets aus GitHub Actions ab, außerdem Zugangsdaten für Clouddienste, Container-Umgebungen, Paketregister und SSH.

Weiterlesen nach der Anzeige

Haben die Bedrohungsakteure erst einmal Zugang zu Sitzungen bei AWS, Google Cloud und Azure, geht der Angriff weiter: Bei AWS öffnet das Skript eine IAM-Rolle für jedes AWS-Konto, in Azure trägt es zusätzliche Anmeldewege für Workflows aus dem kompromittierten Repository ein. Erbeutete Daten schickte das Skript laut Aikido in dieser Kampagne per HTTP an Server der Angreifer. SafeDep fand in untersuchten Payloads zudem eine Exfiltration über Telegram.

Entwicklerinnen und Entwickler, die seit Dienstag einen Branch wfx-docs, den Pull-Request docs: dependency audit notes oder Commits wie ci: refresh build cache, chore: add ci helper und chore: add dependency audit workflow in ihren Repositories finden, sollten das zugehörige Konto als kompromittiert ansehen, auch wenn noch kein Schadcode folgte. Verdächtig sind laut den Sicherheitsforschern von Aikido zudem kurzlebige Branches, die mit chore/ beginnen und auf acht Zufallszeichen enden. Betroffene sollten Token, OAuth-Freigaben und SSH-Schlüssel ihres Kontos widerrufen.

Wurde bereits Schadcode ausgeführt, müssen Betroffene neben dem Austausch der Secrets auch die Hintertüren eigens entfernen, etwa AWS-Rollen, die jedem Konto vertrauen, oder in Azure Federated Credentials mit dem Präfix wfx-ci-. Wer npm install auf einem betroffenen Commit ausgeführt hat, muss auch den eigenen Rechner als kompromittiert betrachten.

Der Schadcode gelangte auch in Paketdistributionen. Aikido nennt das Packagist-Paket digitalelvis/neuronai-studio 3.14.3 sowie die Go-Modul-Versionen github.com/onuragtas/docker-env v1.0.278 und v1.0.280. SafeDep führt darüber hinaus github.com/onuragtas/redock, eine weitere docker-env-Version und eine über den Go-Modul-Proxy verfügbare Pseudo-Version von github.com/vkuznet/gocurl auf. Bei den Go-Modulen liegt der Schadcode in einer GitHub-Actions-Workflow-Datei; ein gewöhnlicher Go-Build führt diese nicht aus. Wer ein solches Modul lediglich als Go-Abhängigkeit einbindet, ist dadurch wahrscheinlich nicht betroffen.


(mro)



Source link

Weiterlesen

Entwicklung & Code

htop für die Grafikkarte: GPU Taskman leuchtet den Grafikspeicher aus


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Mit GPU Taskman hat Microsoft-Vizepräsident und Softwareentwickler Scott Hanselman einen quelloffenen Task-Manager für Grafikkarten veröffentlicht. Das auf GitHub entwickelte Programm läuft unter Windows, Linux einschließlich WSL und macOS auf Apple Silicon. Seine Terminaloberfläche verbindet eine Prozessliste mit Gerätedaten zu Speicherbelegung, Auslastung, Temperatur, Leistungsaufnahme und Taktraten. Zu einzelnen Prozessen liefert es außerdem Hinweise auf erkannte Runtimes und Modelle. Welche Messwerte verfügbar sind, hängt von Betriebssystem, GPU, Treiber und Zugriffsrechten ab.

Weiterlesen nach der Anzeige

GPU Taskman liest dafür nicht beliebige Inhalte des Grafikspeichers aus, sondern kombiniert mehrere Informationsquellen. Unter Windows stammen die prozessbezogenen Speicher- und Aktivitätswerte aus den Performance-Countern des Betriebssystems, Nvidias NVML und AMDs ADL ergänzen Gerätedaten. Geladene Bibliotheken geben Hinweise auf die Runtime. Per Memory-Mapping eingebundene Dateien und Kommandozeilenargumente helfen bei der Modellerkennung. Unterstützte lokale Server-APIs liefern zusätzliche Angaben.

Bei Modellen im GGUF-Format kann das Programm unter anderem Modellname, Parameterzahl und Quantisierung anzeigen sowie den Speicherbedarf von Gewichten und KV-Cache abschätzen. Der KV-Cache hält bereits berechnete Key- und Value-Vektoren der Attention-Schichten vor. Ein größeres Kontextfenster kann deshalb mehr Speicher erfordern, obwohl die Modellgewichte unverändert bleiben. GPU Taskman stellt solche Schätzungen dem gemessenen Speicherverbrauch des Prozesses gegenüber.

Dabei kennzeichnet das Tool die Herkunft seiner Angaben: Messungen, Schlussfolgerungen, Schätzungen und Angaben einer Laufzeitumgebung sind nicht gleichzusetzen. Eine Modelldatei auf der Festplatte beweist beispielsweise noch nicht, dass ein Prozess sie gerade verwendet. Nicht verfügbare Zähler erscheinen als unbekannt, nicht als null Speicherverbrauch. In Summen gehen nur gemessene Speicherwerte ein.

Laut den Release Notes ergänzte Version 0.3.5 die Unterstützung für Intel-GPUs unter Linux mit den Treibern i915 und xe. Hinzu kamen eine Übersicht für CPU- und RAM-Auslastung sowie entsprechende Spalten je Prozess. Der Befehl gputaskman record zeichnet in regelmäßigen Abständen JSON-Snapshots auf. Damit lässt sich zum Beispiel verfolgen, wie sich die Speicherbelegung während eines Testlaufs verändert.

Version 0.4.0 ergänzt unter Linux weitere Intel-Messwerte: die Auslastung der GPU und ihrer Video-Engine sowie die Leistungsaufnahme integrierter Intel-GPUs. Für diese zusätzlichen Messwerte benötigt das Programm unter Linux Root-Rechte. Ohne sie zeigt es die betreffenden Werte als nicht verfügbar an und nennt den Grund. Außerdem bringt das jüngste Update ein Linux-Backend für Huaweis Ascend-NPUs vom Typ 310P. Über npu-smi erfasst es jetzt Geräte- und Prozessspeicher sowie Aktivitätsdaten der KI-Beschleuniger.

GPU Taskman ist in Python geschrieben und steht unter der MIT-Lizenz. Für die Installation als Python-Paket setzt es Python 3.11 oder neuer voraus. Mit uv tool install gputaskman oder pipx install gputaskman lässt es sich in einer isolierten Umgebung installieren. Anschließend startet es mit gputaskman oder gtm.

Weiterlesen nach der Anzeige

Für Windows bietet das Projekt außerdem portable ZIP-Pakete für x64 und ARM64, die keine separate Python-Installation benötigen. Beim Entpacken muss das vollständige Paket einschließlich des Verzeichnisses _internal erhalten bleiben. Die Entwickler bezeichnen das Programm ausdrücklich als frühe, experimentelle Software – insbesondere die Modellzuordnungen und berechneten Speicheraufteilungen sind keine direkten Messungen.


(fo)



Source link

Weiterlesen

Beliebt