Künstliche Intelligenz
DGX Spark: Nvidias Desktop-KI-Computer im Test
Um es direkt vorwegzunehmen: Der DGX Spark ist kein No-Brainer. Als Nvidia das Gerät als „Supercomputer auf dem Schreibtisch“ vorstellte, suggerierte das eine kompakte, universell einsetzbare KI-Workstation. Doch wer hohe Inferenzleistung oder ein System für das Training großer Sprachmodelle sucht, wird mit dem Spark nicht glücklich. Die ersten praxisnahen Messungen zeichnen ein klares Bild: Für Anwender, die primär GPU-Leistung benötigen, führt an klassischen Workstations mit dedizierten Karten wie der RTX Pro 6000 Blackwell mit 96 GByte kein Weg vorbei.
Der Spark verfolgt ein neues Konzept und scheitert gerade deshalb in vielen traditionellen Disziplinen. Die entscheidende Limitierung liegt nicht in der Rechenleistung des GB10-GPU-Chips, sondern in der geringen Speicherbandbreite des verbauten LPDDR5X-Speichers. Das macht ihn in klassischen Inferenz- oder Trainings-Workloads unweigerlich zum Memory-bound-System – die Speichergeschwindigkeit wird hier zum Engpass.
- Der DGX Spark ist keine universelle KI-Workstation, sondern besetzt eine Nische für energieeffiziente 24/7-Batchprozesse und Aufgaben mit großen Eingaben und kleinen Ausgaben wie RAG-Pipelines, Dokumentenanalyse und Klassifikationsaufgaben.
- Die Hauptlimitierung liegt in der geringen Speicherbandbreite (273 GByte/s LPDDR5X), nicht in der Rechenleistung des GB10-Chips.
- Mit 128 GByte Unified Memory kann der DGX Spark Modelle vollständig im Speicher halten, die bisher zu groß für Desktop-GPUs sind, zum Beispiel GPT-OSS-120B, Falcon 180B und diverse 70B-Modelle.
- Der eigentliche Mehrwert liegt im ausgereiften CUDA-Ökosystem mit nahtloser Übertragbarkeit auf größere DGX-Systeme.
Danny Gerst bringt 30 Jahre Erfahrung in der Softwareentwicklung mit. Als Strategieberater und Visionär für den Mittelstand ist er auf das Automatisieren von Prozessen mit und ohne KI spezialisiert.
Statt eine universelle KI-Workstation zu sein, besetzt der DGX Spark eine eng umrissene, technisch interessante Nische. Das Gerät eignet sich für energieeffiziente 24/7-Batchprozesse, reproduzierbare CUDA-Umgebungen vor Ort oder Aufgaben mit großen Eingaben und kleinen Ausgaben wie in RAG-Pipelines, der Dokumentenanalyse oder bei Klassifikationsaufgaben.
Das war die Leseprobe unseres heise-Plus-Artikels „DGX Spark: Nvidias Desktop-KI-Computer im Test“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.