Intel Arc Pro B60: 8-GPU-„Battlematrix“ zeigt im AI-Test Stärken und Schwächen

Intel will wie Nvidia und AMD in Zukunft auf den eigene Arc-GPUs auch AI-Programme im professionellen Umfeld laufen lassen. Dabei geht es nicht um das AI-Training, sondern um AI-Inference, also das ausführen zuvor trainierter neuronaler Netzwerke. Die „Battlematrix“ für besonders große Modelle wurde jetzt einem Test unterzogen.

Intel Battlematrix mit 4× Arc Pro B60 Dual-GPU

Das „Project Battlematrix“ ist das Flaggschiff dieser Bemühungen. Dahinter verstecken sich vier Arc Pro B60 Dual-GPU-Karten und damit insgesamt 8 GPUs mit jeweils 24 GB VRAM. 192 GB beträgt also die Gesamtspeichergröße, was zwar auch mit AMD- und Nvidia-Lösungen zu erreichen ist, dort aber deutlich mehr kostet. Denn eine einzelne Arc Pro B60 Dual-GPU-Karte kostet aktuell rund 1.200 US-Dollar (wobei sich dies aufgrund der explodierenden Speicherpreise bald ändern könnte), Konkurrenzprodukte von AMD oder Nvidia mit so einer Speicherbestückung kosten schnell deutlich mehr.

Ein erster Test inklusive Teardown

StorageReview hatte die Gelegenheit, sich eine Battlematrix einmal selber anzuschauen – inklusive Teardown und AI-Benchmarks.

Das nackte, sehr lange PCB ohne Kühlsystem zeigt die zwei BMG-G21-GPUs, die einzeln auch auf der Arc B580 (Test) zum Einsatz kommen. Ebenfalls zu sehen ist der problematische 12V-2×6-Stromanschluss, der in diesem Fall bis zu 400 Watt übertragen muss. Interessanterweise unterstützen die professionellen Arc Pro B60 PCIe 5.0, während die Gaming-Varianten es bei PCIe 4.0 belassen.

Bevor es an die Benchmarks geht, muss erwähnt werden, dass sämtliche Tests mit frühen Software- und Treiberversionen durchgeführt wurden. Entsprechend haben sich auch noch Probleme gezeigt, viele Quantisierungsformate wie FP8 liefen zum Beispiel noch nicht. Die AI-Inference-Tests waren entsprechend limitiert. Dass die Hardware schon weiter ist als die Software, hatte Intel bereits zur Vorstellung auf der Computex Ende Mai verlauten lassen.

Speicher ist die Stärke des Systems, nicht die Performance

Die von StorageReview durchgeführten Testreihen liefen hingegen problemlos durch, Berichte über Abstürze oder andere schwerwiegende Probleme gibt es nicht. In Sachen Performance gilt dies dagegen nur bedingt.

Die acht GPUs der Arc Pro B60 wurden dabei nur gegen sich selbst beziehungsweise gegen eine geringere Anzahl an Arc Pro B60 gestellt, ein Vergleich zwischen Konkurrenzprodukten fand nicht statt. Doch auch dabei zeigt sich erstaunlich häufig, dass die höhere Rechenleistung bei den AI-Inference-Tests nur geringe bis gar keine Vorteile mit sich bringt. Im Gegenteil, aufgrund des höheren Kommunikationsaufwands zwischen den acht GPUs und die erhöhte Latenz aufgrund der Kommunikation über den PCIe-Bus laufen die Tests mit weniger GPUs oft schneller durch als mit den vollen acht GPUs.

Damit ist der eigentliche Vorteil der vollbestückten „Battlematrix“ schlicht der 192 GB große Speicher. Denn damit lassen sich neuronale Netzwerke ausführen, die mit weniger GPUs und weniger Speicher schlicht nicht laufen. Das in Verbindung mit dem relativ niedrigen Preis, ist die eigentliche Stärke des Systems. Die Rechenleistung ist hingegen nach aktuellem Stand kein Trumpf.