Neue Spezifikationen: Nvidia Rubin ist bei HBM4 und NVLink jetzt langsamer

Während Nvidia immer schnellere HBM4-Chips gefordert hatte, geht es bei den neuen Spezifikationen für Nvidia Rubin in die andere Richtung. Nvidia hat die Angaben zum Durchsatz nämlich reduziert, das gilt auch für den NVLink.

Nvidia bremst HBM4-Spezifikationen von Rubin ein

Aufmerksame Augen haben die bisher nicht öffentlich verkündeten Änderungen in den Datenblättern von Nvidia bemerkt. Dort stand zum Beispiel beim Nvidia Rubin Superchip mit zwei GPUs, dass der HBM4-Speicher einen kombinierten Durchsatz von 44 TB/s liefert. In dem neuen Dokument (PDF) ist aber nur noch von 38,5 TB/s die Rede. Das spricht dafür, dass nun nicht mehr die gewünschten HBM4-Chips mit hohen 11,7 Gbit/s gesetzt sind, sondern rechnerisch welche mit lediglich 9,6 Gbit/s. Im gleichen Maße wurden die Angaben für das NVL72-Rack mit 72 GPUs angepasst, das demnach nur noch 1.400 TB/s statt 1.580 TB/s erreicht.

Eine zunächst naheliegende Vermutung ist, dass die Hersteller nicht genügend Speicherchips liefern können, die die hohen Transferraten auch schaffen. Genau wie bei CPUs ist die Ausbeute der schnellsten Chips eben geringer. Eine weitere Theorie geht in Richtung der Temperaturen: Höhere Taktraten bedeuten auch eine höhere Wärmeentwicklung und diese wird bei HBM mit übereinandergestapelten DRAM-Chips zu einem immer größeren Problem, das die Hersteller angehen müssen.

Nvidia wollte zwar immer höhere HBM-Geschwindigkeiten, musste die Vorgaben aber letztlich wegen thermischen Problemen wieder nach unten korrigieren.

Auch der NVLink wird langsamer

Beim neuen Datenblatt fiel aber auch auf, dass parallel die Angaben zum Durchsatz von Nvidias Hochgeschwindigkeits-Bus NVLink verändert wurden. Die Schnittstelle verbindet die Rubin-GPUs mit den Vera-CPUs. Ursprünglich wurden pro GPU 3,6 TB/s (bidirektional) genannt, jetzt sind es aber nur noch 3 TB/s.

Hier wird gemutmaßt, dass es zu Problemen bei der Signalintegrität gekommen ist und daher die Taktrate von 56 GHz auf 47 GHz abgesenkt wurde.

Muss auch AMD nach unten korrigieren?

In puncto Speichermenge und -durchsatz hat AMD derzeit die Nase vorn vor Nvidia Rubin. Die KI-Beschleuniger der Serie Instinct MI455X bieten pro Stück 432 GB HBM4 mit bis zu 23,3 TB/s, während es bei Nvidia Rubin 288 GB HBM4 mit nun nur noch 19,2 TB/s (vorher 22 TB/s) sind.

Auf den Produktseiten zur Instinct MI455X gibt AMD zwar noch immer 23,3 TB/s an, doch sind etwaige Anpassungen durchaus möglich.