Broadcom Tomahawk Ultra: Ethernet-Chip mit ultra niedriger Latenz

Broadcom stellt den Tomahawk Ultra vor. Mit einer sehr niedrigen Latenz von 250 Nanosekunden soll sich der Netzwerk-Switch-Chip besonders für die Vernetzung von KI-Beschleunigern in Rechenzentren mit mehreren 100.000 Servern eignen.

Selbst kleine Ethernet-Pakete mit 64 Byte Länge übertragt der Tomahawk Ultra verlustfrei mit voller Transferrate von 51,2 Tbit/s, entscheidend für die effiziente Kommunikation einzelner Knoten in KI-Rechenzentren. Dazu nutzt der Chip 512 Links zu je 100 Gbit/s.

Verlustfreie Vernetzung

Bei der Kopplung einer hohen Anzahl von Servern ist eine möglichst verlustfreie Vernetzung entscheidend. Daher beherrscht der Chip Techniken wie Link Layer Retry (LLR). Hierbei puffert der Chip gesendete Netzwerk-Pakete so lange, bis der Empfänger-Knoten den Empfang bestätigt.

Netzwerküberlastungen vermeidet der Tomahawk Ultra mit Credit-based Flow Control (CBFC), indem die Empfängerseite mit Credits darüber Auskunft gibt, ob diese noch Pakete empfangen und speichern kann. Alternativ werden Pakete zur Lastverteilung über andere Netzwerk-Knoten gelenkt.

Der Tomahawk Ultra beherrscht nun auch die von Nvidia bekannten In-Network Collectives (INCs). Bei diesem „Switch-Offloading“ lädt der Chip Netzwerkoperationen von Beschleunigern und führt sie selbstständig aus.

Vom Sockel gestoßen

Das neueste Mitglied der Tomahawk-Familie ist pinkompatibel zum Vorgängermodell Tomahawk 5, kann diesen auf dem Sockel also schnell ersetzen. Der zuletzt vorgestellte Tomahawk 6 ist auf maximale Transferraten mit bis zu 102,4 Tbit/s ausgelegt.

Mit Ultra Ethernet versucht Broadcom die proprietäre Technik des Rivalen Nvidia aus den KI-Rechenzentren zu verdrängen. Nvidia ist zuletzt dem Ultra Ethernet Consortium (UEC) selbst beigetreten.

Zur allgemeinen Verfügbarkeit und Preisen äußert sich der Hersteller wie üblich in der Branche nicht.

(aki)