Cobalt 200: Microsoft 132-Kern-CPU mit 396 MB L2- und 198 MB L3-Cache

Cobalt 200 heißt Microsofts neuer Arm-Prozessor für das Azure-Cloud-Datacenter. Zwei Chiplets bieten insgesamt 132 Kerne und jede Menge Cache. Die Flucht in den schnellen Zwischenspeicher ist auch bei Arm-Prozessoren angesagt, bei Arm-basierten SoCs für Smartphones wurden die Caches zuletzt ebenfalls stetig größer.

Microsoft wechselt auf Arm-Performance-Kerne

Auch Microsoft greift beim Cobalt 200 auf ein Chiplet-Design zurück. Zwei der bei TSMC in einer N3-Fertigung produzierten CPUs werden über ein nicht näher spezifiziertes, aber mutmaßlich schnelles Interface miteinander kombiniert. Aus zweimal 66 Kernen werden folglich insgesamt 132 Kerne, die dann auf einem Package in den entsprechenden Server gesetzt wird. Gemäß den Bilder ist die Lösung für Dual-Sockel-Systeme gedacht.

Im Detail ist der Prozessor ein interessantes Konstrukt mit Optimierungen vor allem für Azures Einsatzgebiet. Microsoft setzt dafür auf das neue Arm Neoverse Compute Subsystems V3 (CSS V3), der Vorgänger Cobalt 100 basierte noch auf Neoverse N2. Der Wechsel von der N- in die V-Klasse heißt, dass der Fokus mehr auf Performance gelegt wird. Das zeigt sich schon bei den Caches. Microsoft nutzt auch beim L2 direkt den Maximalausbau von 3 MByte pro Kern und packt noch 1,5 MByte L3-Cache pro Kern hinzu. Bei 66 Kernen heißt dies 198 MByte L2- und 99 MByte L3-Cache pro Die.

Zusammengeschaltet spricht Microsoft letztlich aber nicht von 198 MByte L3-Cache, die nutzbar sind, sondern „nur“ von 192 MByte. Allerdings gehen dabei wohl keine Kerne in eine Reservestellung, 132 sollen im Dual-Sockel-System inklusive 12-Kanalspeicherinterface angesprochen werden können. Heraus kommt auf dem Papier gegenüber dem 128-Kern-Vorgänger mit ebenfalls 12-Kanal-Speicher ein Performanceplus von „bis zu 50 Prozent“, erklärt Microsoft.

Interessant sind dabei auch Optimierungen in der Hardware, die sich auf die Effizienz auswirken. Jeder der 132 Kerne kann unterschiedlich getaktet werden, hinzu kommen Teile in der CPU, die explizit für die Beschleunigung von ganz banalen Aufgaben wie compression, decompression, and encryption designed wurden.

One of the unique innovations in our Azure Cobalt CPUs is individual per-core Dynamic Voltage and Frequency Scaling (DVFS). In Cobalt 200 this allows each of the 132 cores to run at a different performance level, delivering optimal power consumption no matter the workload.

[..]

When designing Cobalt 200, our benchmark workloads and design simulations revealed an interesting trend: several universal compute patterns emerged – compression, decompression, and encryption. Over 30% of cloud workloads had significant use of one of these common operations.

Optimizing for these common operations required a different approach than just cache sizing and CPU core selection. We designed custom compression and cryptography accelerators – dedicated blocks of silicon on each Cobalt 200 SoC – solely for the purpose of accelerating these operations without sacrificing CPU cycles. These accelerators help reduce workload CPU consumption and overall costs.

Microsoft

Ab 2026 sollen die ersten neuen Cobalt 200 in Azure-Systemen eingesetzt werden. Traditionell vergeht nach so einer Ankündigung oft noch bis zu ein Jahr, bis die Systeme breite verfügbar sind.