Mit 5 TB und 64 GB/s: Kioxia interpretiert High-Bandwidth Flash als Modul

Es geht schnell voran beim Thema High-Bandwidth Flash (HBF). Kioxia hat jetzt den Prototypen eines „High-Bandwidth Flash Memory Module“ entwickelt, das 5 TB Speichervolumen und einen Durchsatz von 64 GB/s bietet. Mit solchen Modulen sollen künftig KI-Anwendungen am Netzwerkrand (Edge) beschleunigt werden.

Auch wenn das „High-Bandwidth Flash Memory Module“ so ähnlich heißt und in die gleiche Richtung geht wie der von SanDisk angekündigte High-Bandwidth Flash, sind Umsetzung und Einsatzgebiet anders.

HBF als Modul

Während SanDisk den HBF als Pendant zum High-Bandwidth Memory direkt auf Platinen von KI-Beschleunigern unterbringen will, hat Kioxia ein eigenständiges Modul entwickelt, das für den Einsatz in Mobile-Edge-Computing-Servern (MEC) bestimmt ist. Etwa für Funknetzwerke der Zukunft, „nach der 5G/6G-Ära“ wie es Kioxia formuliert, wird der Einsatz erwogen. Diese sollen künftig nicht nur noch mehr Geräte miteinander verbinden, sondern auch noch den aufkommenden Workload der KI-Aufgaben bewältigen.

Werden all diese Daten zunächst vom Endgerät in die Cloud-Server und zurück transportiert, sorgt dies am Ende für Verzögerungen (Stichwort Latenz). Daher bestehe „Bedarf an der flächendeckenden Einführung von MEC-Servern, die Daten näher am Benutzer verarbeiten“, argumentiert der japanische Flash-Speicher-Hersteller.

Letztlich ist aber auch bei dieser Form des High-Bandwidth Flash das Feld Künstliche Intelligenz die treibende Kraft.

The practical application of this memory module is expected to accelerate digital transformation by enabling the adoption of Internet of Things (IoT), Big Data analysis, and advanced AI processing in post-5G/6G Mobile Edge Computing (MEC) servers and other applications.

Kioxia

Flash und Controller in Reihenschaltung

Technisch geht Kioxia noch nicht allzu sehr ins Detail, verrät aber, dass nicht nur Flash-Speicherchips, sondern auch Speichercontroller im Verbund eingesetzt werden. Durch eine Reihenschaltung (Daisy Chain) der Controller werde dafür gesorgt, dass der Durchsatz auch bei einer hohen Menge von Flash-Speicher nicht abnimmt.

Die Kommunikation zwischen den Controllern wird über eine serielle Verbindung realisiert, bei der eine vierstufige Pulsamplitudenmodulation (PAM4) zum Einsatz kommt. Damit sollen 128 Gbps (16 GB/s) bei geringer Leistungsaufnahme möglich sein. Im Verbund werden aber bis zu 64 GB/s versprochen. Dafür wird als externe Schnittstelle auf PCIe 6.0 x8 mit eben maximal 64 GB/s gesetzt. Anzumerken ist dabei aber, dass dies der maximalen Bitrate und nicht der realen Übertragungsrate entspricht, die geringer liegt.

Zusätzlich soll ein Pre-Fetching der Daten für niedrigere Latenzen sorgen. Die Leistungsaufnahme des High-Bandwidth-Flash-Speichermoduls wird mit „weniger als 40 Watt“ angegeben.

Zukunftspläne (auch bei anderen)

Zunächst spricht Kioxia von einem „Projekt“, will aber alles daran setzen, dass die Idee in die Tat umgesetzt wird und strebt eine „frühzeitige Kommerzialisierung“ an.

Derweil hat sich SanDisk, als langjähriger Flash-Partner von Kioxia, mit SK Hynix zusammen getan, um aus seinem HBF-Konzept einen Standard zu schaffen. HBF-Muster sollen im zweiten Halbjahr erscheinen.

Noch im Bereich der Gerüchte bewegen sich hingegen die Berichte, dass Samsung der KI-befeuerten Nachfrage nach neuen Speicherlösungen mit einer Rückkehr des Z-NAND begegnen wolle. Dabei handelte es sich bisher um einen insbesondere auf niedrige Latenz getrimmten Flash-Speicher.