DRAM besser ausnutzen: AMD kauft KI-Startup MEXT für sein Data-Center-Portfolio

AMD übernimmt mit MEXT ein KI-Startup, das sich einer effizienteren Speichernutzung im Server verschrieben hat. Indem inaktive Daten aus dem DRAM auf NAND-Flash ausgelagert und per KI-Vorhersage wieder bereitgestellt werden, soll der DRAM-Bedarf deutlich gesenkt werden. Virtuell wird der Arbeitsspeicher verdoppelt.

Die Branche befindet sich derzeit in einer Zwickmühle: Einerseits verlangen moderne Anwendungen wie KI-Modelle, HPC-Workloads, Datenanalysen und Virtualisierung nach immer mehr Arbeitsspeicher. Andererseits ist dieser durch die extrem hohe Nachfrage knapp und teuer geworden, sodass Speicher inzwischen als größter Kostenfaktor im Rechenzentrum gilt.

Was steckt hinter MEXT?

Mit MEXT übernimmt AMD ein Entwicklerteam mitsamt seiner KI-gestützten „Predictive-Memory-Technologie“. Mit dieser wird primär erreicht, dass sich im System der NAND-Flash wie DRAM verhält. Dadurch wird das Vorhandensein von mehr DRAM simuliert. Im Grunde handelt es sich also um eine Form von virtuellem Arbeitsspeicher.

In einem Beispiel wird gezeigt, wie sich per Software der Arbeitsspeicher im Server verdoppeln lässt. Auf seiner Webseite wirbt MEXT aber auch damit, dass sich die Speichermenge vervierfachen lasse. Im Gegenzug könne dieselbe Speichermenge mit nur der halben Menge (oder einem Viertel) an physischem RAM erreicht werden. Das senkt wiederum die Kosten, denn NAND-Flash ist erheblich günstiger als DRAM.

Allerdings ist NAND-Flash auch wesentlich langsamer als DRAM und eignet sich daher von allein nicht dazu, diesen zu ersetzen.

KI verwaltet Daten in RAM und NAND

Hierbei kommt die KI-Technik von MEXT ins Spiel: Die Software erkennt, welche Daten inaktiv („kalt“) sind und lagert diese vom DRAM auf den NAND-Flash aus. Zugleich liefert sie eine Prognose dafür, welche Daten eine Anwendung demnächst benötigen könnte, um diese schnellstmöglich wieder in den DRAM zu befördern. Damit wird der Geschwindigkeitsnachteil des NAND-Flash kaschiert. Zumindest ist es das, was hier versprochen wird. Inwieweit sich der Einsatz von MEXT auf die Performance im Server auswirkt, ist der Redaktion nicht bekannt.

Das Ziel ist es die steigenden Kosten für Serversysteme im Zaum zu halten und vorhandene Ressourcen effektiver zu nutzen. AMD will die Technik von MEXT fortan im eigenen Data-Center-Portfolio einsetzen. Was genau das bedeutet, bleibt abzuwarten.