Dell AI Factory 2.0: Neue Server mit Nvidia B300 und eigenes Dateisystem

Auf seiner Hausmesse hat Dell neue und erweiterte Integrationen mit Nvidia, Intel, Google, Cohere, Hugging Face, Palantir und ServiceNow vorgestellt. Hinzu kamen Erweiterungen der Dell AI Data Platform, das Dell Data Lakehouse und das neue parallele Dateisystem Project Lightning. Damit soll die KI näher an die Unternehmensdaten gebracht werden. Laut Michael Dell planen 85 Prozent der Firmen, generative KI-Workloads innerhalb der nächsten 24 Monate on-premises auszuführen.

Mehr On-Prem-Modelle und Partnerstacks

Zentraler Baustein bleibt die Dell AI Factory mit Nvidia. Dell hat dazu Version 2.0 angekündigt. Sie kombiniert neue KI-Server, Netzwerk, Storage, Kühlung, Managed Services und Softwarekomponenten für Training, Inferenz und agentische KI. Dazu gehören unter anderem die PowerEdge-Systeme XE9780L und XE9785L mit jeweils acht Nvidia-B300-Beschleunigern sowie Support für Nvidia RTX Pro 6000. Daneben erweitert Dell die AI Factory um Intel-Gaudi-3-Beschleuniger und den PowerEdge XE9680. Dell positioniert die Plattform als validierte Komplettlösung mit PowerEdge-Servern, PowerScale-Storage, PowerSwitch-Netzwerk, Services und einem Open-Source-Softwarestack, beispielsweise PyTorch, Kubernetes, Grafana und Prometheus.

Auch bei Modellen und Agentenplattformen baut Dell das Angebot aus. Gemeinsam mit Google Cloud sollen Gemini-Modelle on-premises bereitgestellt werden. Die Lösung steht exklusiv für Dell-Kunden zur Verfügung und soll mehr Kontrolle über Daten und Infrastruktur ermöglichen. Mit Cohere bringt Dell außerdem die Agentenplattform Cohere North auf die eigene Infrastruktur. North soll sich mit Dell-Storage und allen Datenquellen verbinden lassen.

Als validierte On-Prem-Lösungen nennt Dell unter anderem Hugging Face, Palantir, Reflection, ServiceNow und SpaceXAI. Hinzu kommen validierte KI-Lösungen mit Mistral, Fogsphere, Ipsotek, UneeQ Digital Humans und Poolside, die über den Katalog der Dell Automation Platform bereitgestellt werden können. Damit deckt Dell ein breites Spektrum ab: Modelle, Agentenplattformen, Entwicklungswerkzeuge, Workflow-Automation, Computer Vision und verschiedene Formen des Datenzugriffs.

On-Prem-Modelle allein lösen das zentrale Problem allerdings nicht: Agenten, RAG-Anwendungen und domänenspezifische Modelle benötigen Zugriff auf bereinigte, auffindbare und schnell verfügbare Daten. Diese liegen häufig verteilt in File- und Object-Stores, Datenbanken, ERP- und CRM-Systemen oder an Edge-Standorten. Hier setzt Dell mit der erweiterten AI Data Platform an. Sie soll Datenquellen erschließen, Datenflüsse beschleunigen und Unternehmensdaten für KI-Anwendungen besser nutzbar machen. In der Keynote beschrieb Dell-COO Jeff Clarke die Plattform als neues Element der AI Factory. Sie soll helfen, Daten für KI-Workflows vorzubereiten, zu organisieren, zu verarbeiten und zu schützen.

Lakehouse, PowerScale und ObjectScale

Ein Baustein der AI Data Platform ist das Dell Data Lakehouse. Es kombiniert die Skalierbarkeit und Kosteneffizienz eines Data Lake mit der Struktur und Zuverlässigkeit eines Data Warehouse. Eine föderierte Query Engine soll Daten über verschiedene Umgebungen hinweg auffindbar, analysierbar und verarbeitbar machen. Zudem soll sie helfen, die Orchestrierung für Agenten zu automatisieren.

Als Storage-Grundlage nennt Dell PowerScale und ObjectScale. PowerScale ist für File- und Object-Storage für unstrukturierte Daten und KI-Analysen zuständig, ObjectScale S3-kompatible Object-Workloads. Dell hatte bereits kurz vor der Veranstaltung angekündigt, PowerFlex in Dell Exascale Storage einzubinden. Damit deckt die Architektur Blockzugriffe über PowerFlex, File-Workloads über PowerScale und Lightning sowie Object-Storage über ObjectScale ab.

Für KI-Anwendungen ist diese Trennung relevant, weil Trainings-, Inferenz- und RAG-Workloads häufig andere Datenpfade benötigen als klassische Unternehmensanwendungen. Während ERP- und Datenbankdaten oft blockbasiert verarbeitet werden, dominieren bei vielen KI-Workloads unstrukturierte Daten, File- und Object-Zugriffe, Vektorindizes, Metadaten und Kontextinformationen.

Lightning File System für GPU-Workloads

Mit Project Lightning kündigte Dell ein neues paralleles Dateisystem für KI- und HPC-Workloads an. Es ist für hohen Durchsatz, niedrige Latenz und parallele Zugriffe vieler GPU-Knoten ausgelegt. Dell nennt als Einsatzfelder unter anderem Training, Inferenz, Checkpointing, Key-Value-Caching und Metadatenanalysen. Pro Node verspricht Dell 97 GByte/s Random-Read-Durchsatz und 97 Prozent Bandbreiteneffizienz. Die Architektur nutzt RDMA-Netzwerke und unterstützt Nvidia GPUDirect Storage. Damit soll Lightning einen 67 Prozent schnelleren Datenzugriff und einen doppelt so hohen Durchsatz gegenüber dem Wettbewerb erreichen.

Zusätzlich arbeitet Dell mit Nvidia an einer hochskalierbaren Caching-Lösung für beschleunigte Inferenz. Sie integriert sich mit Nvidias NIXL-Bibliothek und zielt auf agentische Workloads sowie Reasoning-Modelle mit langen Denk- und Kontextphasen. Dell nennt dafür bis zu 100-mal mehr Tokens pro Sekunde und 80 Prozent geringere Latenz.

Eine On-Prem-Plattform für die ganze KI

Dell entwickelt seine AI Factory von einer reinen GPU- und Infrastrukturplattform zu einer umfassenden Umgebung für Enterprise-KI. Die Partnerstacks liefern Modelle, Agenten und Integrationen; die AI Data Platform organisiert und beschleunigt den Zugriff auf Unternehmensdaten. Das passt zum On-Prem-Trend: KI soll dort laufen, wo Daten, Latenzanforderungen, Zugriffsrechte und Governance-Vorgaben liegen.

Doch ob das in heterogenen Umgebungen funktioniert, hängt weniger vom Modellkatalog als von Datenqualität, Governance, Zugriffsrechten und den tatsächlichen Datenpfaden ab. Dell liefert dafür zwar mehr Bausteine, die eigentliche Arbeit bleibt jedoch die gleiche: Unternehmen müssen wissen, welche Daten sie haben, wie relevant sie im Einzelfall sind und ob sie für KI überhaupt brauchbar sind.

(fo)