Nvidia: Vertragsschluss mit Inferenz-Chip-Startup | heise online

Nvidia hat am Mittwoch offenbar einen rund 20 Milliarden Dollar-Vertrag mit einem Startup namens Groq abgeschlossen, in dessen Rahmen Groq-Chef und -Gründer
Jonathan Ross und weitere Mitarbeiter des Startups zu Nvidia wechseln. Beide Firmen bezeichnen den Deal als nicht-exklusiv und Groq soll als Marke wohl unabhängig bleiben. Der Vertrag wird als der größte Deal in der Firmengeschichte Nvidias bezeichnet.

Groq wurde 2016 von Schöpfern von Googles Tensor Processing Unit gegründet. Das Startup stellt Chips her, die für die Inferenz ausgelegt sind (Language Processing Architektur). Gemeint ist der Betrieb von KI-Modellen, also das was „unter der Haube“ stattfindet, wenn man trainierte KI-Modelle nutzt, zum Beispiel etwas fragt, darum bittet, Vorhersagen zu treffen oder Schlussfolgerungen aus Daten zu ziehen.

Die Groq-Chips sind bei der Inferenz wohl bis zu zehn Mal schneller als herkömmliche GPUs, bei denen Nvidia als Marktführer gilt. Für den Betrieb von KI-Modellen erwarten Experten künftig die größte Nachfrage an Chips, was ein mutmaßlich treibender Grund für den Vertragsabschluss war. Nvidias eigene Chiptechnologie glänzte bisher stärker im Bereich des Trainings von KI-Modellen.

In einer Nvidia-internen Mail schrieb der Firmen-CEO Jensen Huang laut der Webseite des US-amerikanischen Wirtschafts- und Finanznachrichtensenders CNBC, dass man die Chips von Groq in die Nvidia-Werksarchitektur aufnehmen wolle, um „eine noch breitere Palette an KI-Inferenz- und Realtime-Workloads“ zu bedienen.

Nvidia verzeichnete in der jüngsten Vergangenheit enormes Wachstum – Ende Oktober hatte das Unternehmen laut CNBC in „cash und short-term investments“ 60,6 Milliarden US-Dollar zur Verfügung, also Geld, das Nvidia einfach ausgeben kann, Anfang 2023 waren es noch 13,3 Milliarden Dollar.

(kst)