485.000 KI-Beschleuniger: Microsoft war dieses Jahr Nvidias bester Kunde

Microsoft war dieses Jahr der größte Bezieher von Nvidias KI-Beschleunigern der Hopper-Generation. Das geht aus Analysen von Omdia hervor, aus denen die Financial Times zitiert. Demnach hat Microsoft dieses Jahr rund 485.000 KI-Beschleuniger von Nvidia erworben – mehr als doppelt so viele wie der zweitgrößte Kunde ByteDance.

485.000 KI-Beschleuniger der Hopper-Generation

Die Prognosen basieren auf den öffentlich gemachten Investitionsausgaben der aufgeführten Unternehmen, Server-Auslieferungen und Informationen aus der Lieferkette. Die Analysten gehen davon aus, dass Microsoft dieses Jahr rund 485.000 KI-Beschleuniger aus Nvidias Hopper-Generation für das KI-Training und Inferencing bezogen hat. Microsoft hat sich damit im nationalen und internationalen Vergleich des Jahres zum mit Abstand besten Kunden von Nvidia entwickelt.

China belegt die Plätze zwei und drei

Auf den Plätzen zwei und drei der Statistik folgen die chinesischen Unternehmen ByteDance (bekannt vor allem für TikTok) und Tencent (Social Media, Netzhandel, Werbung). Beide bewegen sich im Bereich von rund 230.000 KI-Beschleunigern, zu denen in diesem Fall auch speziell für China eingeschränkte Modelle wie der H20 zählen, der analog zum A800 und H800 das Ergebnis der strengen US-Handelsrestriktionen ist.

Meta vor xAI, Amazon und Google

Auf dem US-Markt hat Meta hinter Microsoft die zweitmeisten Hopper-GPUs von Nvidia erworben. 224.000 Stück insgesamt gingen dieses Jahr an Meta. Der Konzern hinter Facebook, WhatsApp, Instagram und Quest hat laut Omdia aber auch 173.000 AMD MI300 dieses Jahr gekauft. Microsoft komme in diesem Vergleich nur auf 96.000 MI300 und hat sich demnach mehr auf Nvidia fokussiert.

Bei Tesla respektive xAI setzt man hingegen auf aktuell 100.000 H100-GPUs für den Colossus getauften AI-Supercomputer, mit dem LLMs wie Grok trainiert werden. Schon zur Fertigstellung im Oktober hatten Nvidia und xAI jedoch verkündet, für Colossus bereits an einer Erweiterung auf 200.000 und somit doppelt so viele GPUs zu arbeiten.

Custom-AI-Chips machen Nvidia Konkurrenz

Amazon und Google, die Künstliche Intelligenz auch über eigene Custom-Chips umsetzen wollen, haben bei Nvidia rund 196.000 (Amazon) und 169.000 (Google) Hopper-Beschleuniger erworben. Amazon hat von den eigenen Chips Trainium und Inferentia dieses Jahr rund 1,3 Millionen Stück abgesetzt und will gemeinsam mit dem OpenAI-Konkurrenten Anthropic, in den Amazon 8 Milliarden US-Dollar investiert hat, die nächste Generation von AI-Modellen trainieren. Von Googles eigenen TPUs und von Metas MTIA (Meta Training and Inference Accelerator) seien jeweils rund 1,5 Millionen Stück verkauft worden. Den Absatz des Maia von Microsoft gibt Omdia mit 200.000 Einheiten an.