Nvidia HGX-2: 16 GV100-GPUs über NVSwitch jetzt auch als Rack-Einschub

Nvidia bietet die Kombination aus 16 GV100-GPUs über den selbst 2 Mrd. Transistoren fassenden NVSwitch mit insgesamt 81.920 Shadern und 2 PFLOPS Leistung jetzt auch im Format für Racks in Rechenzentren an. Zur GTC hatte der Konzern das auf AI- und Compute-Berechnungen ausgelegte System bereits als autarken Rechner DGX-2 gezeigt.

HGX-2 und DGX-2 mit je acht Volta-GPUs

Bisher gab es von Nvidia die DGX-1 als Rack-Einschub und die DGX Station als autarkes System. Beide boten maximal acht respektive vier über NVLink gekoppelte GV100-GPUs (16 GB), den Rack-Einschub gab es auch schon mit acht GP100-GPUs auf Basis von Pascal. Ab sofort lautet die Bezeichnung für das eigenständige Format DGX-2 und für die Server-Lösung HGX-2 (PDF).

System	GPUs	Leistung	Preis
DGX-1 Gen1	8 × GP100	170 TFLOPS	129.000 USD
DGX-1 Gen2	8 × GV100 (16 GB)	960 TFLOPS	149.000 USD
DGX Station	4 × GV100 (16 GB)	480 TFLOPS	69.000 USD
DGX-2	16 × GV100 (32 GB)	2.000 TFLOPS	400.000 USD
HGX-2	16 × GV100 (32 GB)	2.000 TFLOPS	unbekannt

HGX-2 setzt wie DGX-2 auf 16 Tesla V100 mit je 32 Gigabyte. Insgesamt ergibt sich ein GPU-Cluster mit 81.920 ALUs und einem 512 Gigabyte großen HBM2-Speicher. Die Rechenleistung ist mit 2 PFLOPS für die Tensor-Cores angegeben, die Speicherbandbreite mit 14,4 Terabyte pro Sekunde. 10 Kilowatt soll DGX-2 in seinem proprietären Gehäuse aufnehmen, das außer den 16 Nvidia-GPUs zwei Intel Xeon-Platinum-CPUs von unbekanntem Typ, 1,5 Terabyte Systemspeicher und 30 Terabyte NVMe-SSDs beinhaltet. Ob oder inwiefern HGX-2 davon abweicht, hat Nvidia im Vorfeld der Produktankündigung noch nicht verraten.

Systeme bis Ende 2018

HGX-2 soll im späteren Verlauf des Jahres nicht nur von Nvidia sondern auch von Lenovo, QCT, Supermicro und Wiwynn verfügbar sein. Ebenso sollen die Auftragsfertiger Foxconn, Inventec, Quanta und Wistro an eigenen Umsetzungen für Rechenzentren arbeiten und diese noch für Ende 2018 einplanen. Zu den Preisen ist nur bekannt, dass DGX-2 ca. 400.000 US-Dollar kosten wird, wenn es im dritten Quartal verfügbar sein wird.