Nvidia HGX-2: 16 GV100-GPUs über NVSwitch jetzt auch als Rack-Einschub
Nvidia bietet die Kombination aus 16 GV100-GPUs über den selbst 2 Mrd. Transistoren fassenden NVSwitch mit insgesamt 81.920 Shadern und 2 PFLOPS Leistung jetzt auch im Format für Racks in Rechenzentren an. Zur GTC hatte der Konzern das auf AI- und Compute-Berechnungen ausgelegte System bereits als autarken Rechner DGX-2 gezeigt.
HGX-2 und DGX-2 mit je acht Volta-GPUs
Bisher gab es von Nvidia die DGX-1 als Rack-Einschub und die DGX Station als autarkes System. Beide boten maximal acht respektive vier über NVLink gekoppelte GV100-GPUs (16 GB), den Rack-Einschub gab es auch schon mit acht GP100-GPUs auf Basis von Pascal. Ab sofort lautet die Bezeichnung für das eigenständige Format DGX-2 und für die Server-Lösung HGX-2 (PDF).
| System | GPUs | Leistung | Preis |
|---|---|---|---|
| DGX-1 Gen1 | 8 × GP100 | 170 TFLOPS | 129.000 USD |
| DGX-1 Gen2 | 8 × GV100 (16 GB) | 960 TFLOPS | 149.000 USD |
| DGX Station | 4 × GV100 (16 GB) | 480 TFLOPS | 69.000 USD |
| DGX-2 | 16 × GV100 (32 GB) | 2.000 TFLOPS | 400.000 USD |
| HGX-2 | 16 × GV100 (32 GB) | 2.000 TFLOPS | unbekannt |
HGX-2 setzt wie DGX-2 auf 16 Tesla V100 mit je 32 Gigabyte. Insgesamt ergibt sich ein GPU-Cluster mit 81.920 ALUs und einem 512 Gigabyte großen HBM2-Speicher. Die Rechenleistung ist mit 2 PFLOPS für die Tensor-Cores angegeben, die Speicherbandbreite mit 14,4 Terabyte pro Sekunde. 10 Kilowatt soll DGX-2 in seinem proprietären Gehäuse aufnehmen, das außer den 16 Nvidia-GPUs zwei Intel Xeon-Platinum-CPUs von unbekanntem Typ, 1,5 Terabyte Systemspeicher und 30 Terabyte NVMe-SSDs beinhaltet. Ob oder inwiefern HGX-2 davon abweicht, hat Nvidia im Vorfeld der Produktankündigung noch nicht verraten.
Systeme bis Ende 2018
HGX-2 soll im späteren Verlauf des Jahres nicht nur von Nvidia sondern auch von Lenovo, QCT, Supermicro und Wiwynn verfügbar sein. Ebenso sollen die Auftragsfertiger Foxconn, Inventec, Quanta und Wistro an eigenen Umsetzungen für Rechenzentren arbeiten und diese noch für Ende 2018 einplanen. Zu den Preisen ist nur bekannt, dass DGX-2 ca. 400.000 US-Dollar kosten wird, wenn es im dritten Quartal verfügbar sein wird.