Nvidia H100: Hopper-Beschleunigerkarte mit 120 GB gesichtet

Es gibt Hinweise auf eine weitere Variante des Rechenbeschleunigers H100 mit Hopper-GPU von Nvidia. Diese soll statt bisher 80 GB ganze 120 GB des schnellen Speichers HBM2e bieten. Vorerst bleibt dies aber nur ein Gerücht anhand eines Fotos vom Geräte-Manager.

Für KI- und Deep-Learning-Aufgaben in Rechenzentren oder Supercomputern bietet Nvidia die aktuelle H100-Serie mit Grafikprozessoren der Familie Hopper mit 80 GB Videospeicher an. Die Version als Erweiterungskarte für den klassischen PCIe-Slot bietet dabei mit 26 TFLOPS Rechenleistung (FP64) und 2 TB/s Speicherdurchsatz weniger Leistung als das SXM-Modul (Titelbild) mit 34 TFLOPS und 3,35 TB/s. Dafür fällt die TDP beim SXM-Modell allerdings mit bis zu 700 Watt doppelt so hoch aus.

Screenshot zeigt H100 mit 120 GB

Die mutmaßliche H100 mit 120 GB zeigt ein Screenshot unklarer Herkunft. Laut dem Windows-Geräte-Manager ist das System reichlich mit Grafikkarten bestückt. Neben den bekannten Modellen GeForce RTX 3090 Ti und A100 wird die besagte H100 mit 120 GB sowie ein „RTX ADLCE Engineering Sample“ aufgelistet. Hinter letzterem soll sich ein Muster der neuen GeForce RTX 4000 (Ada Lovelace) verbergen.

Der User @cmdkai schreibt auf seiner Website, dass die H100 mit 120 GB den Vollausbau der GH100-GPU nutzen soll. Demnach würde die PCIe-Steckkarte abseits vom Speicher (annähernd) die Spezifikationen der SXM-Version aufweisen. Weitere Bilder auf seinem Twitter-Account deuten an, dass er augenscheinlich öfter mit Server-Hardware zu tun hat. Das genügt zwar lange nicht als Beleg aber lässt den „Leak“ authentischer erscheinen.

VideoCardz hat die (mutmaßlichen) Spezifikationen der dann drei H100-Ausführungen miteinander verglichen:

Wer Details zu Nvidias Hopper-Architektur erfahren will, findet diese im Artikel Nvidia Hopper: So schnell ist die neue Architektur für Supercomputer von ComputerBase-Autor Christoph Riedel.