Nvidia H200: Hopper-Upgrade mit 141 GByte HBM3e überbrückt Zeit bis Blackwell
Welcher Beschleuniger kann Nvidias H100 „Hopper“ ablösen? Genau, ein verbesserter H200 mit mehr und schnellerem Speicher sowie weiteren Anpassungen. Der Grundstein für die Dominanz dürfte damit auch für das Jahr 2024 gelegt sein, der Starttermin im zweiten Quartal lässt jedoch Fragen in Richtung B100 „Blackwell“ und 2024 zu.
Offiziell bleibt für Nvidia B100 ein Starttermin im Jahr 2024 im Kalender. Doch der dürfte in der Realität wohl kaum zutreffen, vielmehr eher auf dem Papier stattfinden. Denn schließlich führen Nvidias eigene Diagramm die H100-Lösungen nun teilweise auch erst ab dem Jahr 2023 – vorgestellt wurde das Modell aber schon im März 2022. Realistisch dürfte von so einem Zeitrahmen auch für Nvidia Blackwell ausgegangen werden, ein HBM-Schaubild deutet dies auch bereits an.
-
Nvidia-Roadmap schiebt B100 auch schon mal nach 2025 (Bild: Nvidia)
Nvidia H200 und GH200 mit neuen Speicher-Spezifikationen
Ohnehin hat Nvidia aktuell aber nahezu keine Konkurrenz in diesem Umfeld. H200 setzt deshalb auf H100 noch einen oben drauf und punktet vor allem über den Speicher und massive Bandbreite.
Dabei kommt es bei Nvidia einmal mehr aber zum Speicher-Bingo: Von den eigentlich verbauten 144 GByte HBM3e (6 × 24 GByte) sind erneut 3 GByte aus Yield-Zwecken nicht dabei – dies hatte Nvidia zuletzt bereits einige Male so gehandhabt. Doch interessanterweise bewirbt Nvidia den Speicher hier nur mit 4,8 TB/s Bandbreite, bei GH200 waren es im August 5 TB/s.
Doch auch diesen Wert hat Nvidia verworfen: Neuerdings sind es hier noch 4,9 TB/s. HBM3e scheint hier am absoluten Limit zu laufen, sodass man die 5 TB/s nicht garantieren kann. Auf der anderen Seite wird GH200 nun aber mit 624 GByte Speicher beworben, 480 GByte entfallen auf die LPDDR5X des Grace-Chips, also rechnerisch kommen hier die vollen 144 GByte HBM3e auf den Hopper-Chip ohne Yield-Abgabe. ComputerBase hatte hierzu noch mal explizit bei Nvidia nachgefragt, in einem entsprechenden Support-Dokument ist diese Spezifikation aber bereits hinterlegt.
Dennoch pulverisiert man schnell einige Rekorde selbst von eigenen H100-Lösungen, als HGX H200 dann sollen alle namhaften Partner ab dem zweiten Quartal 2024 sehr starke Systeme anbieten.
Während H200 als klassische GPU auch als PCI-Express-Karte erscheinen wird, hat Nvidia mit GH200 sein echtes Steckpferd für den Bereich Supercomputer nun erst von der Leine gelassen. Deutschlands und zugleich auch Europas künftig stärkster Supercomputer und erster Exascale-Rechner in dieser Region wird auf fast 24.000 GH200 zurückgreifen, um seine hohe Leistung abzuliefern. Das Jupiter genannte System wird ab Anfang 2024 gebaut. Und viele weitere werden folgen.
ComputerBase hat Informationen zu diesem Artikel von Nvidia unter NDA erhalten. Die einzige Vorgabe war der frühestmögliche Veröffentlichungszeitpunkt.