AI Data Center: Supermicro erwartet massiven Zugewinn bei Wasserkühlung
Supermicro hat zur Computex neue Server für die Bedürfnisse im AI Data Center im Gepäck. Dabei setzt das Unternehmen insbesondere auf die Lösungen von Nvidia, aber auch Intel Xeon sind dabei. Für CEO Charles Liang stand zur Keynote in Taiwan jedoch vor allem der Wandel zu immer mehr flüssigkeitsgekühlten Rechenzentren im Fokus.
Von über viele Jahre praktisch 0 Prozent will Supermicro den Anteil flüssigkeitsgekühlter Rechenzentren auf 15 Prozent in diesem und 30 Prozent im kommenden Jahr steigern. Die Technologie könne schließlich „kostenlos“ angeboten werden, argumentierte Supermicro-CEO Charles Liang gleich mehrfach auf der Bühne.
Direct Liquid Cooling sei praktisch „kostenlos“
„DLC can be FREE“ war in großen Lettern als Überschrift der Präsentation zu lesen. DLC steht für Direct Liquid Cooling und ist die in der Branche bei praktisch allen Anbietern übliche Bezeichnung für flüssigkeitsgekühlte Rechenzentren. Anhand eines Rechenbeispiels für einen Server mit 8.000 GPUs oder 1.000 HGX-Systemen von Nvidia erläuterte Liang die Kosten für Stromversorgung und IT-Komponenten von Flüssigkeits- gegenüber Luftkühlung. Zwar müsse für die Hardware mit rund 3 Prozent höheren Kosten gerechnet werden, bei der Stromversorgung eines flüssigkeitsgekühlten Rechenzentrums könne man aber wieder zwischen 10 bis 21 Prozent an Kosten sparen, sodass die Gesamtkosten gleich hoch oder bestenfalls 3 Prozent niedriger ausfallen könnten.
-
Anschaffungskosten von Flüssigkeitskühlung vs. Luft
Geringere Betriebskosten als Luftkühlung
Das seien aber lediglich die Kosten für den Aufbau, für den späteren Betrieb versprach Liang „A BIG BONUS“. Der Stromverbrauch könne mit DLC von 15 MW auf 10 MW und somit um ein Drittel reduziert werden, für den CO2-Ausstoß gelte das in gleichem Maße. Nach fünf Jahren Betrieb könnten Kosten in Höhe von 60 Millionen US-Dollar im Vergleich zu einem ausschließlich luftgekühlten Rechenzentrum eingespart werden.
Flüssigkeitskühlung habe sich weiterentwickelt
Hintergrund der Entwicklung zugunsten von DLC seien die über die letzten Jahre gemachten Fortschritte bei Lead Time, Kosten für Stromversorgung und Hardware und Zuverlässigkeit. Heutzutage könne man ein flüssigkeitsgekühltes Rechenzentrum zu gleichen Kosten wie eines nur mit Luftkühlung aufbauen und spare im Anschluss beim Betrieb. Deshalb erwartet Supermicro eine massive DLC-Steigerung.
Nvidia-Server mit Jensen auf der Bühne
Die passenden neuen Racks für DLC hat Supermicro ebenfalls zur Computex vorgestellt. Auf Basis von Nvidias HGX B200, also quasi ein DGX B200 mit Blackwell-Architektur für Drittanbieter, bietet Supermicro 4U-Lösungen mit Flüssigkeitskühlung oder 10U-Lösungen mit Luftkühlung an. Daran wird auch ersichtlich, wie sich dieselbe Anzahl von GPUs flüssigkeitsgekühlt deutlich platzsparender unterbringen lässt. Neue HGX-B100-Systeme, deren Leistung und Anforderungen an die Luftkühlung niedriger ausfallen, bietet Supermicro als 8U-Umsetzung an. Außerdem bietet Supermicro Nvidias GB200 NVL72 als Rack an, in dem 72 B200-GPUs und 36 Grace-CPUs unterkommen. Diese kompakte Lösung gibt es ausschließlich flüssigkeitsgekühlt.
-
Kapazität pro Rack mit DGX Blackwell (l.) vs. DGX Hopper (r.)
Passend dazu durfte natürlich auch Nvidia-CEO Jensen Huang nicht auf der Bühne fehlen, der zur Computex auf so vielen Hochzeiten gleichzeitig tanzt, auf Produkten (und Menschen) unterschreibt, dass man kaum noch hinterher kommt.
Intel Xeon 6 mit E- und später auch P-Kernen
Bei Intel wiederum geht Supermicro mit der neuen X14-AI-Familie an den Start, in der die ebenfalls zur Computex vorgestellten Xeon 6 ausschließlich mit E-Kernen zum Einsatz kommen. Neben der 6700-Serie soll später aber auch die 6900-Serie mit P-Kernen und dort dann auch mit Flüssigkeitskühlung unterstützt werden. Im auf Leistung respektive Leistungsdichte optimierten SuperBlade lassen sich dabei bis zu 34.560 der neuen Xeon-6-Prozessoren pro Rack unterbringen.
Supermicro hat derzeit eine globale Produktionskapazität von 5.000 Racks pro Monat, davon 1.350 mit Flüssigkeitskühlung, deren Anteil den Prognosen zufolge künftig weiter steigen dürfte.