Nvidia Silicon Photonics: AI Factories sollen Dutzende Megawatt bei Switches einsparen

In einem modernen Data Center mit AI-Beschleunigern können sich die für optische Verbindungen benötigten Transceiver-Module schnell zu einem Großverbraucher entwickeln, der mehrere Megawatt beansprucht. Mit neuen Silicon-Photonics-Switches aus der Spectrum-X- und Quantum-X-Serie will Nvidia dieses Problem angehen.

Silicon Photonics: Das steckt dahinter

Silicon Photonics bedeutet vereinfacht ausgedrückt, dass bei einem Switch neben dem Switch ASIC auf demselben Substrat auch noch eine Silicon Photonic Engine sitzt, die unter anderem für die Modulation des Lichtsignals einer externen Laserquelle zuständig ist. Aus Switch ASIC und Silicon Photonic Engine ergibt sich bei Nvidia das Photonics Package, weshalb auch von Co-packaged Optics (CPO) die Rede ist.

1. 

Bild 1 von 13

Transceiver sind ein Stromfresser

Vorteil dieser Technologie ist, dass nicht mehr mit Dutzenden komplexen externen, optischen Transceivern gearbeitet werden muss, wo ein elektrisches Signal durch einen DSP geschickt, extern moduliert und zu einem optischen Signal mittels Laser gewandelt wird. Nachteil der Transceiver ist in erster Linie nämlich deren hoher Verbrauch von rund 30 Watt, wobei 20 Watt auf den DSP und 10 Watt auf den Laser entfallen.

9 Watt statt 30 Watt

Bei Co-packaged Silicon Photonics hingegen kommen laut Nvidia insgesamt nur 9 Watt für die gleiche Verbindung zusammen, davon 7 Watt für die Silicon Photonic Engine und 2 Watt für die externe Laserquelle (ELS, External Laser Source) mit kontinuierlicher Laserstrahlung. Alle weiteren Schritte der Signalverarbeitung finden nämlich stromsparend im Photonics Package anstelle der stromschluckenden Transceiver statt.

Viermal weniger Laser bei derselben Anzahl von Verbindungen, eine 3,5-fache Energieeffizienz gegenüber klassischen Switches und eine um den Faktor 63x höhere Signalintegrität attestiert Nvidia der neuen Lösung. Der letzte Punkt liegt vor allem an dem entfallenden Signalweg zu den bisherigen Transceivern, der sich vom Laser zu einem DSP, von dort durch den Port Cage des Transceivers, das PCB im Switch, die Kontakte zum Substrat des Switch ASIC und die Kontaktpunkte zum ASIC erstreckt. Bei den Co-packaged Optics wandert das elektrische Signal hingegen ausschließlich vom Switch ASIC durch das Substrat zur Silicon Photonic Engine. Der Signalverlust liege Nvidia zufolge nur noch bei 4 dB anstelle von 22 dB.

1. 

Bild 1 von 6

Megawatt lieber in mehr GPUs investieren

Silicon Photonics sieht Nvidia vor allem für künftige riesige Data Center, beim Unternehmen auch AI Factory genannt, praktisch als Voraussetzung für die weitere Skalierbarkeit. Mit den alten Transceivern könne der Verbrauch je nach Anzahl der eingesetzten und miteinander verbundenen Racks schnell mehrere Megawatt einnehmen, argumentiert Nvidia. Ein Data Center mit 100.000 GPUs komme unter Verwendung der aktuellen Switches allein über die benötigten Transceiver auf einen Verbrauch von 40 Megawatt. Unter Verwendung von Silicon Photonics würde sich der Verbrauch bei den Netzwerkkomponenten auf 12 Megawatt reduzieren lassen. Die „gesparten“ Megawatt könne man stattdessen ja in mehr GPUs für das Data Center investieren, sagte Nvidia-CEO Jensen Huang leicht scherzhaft zur Keynote.

Drei Switches mit Silicon Photonics

Drei neue Photonics Switches hat Nvidia zur GTC angekündigt: den Quantum 3450-LD aus der Quantum-X-Serie für InfiniBand sowie in der Spectrum-X-Familie für Ethernet den SN6810 und SN6800. Der Quantum 3450-LD stellt 144 Ports mit 800 Gbit/s oder 576 Ports mit 200 Gbit/s und eine Gesamtbandbreite von 115 Tbit/s zur Verfügung. Die zwei Varianten der Spectrum-X-Produkte kommen auf 128 oder 512 Ports je 800 Gbit/s respektive 512 oder 2.048 Ports mit 200 Gbit/s. Die Bandbreite insgesamt beläuft sich auf 102,4 Tbit/s und 409,6 Tbit/s.

1. 

Bild 1 von 2

Quantum-X Photonics InfiniBand ist für die zweite Hälfte 2025 vorgesehen, während die Spectrum-X Photonics Ethernet in der zweiten Jahreshälfte 2026 folgen sollen. Die bei der Entwicklung erlangten Patente will Nvidia außerdem an Dritte lizenzieren.

ComputerBase hat Informationen zu diesem Artikel von Nvidia im Rahmen einer Veranstaltung des Herstellers in San Jose, Kalifornien erhalten. Die Kosten für An-, Abreise und fünf Hotelübernachtungen wurden vom Unternehmen getragen. Eine Einflussnahme des Herstellers oder eine Verpflichtung zur Berichterstattung bestand nicht.