News Nvidia Silicon Photonics: AI Factories sollen Dutzende Megawatt bei Switches einsparen

[nlr]

In einem modernen Data Center mit AI-Beschleunigern können sich die für optische Verbindungen benötigten Transceiver-Module schnell zu einem Großverbraucher entwickeln, der mehrere Megawatt beansprucht. Mit neuen Silicon-Photonics-Switches aus der Spectrum-X- und Quantum-X-Serie will Nvidia dieses Problem angehen.

Zur News: Nvidia Silicon Photonics: AI Factories sollen Dutzende Megawatt bei Switches einsparen

 

[Silencium]

Okay, für mich als Laie in diesem Bereich klingt das nach wirklich sehr gutem Fortschritt! Senkung des Energieverbrauchs ist immer gut, besonders in Zeiten wo dieser nicht nur gefühlt immer weiter in die Höhe zu steigen scheint!

 

[Cr4y]

Ein Data Center mit 100.000 GPUs komme unter Verwendung der aktuellen Switches allein über die benötigten Transceiver auf einen Verbrauch von 40 Megawatt.

Einer der Gründe, warum (Vera) Rubyn alleine wegen der gesteigerten Packungsdichte effizienter sein dürfte, sofern man mehr als ein Rack einsetzen will.

 

[Drahminedum]

@nlr Kleiner Tippfehler in der Zwischenüberschrift: "Der Switches" statt "Drei Switches"

 

[Kazuja]

Weis einer, von wem die Wasserkühlung hergestellt wird?

https://pics.computerbase.de/1/1/6/5/6/2-7acb55a706776554/4-1080.5568d81e.jpg



Grüße Kazuja

 

[Krik]

@Kazuja
Das wird eine Eigenentwicklung sein, extra für dieses Gerät.

 

[Rickmer]

Ein Data Center mit 100.000 GPUs komme unter Verwendung der aktuellen Switches allein über die benötigten Transceiver auf einen Verbrauch von 40 Megawatt. Unter Verwendung von Silicon Photonics würde sich der Verbrauch bei den Netzwerkkomponenten auf 12 Megawatt reduzieren lassen.

Wenn ich das kurz durchrechne... das sind 400W an Netzwerk pro GPU?
Bzw. 3,2 kW pro 8 GPU Node?

 

[GrumpyDude]

Spannende Innovation, wir können über Nvidia schimpfen wie wir wollen (Preispolitik, vermasselter Launch, QA Probleme etc) aber die Firma ist unumstrittener Technologieführer in so vielen Bereichen.

 

[Simonte]

Das Berühren mit den Pfoten war scheinbar nicht verboten

 

[BrollyLSSJ]

@nlr
Ist mit "Nvidia Silicon Photonics: AI Factorys sollen Dutzende Megawatt bei Switches einsparen" die Mehrzahl von Fabriken gemeint? Wenn ja: Wenn ich mich nicht irre und mein Englisch nicht eingerostet ist, sollte das dann "Factories" heißen.

 

[TheInvisible]

512 Ports mit 800Gbit, WTF

 

[Ra9n@R0Ck]

Endlich kommt mal Schwung in die Sache. Hab vor Jahren mal an den optischen Tranceiver für die ganzen Unterseekabel gearbeitet und wir hatten schon Silicon Photonics als nächsten Schritt auf der Roadmap. Ich weiß nicht, was daraus geworden ist, weil ich die Firma gewechselt habe, aber daran arbeiten bestimmt unsere japanischen Kollegen dran.

 

[Kazuja]

Das Berühren

Nur so kann man die dinge einigermaßen begreifen. Wir sind halt haptische Tierchen

 

[Glasreiniger]

Das Berühren mit den Pfoten war scheinbar nicht verboten
Anhang anzeigen 1597930

Ist vom lkw gefallen, gehört eigentlich mir

 

[Blutschlumpf]

30 Watt? Da hat man vermutlich den schlechtesten Transceiver auf dem Markt rausgesucht um da punkten zu können.
16 Watt zu 10 Watt würde natürlich nicht nach so was tollem klingen:
https://www.flexoptix.net/de/d-858hg-005-mp.html?option875=1

Und die Rechnung funktioniert auch nur für bleeding edge 800GBit, ich bezweifle mal ganz stark die Verbreitung davon. Bei geringeren Bandbreiten geht es schnell ins belanglose:
400G -> 10W
200G -> 5,5W
100G -> 3,5W

Schade finde ich, dass ihr die Nachteile unter den Tisch fallen lasst.
Wenn auf so ner Kiste ein Port defekt ist (was im Alltag doch recht häufig passiert) kann man den abschreiben oder muss die ganze Kiste tauschen.
Bei nem Transceiver ist das ein Tausch von ein paar Minuten, hier kann das zu ner Arbeit von Mannwochen werden.

 

[Uzer1510]

Allerdings in AI Zentren werden die Bandbreiten immer maximal sein, wenn man 800Gbit hat dann ist das da nur eine Notlösung weil es nichts schnelleres gibt, die hätten gerne mind 100.000 oder mehr.

Das doch die Bandbreite für die Nodedaten - die ist IMMER maximal viel zu gering egal wieviele Gbiit

Der Verbauchsvorteil wird immer in Zukunft immer zunehmen.

Das ist doch eigentlich kein Netzwerk sondern doch ein Speicherbus bei AI Systemen. Glaube 300 TBit/s is das was man jetzt eigentlich gerne hätte.

 

[Ranayna]

Das ist halt so ein Ding, wo ich mich - zumindest aktuell - Frage, wer da wirklich der Markt ist.
Erst Recht bei dem dicken 512 Port Klopper

Ich glaube viele werden die in Deutschland nicht verkaufen.

 

[Krik]

@Ranayna
Die Dinger kosten ein Vermögen und daran ist sicher auch noch ein Wartungsvertrag gekoppelt, sodass permanent Geld in die Kasse gespült wird.
Das lohnt sich sicher für so einige Datenzentren.

 

[shaggy86]

Nur so kann man die dinge einigermaßen begreifen. Wir sind halt haptische Tierchen

erinnert mich an Jurassic Park 2, als Malcolm auf der Insel ankommt und seine Freundin Sarah zu einem Dino geht:
"Jetzt fasst sie es auch noch an. Sie darf es nicht anfassen. Seht euch das an, das ist typisch Frau. Sie müssen alles in die Hand nehmen, sonst glauben sie es nicht."

🤣🤣🤣🤣

 

[PS828]

Als jemand der im Studium viel mit Silizium/photonischen Schaltungen zutun hatte bin ich einfach nur begeistert erleben zu dürfen was diese optisch digitale wandlung mittlerweile kann danke dafür

Ergänzung (Heute um 11:30)

Das Berühren mit den Pfoten war scheinbar nicht verboten

Kann ja nix passieren aber ich finde toll wie all die Theorie und Forschung über Jahrzehnte in der Lichtwandlung uns in diese Sphären gebracht hat. Da hat eine Berührung dieses chips im Gegensatz zur GPU oder anderen Sachen irgendwie schon noch eine spirituelle Bedeutung

Ich würde es jedenfalls auch begrabbeln einfach weil ich als Student diese Grundlagen schon so faszinierend fand^^