News Nvidia Silicon Photonics: AI Factories sollen Dutzende Megawatt bei Switches einsparen

[Ranayna]

Die Dinger kosten ein Vermögen und daran ist sicher auch noch ein Wartungsvertrag gekoppelt, sodass permanent Geld in die Kasse gespült wird.

Das ist mir schon klar. Ist ja auch bei nVidia nix neues. So muss man ja fuer die KI Beschleuniger auch einen Support/Lizenzvertrag laufen haben, um die gekaufte Hardware ueberhaupt benutzen zu duerfen.

Deswegen frage ich mich ja: Wer ist da - von den KI Rechenzentren und "Supercomputern" abgesehen, der Markt?
Ein "normales" Rechenzentrum - wie zB das meiner Firma - sicherlich nicht.
Wir haben ein SAN und einen haufen ESX Server, plus einiges an Kleinkram. Sicherlich ist Bandbreite immer gut. Aber wir nutzen unsere 100G Links ja aktuell schon kaum aus.

 

[Krik]

Wer ist da - von den KI Rechenzentren und "Supercomputern" abgesehen, der Markt?

Das hast du selber beantwortet: KI-Rechenzentren und "Supercomputer".

Nvidia hat fast 4 Mio. Data Center GPUs im letzten Jahr verkauft und der Bedarf ist noch lange nicht gedeckt. Da ist also reichlich Nachfrage nach so einer Technik vorhanden.

 

[cRoss.]

@Ranayna der markt ist so groß, dass partnerunternehmen (https://www.nvidia.com/en-us/networking/products/silicon-photonics/ , ganz unten) wohl durch Nvidia ordentlich gecarried werden, zB:

https://www.coherent.com/content/da...february-5/investor-presentation-20250205.pdf

 

[TheInvisible]

Das ist mir schon klar. Ist ja auch bei nVidia nix neues. So muss man ja fuer die KI Beschleuniger auch einen Support/Lizenzvertrag laufen haben, um die gekaufte Hardware ueberhaupt benutzen zu duerfen.

Deswegen frage ich mich ja: Wer ist da - von den KI Rechenzentren und "Supercomputern" abgesehen, der Markt?
Ein "normales" Rechenzentrum - wie zB das meiner Firma - sicherlich nicht.
Wir haben ein SAN und einen haufen ESX Server, plus einiges an Kleinkram. Sicherlich ist Bandbreite immer gut. Aber wir nutzen unsere 100G Links ja aktuell schon kaum aus.

Naja Nvidia redet da von 100000 GPUs, da kannst dir dann eh ausmalen welche Dimensionen das sind.

Wir haben selber mehrere dutzend Server/Cluster + Ceph mit 100G laufen aber das sind doch Peanuts dagegen. Google & Co denken ja nicht mehr in Racks sondern in Rackcontainern oder größer. Bei Bestellungen bei unserem Distro landen wir irgendwo hinten wenn es Engpässe gibt weil quasi keine Revelanz am Markt.

 

[Kazuja]

alles in die Hand nehmen

Ja, so entsteht dann der Nachwuchs....



Meine Frau guckt tatsächlich regelmäßig die Filme durch und erfreut sich an den Erinnerungen.

Sorry für kurz OT.

Grüße Kazuja

 

[Kadett_Pirx]

30 Watt? Da hat man vermutlich den schlechtesten Transceiver auf dem Markt rausgesucht um da punkten zu können.
16 Watt zu 10 Watt würde natürlich nicht nach so was tollem klingen:
https://www.flexoptix.net/de/d-858hg-005-mp.html?option875=1
...

war zu erwarten, daß diese Meldung zu positiv klingt (als ob einfach alle Marketingaussagen nVs übernommen wurden) und daß man für fundierte Infos auf Kommentare warten, oder selbst recherchieren muss - aber wozu braucht man dann noch die Fachpresse?

 

[ebird]

Okay, für mich als Laie in diesem Bereich klingt das nach wirklich sehr gutem Fortschritt! Senkung des Energieverbrauchs ist immer gut, besonders in Zeiten wo dieser nicht nur gefühlt immer weiter in die Höhe zu steigen scheint!

NVidia und Senkung des Stromverbrauchs. Der war gut.

 

[iron_monkey]

Also ich soll ein schlechtes Gewissen haben wegen meiner Spiele GraKa, die ich ab und an nutze.... und die nerven alle mit ihrem AI Zeug und ich lese etwas von Megawatt nur für optische Verbindungen. Naja, wenigstens bilde ich mir ein, dass es auch zu wissenschaftlichen Zwecken genutzt wird, besser als Coins...

 

[Uzer1510]

NVidia selber geht ja nach Huangs Aussagen von gigantischen AI Zentren die dann auch mal 1 Mio GPUs haben werden aus - denke das wird wohl nicht komplett unrealistisch sein (zumindest mehrere hunderttausend), die werden doch mit den "Big Playern" im Gespräch sein.

AI ist halt aktuell ganz ganz am Anfang das ist so wie die ersten PCs mit - was hatten die 640 Kbyte?

 

[FreshGordon]

Nvidia weiterhin auf gutem Weg alle Bereiche der Data Center unter Beschlag zu nehmen. Die setzen ihren neu gewonnenen Reichtum gut ein, muss man der Lederjacke lassen.

 

[Weyoun]

Und die Rechnung funktioniert auch nur für bleeding edge 800GBit, ich bezweifle mal ganz stark die Verbreitung davon. Bei geringeren Bandbreiten geht es schnell ins belanglose:
400G -> 10W
200G -> 5,5W
100G -> 3,5W

Die Angaben beziehen sich allesamt auf den PHY alleine (Transceiver) oder die gesamte optische Übertragung (inkl. PHY und Laser)?

Wenn auf so ner Kiste ein Port defekt ist (was im Alltag doch recht häufig passiert) kann man den abschreiben oder muss die ganze Kiste tauschen.
Bei nem Transceiver ist das ein Tausch von ein paar Minuten, hier kann das zu ner Arbeit von Mannwochen werden.

Nachhaltigkeit ist halt leider was anderes.