News Grafikspeicher für Nvidia: Samsung ist bei GDDR7 top, HBM3e macht weiter Probleme

[Volker]

GDDR7 von Samsung kommt auf der Nvidia RTX 5000 (Details) zum Einsatz, doch HBM3e mit 12 Stacks benötigt ein weiteres Redesign, um einsatzfähig zu sein. Dies bestätigte nun sogar Nvidia-CEO Jensen Huang auf der CES 2025, nachdem er vor gut einem halben Jahr Samsung bereits einmal in Schutz nahm.

Zur News: Grafikspeicher für Nvidia: Samsung ist bei GDDR7 top, HBM3e macht weiter Probleme

 

[PS828]

Je höher die Stapel und interne Komplexität je höher ist auch der Verbrauch.

Das ist immernoch Größenordnungen weniger als GDDR und auch kompakter aber keinesfalls ein Selbstläufer.

Dass die öffentliche Kommunikation hier so unaufgeregt und deskalierend ist beweist auch dass die sache auf Ingenieursebene bearbeitet wird. Was passiert wenn das Marketing spricht hat Nvidia ja früher in dieser Woche gezeigt

Sehr erfrischend und gut zu sehen tatsächlich dass es auch anders geht

 

[Shio]

Die Platine der 5090 sieht aber auch mega aus.
Bin echt gespannt wie die Temps der FE werden.

Soll HBM bei NV eigentlich auch für Consumer kommen oder nur für Business-Hardware?

 

[estros]

Das ist immernoch Größenordnungen weniger als GDDR und auch kompakter aber keinesfalls ein Selbstläufer.

Von welcher Größenordnung redest du, um sich eine Vorstellung zu machen?

 

[PS828]

@estros da nie genau kommuniziert wird wie die im Detail auf den HPC chips getaktet werden ist zumindest von Faktor 3-5 besserer Effizienz auszugehen für gleiche Bandbreite.

Was HBM halt tut ist eine sehr effiziente Möglichkeit zu schaffen über ein Extrem breites Interface viel Kapazität anzusprechen wo man bei GDDR (welcher dann wesentlich billiger ist) viele Chips braucht und entsprechend Platz auf dem Board.

Bei HBM werden die Speichergruppen Chip zu Chip übereinander durchkontaktiert was wege reduziert und auch den Energiebedarf senkt (zusätzlich zu den anderen genannten Vorteilen)

Auch ist zu bemerken dass dieser Vorteil steigt je größer die Kapazität ist. GDDR kommt nie so wirklich über 1-4 GB pro chip hinaus wobei 2 GB die Regel sind. Das braucht wie angesprochen viel Platz und entsprechende signalwege. Da trennt sich dann die Spreu vom Weizen.

 

[Cempeg]

Als XMX-Modul ab ins Notebook mit dem Platinchen. 🫣

 

[SSD960]

Soll HBM bei NV eigentlich auch für Consumer kommen oder nur für Business-Hardware?

Die Vorstellung hatte ich auch mal. Für uns wohl zu teuer. Aber wer weiß, vielleicht irgendwann.

 

[ICHBINDA]

HM, Verstehe ich nicht HBM ist doch auf den Blackwell Servern on Mass verbaut

 

[Flutefox]

Leider nicht für Consumer. Jaja, Packaging, zu teuer, dies das, kennen wir alles.

Da GDDR aber dennoch im Vergleich zu HBM viel mehr Abwärme erzeugt und auch der Strombedarf höher ist wäre es supi, HBM wieder in Consumer Karten zu sehen.

 

[CrAzYLuKe]

@Flutefox gab‘s ja schon mal bei AMD 2015/16.
Latenz war wohl auch niedriger. Durchgesetzt hat es sich hier noch nicht. Mal sehen wann.

 

[Flutefox]

@CrAzYLuKe Deshalb habe ich auch "wieder" geschrieben. Gab es übrigens auch bei dieser Intel/AMD Nuc Geschichte als Radeon RX Vega M GH mit 4GB HBM2!

 

[theGucky]

Als XMX-Modul ab ins Notebook mit dem Platinchen. 🫣

Nur wie dann 575W kühlen.

 

[stefan92x]

HM, Verstehe ich nicht HBM ist doch auf den Blackwell Servern on Mass verbaut

Aber eben von SK Hynix, nicht von Samsung. Darum ist Nvidia ja auch relativ entspannt, sie haben ja Zugriff auf HBM3e, nur eben nur von einem Hersteller.

 

[Eneloop]

Samsung benutzt die veraltete 1a core die während die Mitbewerber SK Hynix und Micron schon 1b core die benutzen. Auch wenn man die Bezeichnungen der Entwicklungsstufen von den Unternehmen nicht identisch sind, liegt Samsung in dem Bereich zurück. Da hat Samsung zu lange erfolglos auf Foudary-Geschäft konzentriert und das Speicher-Geschäft vernachlässigt.
Kürzlich hat aber Samsung berichtet, dass das Unternehmen 1c core die mit guter Ausbeute hinbekommen. Sie haben direkt 1b übersprungen und testet bereits 1d. Auch soll der Logicchip des HBM4 in 4nm ohne Wärmeprobleme laufen. Mit HBM4 werden die Karten neugemischt, da der Aufbau deutlich anders ist als bei HBM3(E). Es ist nur verständlich, dass NVidia mehrere Anbieter haben möchte um bessere Preise und letztlich bessere Marge zu erzielen. Zudem kann NVidia vor großer Nachfrage sowieso nicht genug HBM-Chips bekommen. Bei SK-Hynix sind die Produktionslinien bis Ende dieses Jahres ausgebucht.