News HBM3E 16-High: SK Hynix präsentiert Stapelspeicher mit 16 Lagen

[MichaG]

Der aus übereinander gestapelten DRAM-Dies bestehende High Bandwidth Memory (HBM) erhält weitere Schichten. SK Hynix präsentierte erstmals HBM3E mit 16 Lagen (16-high), wodurch ein solcher Speicherbaustein 48 GB Daten speichern kann.

Zur News: HBM3E 16-High: SK Hynix präsentiert Stapelspeicher mit 16 Lagen

 

[MehlstaubtheCat]

Wäre schön, wenn es auch wieder auf die Gaming-GPUs drauf kommen könnte!
Ist aber wohl viel zu teuer, leider!

 

[Cr4y]

@MehlstaubtheCat Mangelt es denn dort an Menge und Transferrate? Die Gerüchte zur 5090 sehen mit GDDR7 zumindest recht ordentlichen aus.

 

[SaschaHa]

Die größte Schwachstelle an HBM(3E) ist, dass es zu gut ist, um an Gaming-GPUs "verschwendet" zu werden. Schade, es könnte so schön sein!

 

[SweetOhm]

"Next AI Memory"

Das sagt doch schon alles (zumindest einiges) ...

 

[ETI1120]

Die größte Schwachstelle an HBM(3E) ist, dass es zu gut ist, um an Gaming-GPUs "verschwendet" zu werden.

Die Datentransferraten sind nicht nur viel zu hoch es wird eben auch zu teuer.

Schade, es könnte so schön sein!

Was willst Du mit Technik die letztendlich kaum*) einen Vorteil bringt, aber zu deutlich höheren Kosten führt?

*) Bauform, aber je kleiner desto aufwändiger die Kühlung

 

[Sternengucker80]

Da die ganzen KI Monster auf HBME setzen, wird es keinen Nachfolger der RVII geben. AMD, hatte nur die MI50 (Vega20). Hätte die einen Reisenden Absatz gefunden, wäre die RVII, wohl auch nicht in den Konsumerbereich gefunden. Das sowas nochmal vorkommt, wohl eher nicht.

 

[Flutefox]

Bauform, aber je kleiner desto aufwändiger die Kühlung

HBM erzeugt nicht so viel Abwärme wie GDDR, ist also leichter kühlbar. Die Platinen der GPUs sind bereits jetzt oft nicht so groß, die Kühlung würde nicht wirklich aufwendiger werden.

 

[CDLABSRadonP...]

Der 16-High-HBM soll gegenüber dem 12-High-Pendant zudem mehr Leistung bieten. SK Hynix spricht von 18 Prozent schnellerem Training und 32 Prozent schnellerem Inferencing bei nicht näher beschriebenen KI-Anwendungen. Zum eigentlichen Durchsatz macht das Unternehmen aber keine Angaben.

Danke für den letzten Satz. Ein gelungenes Beispiel dafür, wie man vehement Kritik äußern kann, ohne sie tatsächlich auszusprechen...

 

[modena.ch]

*) Bauform, aber je kleiner desto aufwändiger die Kühlung

Das Speicherinterface ist bei HBM viel fetter als bei GDDR und der Speichertakt viel niedriger->ist deutlich sparsamer und damit leichter zu kühlen.

 

[SaschaHa]

Was willst Du mit Technik die letztendlich kaum*) einen Vorteil bringt, aber zu deutlich höheren Kosten führt?

• deutlich energieeffizienter
• deutlich platzsparender

Die deutlich höheren Kosten dürften unter anderem auch der hohen Nachfrage im Datacenter-Bereich geschuldet sein, daher ja mein Kommentar Und wie groß der Leistungsvorteil sein mag, lässt sich ohne Vergleichswerte ja schlecht beurteilen. Vermutlich würde er tatsächlich nicht allzu groß ausfallen, aber ohne Vorteil bliebe es ganz sicher auch nicht.

 

[ETI1120]

Höhere Kosten können nicht durch höhere Nachfrage nach dem Produkt verursacht werden. Im Gegenteil.

Die Preise können steigen wenn die Nachfrage das Angebot übersteigt.

Ich habe leider bisher keine brauchbare Aufschlüsselung der Kosten gesehen. Aber so wie ich Raja Koduri verstehe sind die Kosten von HBM mit jeder Generation gestiegen. IIRC hat er im Scherz vom inversen Moore'schen Gesetzt geredet.

Und was die Energieeffizienz angeht habe ich andere Dinge im Ohr. Die Taktfrequenz wurde massiv erhöht und soll nochmals massiv steigen.

 

[Red_Bull]

ich will das auf der nächsten radeon sehen
hatte hbm 2 auf meiner vega

warum immer das alte vorkriegs gddr...

 

[SaschaHa]

Die Preise können steigen wenn die Nachfrage das Angebot übersteigt.

Stimmt, sollte auch Preise heißen, habe versehentlich das falsche Wort verwendet.

Bezüglich der Energieeffizienz sind mir leider auch keine aktuellen Zahlen mehr bekannt, in erinnere mich diesbezüglich in erster Linie an die älteren HBM-Generationen, bei denen immer von einer "vielfach höheren" Leistung pro Watt die Rede war. Ich meine, es wäre Faktor 4x oder 5x gewesen, aber ich kann mich auch irren.

Da dies letztendlich ja eine Notwendigkeit ist, damit eine solche Stapelung überhaupt funktioniert, ohne in thermische Schwierigkeiten zu kommen, und da auch (G)DDR-Speicher deutlich an Takt zugelegt hat, würde ich persönlich davon ausgehen, dass auch HBM3E weiterhin deutliche Effizienzvorteile gegenüber GDDR6X/7 hat, aber vermutlich deutlich geringer als damals. Thermisch könnte es sich durchaus dahingehend entwickelt haben, dass HBM nun heißer läuft und dadurch schwerer zu kühlen ist, zumal neben der Erhöhung der Taktraten jetzt ja auch "höher" gestapelt wird.

Dennoch, eine absolut spannende Technologie! Hoffen wir, dass Raja Koduri's Aussage irgendwann mal hinfällig und HBM günstiger zu fertigen sein wird!

 

[Convert]

Ich habe leider bisher keine brauchbare Aufschlüsselung der Kosten gesehen. Aber so wie ich Raja Koduri verstehe sind die Kosten von HBM mit jeder Generation gestiegen. IIRC hat er im Scherz vom inversen Moore'schen Gesetzt geredet.

HBM 1/2 waren preislich in Ordnung und wurden im Konsumerhardware auch verbaut. Die nachfolgenden Generationen wurden für Workstations entwickelt, und hier entsprechend mehr mit Blick Richtung Performance und weniger Richtung Kosten. Wenn man also ein paar Schritte zurück gehen würde und quasi einen optimierten HBM 2 auflegt, da wären die Preise wieder in Ordnung. Es gibt auch ein paar Vorschläge von Chipherstellern HBM nicht mit Interposer, sondern glaube ich mit InFo anzubinden. Auch das würde die Kosten senken. Das wäre nicht der letzte Kracher in Performance, aber von der Kostenseite wäre es wieder attraktiv. Da aber die Nachfrage nach AI aktuell so hoch ist, nimmt keiner der Hersteller diese Optionen auf, stattdessen wird weiter Richtung Performance und Kapaziätät aufgerüstet, koste es was es wolle.

Und was die Energieeffizienz angeht habe ich andere Dinge im Ohr. Die Taktfrequenz wurde massiv erhöht und soll nochmals massiv steigen.

Auch hier könnte man für Konsumerhardware ein paar Gänge runter schalten und wäre immer noch schneller als GDDR7 und dann auch entsprechend sparsamer. Macht aber keiner, weil aktuell alles Richtung AI optimiert wird. Aber wenn das abgeflacht ist und GDDR7 ausgereitzt ist, vielleicht besinnt man sich dann wieder auf sparsamen und günstigen HBM-Speicher für Gaming-GPUs.

 

[ETI1120]

Dennoch, eine absolut spannende Technologie!

Und? Es gibt sehr viele spannende Technologien.

Aber wenn man ein Produkt bezahlen muss kommt es eben auf Leistung und Kosten an.

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[latiose88]

ja und bei je niedirger die Auflösung desto geringer auch der Gewinn durch die Bandbreite.Ich wüsste auch nicht das Full HD so hohe anforderung an die Bandbreite und so hätte.
Hat ja auch ein Test gegeben wie viel das so bringt.Und der Gewinn war sehr gering gewesen.Und in der Mittelklasse wird es das nicht geben.

 

[eastcoast_pete]

Interessant wäre auch, ob Nvidia diese neue HBM Variante schon für ihre Blackwell-basierten Beschleuniger evaluiert.
Gerade da ist der Appetit für noch schnelleres und größeres HBM fast unersättlich.

 

[SSD960]

Dabei hoffte ich damals bei der ersten Grafikkarte mit HBM Speicher das das für uns Gamer die beste Lösung ist für die Performance. Jetzt hoffen wir das überhaupt noch bezahlbare Grafikkarten kommen !

 

[SaschaHa]

Und? Es gibt sehr viele spannende Technologien.

Aber wenn man ein Produkt bezahlen muss kommt es eben auf Leistung und Kosten an.

Hab ja auch nichts anderes behauptet

Zitat:

Hoffen wir, dass Raja Koduri's Aussage irgendwann mal hinfällig und HBM günstiger zu fertigen sein wird!