News AMD Instinct MI300C: Ein Custom-Epyc-Prozessor mit 128 GB HBM3 für Microsoft

Volker

Ost 1
Teammitglied
Registriert
Juni 2001
Beiträge
18.734
  • Gefällt mir
Reaktionen: ETI1120, SweetOhm, Kazuja und 2 andere
der profi Segment wird für amd jetzt die nächste Herausforderung, nachdem sie das Desktop Segment dominieren.

exklusive Lösungen ala Custom Epyc für große solvente Kunden , könnten vllt eine Nische sein, indem hohe Margen möglich sind weil die Entwicklung immer rasanter und die Halbwertszeiten von Mainstream cpu´s immer kürzer werden

AMD zeigt, dass sie nicht mehr nur die zweite Geige sind; indem sie Intel in ihrem (noch) dominierenden Servermarkt klar dass auch hier die Kehrtwende gekommen ist.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: SweetOhm
Mächtiges Gerät, um HBM ist im High Performance Bereich kein weg mehr drum herum wie es scheint. Es müssten nur mal die Preise sinken, dass wir das ganze auch im Massenmarkt sehen, zumindest für Enthusiasten.

Abseits der Kostenfrage stellt sich auch die Frage, ob HBM mit einer Cache Lösung wie dem Infinity Cache nicht geeignet wäre für neue Konsolen. Die Abwärme ist geringerals bei klassischen Lösungen, der absolute Platzverbrauch ebenfalls. Das würde Leistung satt bedeuten und durch einen hohen Abnehmermarkt ggf. auch massentaugliche Preise.
 
Jetzt also doch! Bin gespannt, wie viele jetzt-also-doch-Momente wir noch auf Basis von den Zen5- & Zen5C-Chiplets sehen werden.
 
  • Gefällt mir
Reaktionen: Flutefox
Ui, das ist ein mächtiges Brettchen und ja Crysis läuft alleine im RAM bevor die Frage wieder aufkommt. 😁
 
  • Gefällt mir
Reaktionen: SweetOhm
Hat jemand eine Idee wie die Kosten einzuschätzen sind? 4x2GB HBM hatten wir bei Vega im 300€ Bereich. IOD und Interpocer decken das ganze Marksegment bis runter zum 45€ Low End ab.
Theoretisch würde ein Stack mit beispielsweise 16GB als L4 ganz locker ausreichen und DDR5 zumindest im Mobilbereich optional machen.
Wo ist also abgesehen von der Verfügbarkeit das Problem?
 
Und die Konkurrenz?
Intel ist nicht nur in Sachen Fertigung weit abgeschlagen, sondern hat auch in Sachen Chiplets/Tiles einen Rückstand von ca. 3-4 Jahren.
AMD hat neben seinen Chiplets (CPU/GPU) auch ein funktionierendes Ökosystem gebaut, das es ermöglicht maßgeschneiderte Lösungen für Großkunden anzubieten. Und damit auch noch Geld zu verdienen.
 
  • Gefällt mir
Reaktionen: Ned Flanders und SweetOhm
Flutefox schrieb:
Abseits der Kostenfrage stellt sich auch die Frage, ob HBM mit einer Cache Lösung wie dem Infinity Cache nicht geeignet wäre für neue Konsolen. Die Abwärme ist geringerals bei klassischen Lösungen, der absolute Platzverbrauch ebenfalls. Das würde Leistung satt bedeuten und durch einen hohen Abnehmermarkt ggf. auch massentaugliche Preise.
Es gibt halt schlicht keinen LowCost-Ableger von HBM. Und, wie mir oftmals in Reaktion auf diese Beobachtung entgegnet wurde, ist ohnehin die Frage, wie viele der Vorteile bei einem LowCost-Ableger noch übrig bleiben würden. Schon heutiger HBM ist deutlich mehr in Richtung Performance als Effizienz orientiert als es noch der ursprüngliche HBM und HBM2 war. Das erste, was ein LowCost-Ableger opfern würde, wäre Effizienz.
Ich fand das Konzept von GDDR6W sehr ansprechend, im Kern zweifach gestapelter GDDR6 mit verdoppelten Interface und entsprechend doppelter Verkabelung direkt zum Package. Damit hat man immer noch nicht den Vorteil von HBM, dass alle Hitzeentwicklung an einer zentralen Stelle liegt, aber immerhin macht man die Boards kompakter. GDDR6W kam aber nie an. Vielleicht wird es ja ein GDDR7W geben, das dann den Durchbruch schafft.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Flutefox
GDDR6W bietet ja auch keine Vorteile vs normalen GDDR6, wahrscheinlich sind sogar geringere Taktraten möglich, da enger verdrahtet > mehr Interference.
HBM macht bei Consumern wenig Sinn. GDDR6(X)/7 (+Cache) ist schnell genug.
 
Die CPU mit 35W wird nicht im Laptop erscheinen, oder? ;)

Wenn doch, hätte ich gerne eine 😃
 
Chesterfield schrieb:
der profi segment wird für amd jetzt die nächste Herausforderung, nachdem sie das desktop segment dominieren.
Eigentlich ist die (technische) Dominanz von AMD im Server-Bereich seit Jahren größer als im Desktop Bereich, und das war auch seit Zen 1 der Markt, auf den sich AMD primär fokussiert hat.
Chesterfield schrieb:
exklusive lösungen ala Custom Epyc für grosse solvente Kunden , könnten vllt eine Nische sein, indem hohe Margen möglich sind weil die Entwicklung immer rasanter und die Halbwertszeiten von mainstream cpu´s immer kürzer werden
Für einen CPU-Hersteller sind AMDs Margen aktuell relativ gut (und viel besser als Intels, trotz niedrigerer Preise). Da schlägt sich das technisch relativ simple Chiplet-Konzept der Ryzen/Epyc-Lösungen sehr gut. Speziell angepasste Epyc-Varianten sind übrigens auch nichts neues, ebenso wenig die Tatsache, dass die dann oft später allgemein verfügbar wurden. Das erste derartige Modell was mir spontan einfällt ist der 7H12, als HPC-Variante von Zen 2 (effektiv ein 7742 von der Stange mit höherer TDP und angepassten Taktraten).

Generell ist es aber in der Tat ein Punkt, dass AMD mit seinen "Semi-Custom-Lösungen" ganz gut aufgestellt ist, wobei das effektiv am meisten Richtung Spielkonsolen geht. Trotzdem hilft die Erfahrung mit sowas natürlich dem ganzen Unternehmen, wenn spezielle Anfragen reinkommen.
Chesterfield schrieb:
AMD zeigt, dass sie nicht mehr nur die zweite geige sind indem sie Intel in ihrem dominierenden Server markt klar dass auch da die Kehrtwende gekommen ist
El Capitan baut ja nur den Vorsprung aus, den AMD schon mit Frontier hatte. Wobei im Fall der Top500 Intel auch gar nicht wichtig ist. Der Löwenanteil an Leistung (und Kapitaleinsatz) liegt bei diesen Systemen nicht in den CPUs, sondern in den GPUs (von Spezial-CPUs wie bei Fugaku abgesehen). AMD hat da gezeigt, dass sie sich mit Nvidia messen können, aber Intel spielte dafür eh seit Jahren keine Rolle mehr.

Salutos schrieb:
Und die Konkurrenz?
Intel ist nicht nur in Sachen Fertigung weit abgeschlagen, sondern hat auch in Sachen Chiplets/Tiles einen Rückstand von ca. 3-4 Jahren.
Liefert Xeon Max seit eineinhalb Jahren aus (also deren CPU mit HBM). In dem Fall zieht AMD also nach, statt einen Vorsprung zu haben. Intel produziert übrigens durchaus erfolgreich Chiplets und nutzt ähnliches Packaging wie AMD. Bislang scheint AMD aber in der Tat besser darin zu sein, kosteneffiziente Designs zu entwerfen, bei Intel wirkt vieles wie Overkill und wurde deswegen teilweise auch schon wieder reduziert in der Anzahl der Chiplets (4 bei Sapphire Rapids vs 2 bei Emerald Rapids z.B.).

Es bleibt als Unterschied halt wirklich die Lithografie selbst (zumindest für die Chips, die Intel nicht auch bei TSMC zukauft) und vor allem auch das Chipdesign an sich.
 
  • Gefällt mir
Reaktionen: SweetOhm
Botcruscher schrieb:
Wo ist also abgesehen von der Verfügbarkeit das Problem?
Teilweise ist eine der Stärken von HBM mit ein Problem. Man kann mittlerweile sehr viele DIEs übereinander stapeln. Entsprechend kann man halt, anstatt dass man zwei Stapel mit 16GiB verkauft, auch einen mit 32GiB verkaufen. Für letzteres braucht man aber weiterhin nur einen Interposer...
...das (und die Nachfrage im Serverbereich nach viel Speicher pro Beschleuniger) macht es sehr attraktiv, eben einfach die größten Stapel zu verkaufen.
 
Flutefox schrieb:
. Das würde Leistung satt bedeuten und durch einen hohen Abnehmermarkt ggf. auch massentaugliche Preise.

Einen hohen Abnehmermarkt gibt es das schon, nennt sich AI.
Da ist massenhaft HBM auf jeder NV GPU und eben auch AMDs Mi300ern. Da wirst eher das Problem der Lieferbarkeit bekommen. Wenn das sonst noch wo drauf soll.
Die HBM Produktion aller Hersteller dürfte bereits Jahre im Voraus verkauft sein.
 
Botcruscher schrieb:
Hat jemand eine Idee wie die Kosten einzuschätzen sind? 4x2GB HBM hatten wir bei Vega im 300€ Bereich.
Es gibt von GamersNexus aus der Zeit eine Abschätzung mit Rücksprache mit Boardpartnern, was HBM etwa mehr kostet (für die damaligen Versionen).


Großartig Marge hatte AMD dabei nicht. Damals ging man von 150 USD für die 8GiB HBM2 aus und von 25 USD für den Interposer. Ist jetzt auch schon 7 Jahre her, aber die Anforderungen an die Chips und die Interposer sind deutlich gestiegen.

Bei 500 USD für die Vega64 und 400 USD für die Vega56 blieb da nicht viel übrig.
Immerhin waren die Wafer damals noch halbwegs günstig. (3000-3500 USD verglichen mit den 16000 USD die TSMC bis vor kurzem noch für 5nm nodes aufgerufen hat)

Botcruscher schrieb:
IOD und Interpocer decken das ganze Marksegment bis runter zum 45€ Low End ab.
Interposer gibt es allerdings auch von ~2 USD bis in den dreistelligen Bereich, je nachdem was man denn haben möchte.
Botcruscher schrieb:
Theoretisch würde ein Stack mit beispielsweise 16GB als L4 ganz locker ausreichen und DDR5 zumindest im Mobilbereich optional machen.
Das gibt es. Nennt sich LPDDR5X (macht einiges intern und bei der Anbindung anders als DDR5). Deutlich teurer als DDR5, aber eine ganze Ecke günstiger als aktuelle HBM Versionen.
Botcruscher schrieb:
Wo ist also abgesehen von der Verfügbarkeit das Problem?
Preis und die Cache Lösungen die mit RDNA2 (Infinity Cache) und Ada eingeführt wurden, haben den Bedarf an Bandbreite erstmal deutlich reduziert.
 
Zuletzt bearbeitet:
modena.ch schrieb:
Einen hohen Abnehmermarkt gibt es das schon, nennt sich AI.
Da ist massenhaft HBM auf jeder NV GPU und eben auch AMDs Mi300ern. Da wirst eher das Problem der Lieferbarkeit bekommen. Wenn das sonst noch wo drauf soll.
Die HBM Produktion aller Hersteller dürfte bereits Jahre im Voraus verkauft sein.
Danke für die Belehrung, ich sprach aber von Privatkunden. 😉
 
Was soll für Privatkunden übrig bleiben, wenn die Profi GPU alles davon benötigen?
Und wie könnte das für gute HBM Preise für die Privaten sorgen?

Das ist doch reichlich unrealistisch....
 
Zurück
Oben