News AMD Instinct MI300: Die erste Zen-4-plus-CDNA-3-APU nutzt auch HBM(3)

[bad_sign]

Ach ja, bei solchen News geht bei mir das Geträume wieder los. Das geht schon viele Jahre so
Sowas mit 6 oder 8 Kernen + SMT und einer RDNA3 GPU. Ordentliches HBM3 Stack dazu als Grafikspeciher und ggf. Level 3 Cache für die CPU. Das dann gesockelt für AM5 und rein damit in ein zukünftiges Deskmini. Achja, aber das wird sicher niemels kommen.

Ich weiß nicht ob ein 3000€ teurer Deskmini so toll ist
Auch finde ich kann man nicht mehr als 45W dem Deskmini zumuten, ohne das er zur Turbine wird

 

[Nore Ply]

Die gesamte Fury X mit 4 GB HBM hat vor 7 Jahren 700 Euro gekostet. Von wievielen TByte HBM3 bist Du bei Deiner Annahme von 3000 Euro für den Deskmini ausgegangen?

 

[Sternengucker80]

Es haben ja nicht nur AMD und Via x86 Lizenzen. Da gibt es auch noch einige andere. Siemens z.B., nur weiterentwickelt und wesentlich verbessert, hat es nur AMD.
AMD, war bisher der einzigste, wo immer versucht hat, Intel Paroli zu bieten. Mal besser K7/K8, Zen, mal schlechter Bulldozer 🤷.
Damals wurde AMD verflucht, ATI zu kaufen, ich fand es damals richtig und erst Recht heute. Die Vision von AMD war damals schon APU's. Mit PS und Xbox, zeigen sie ja, was möglich wäre. Das ganze ohne Preisdruck, usw....
Eine Zen CPU, mit ordentlich Grafikleistung und HBM, wäre für AMD kein Problem mehr, nur bezahlen wollten es die wenigsten....

 

[bensen]

@Nore Ply
Entwicklungskosten. Das wäre dazu ein neues Package für einen Nischenmarkt. Wird so garantiert nicht kommen.
Was viel mehr Sinn ergibt, ist eine APU mit (stacked) Infinity Cache. Ob für GPU und CPU shared oder wie auch immer, aber man kann diese APU einfach in AM5 oder den gleichen BGA wie für die andern APUs nutzen.
HBM ergibt einfach keinen Sinn für diesen Anwendungszweck.

 

[Draco Nobilis]

Als Intel HBM für Ihre Serverlösungen ankündigte, habe ich mich schon gefragt was AMD so treibt, wenn man Richtung der Grafikkarten schielt musste da doch was kommen.

Ka was Intel dagegen machen will. Alchemy + HBM + ICore? na das dauert bei Intel noch Jahre, kommt GPU und CPU nicht mal aus der selben Fertigung. Da hilft auch kein Foveros mehr.

 

[ETI1120]

Sowas mit 6 oder 8 Kernen + SMT und einer RDNA3 GPU. Ordentliches HBM3 Stack dazu als Grafikspeciher und ggf. Level 3 Cache für die CPU. Das dann gesockelt für AM5 und rein damit in ein zukünftiges Deskmini.

Wie soll das rein von der Fläche passen?

Achja, aber das wird sicher niemels kommen.

HBM müsste massiv billiger werden.

Apple bietet so was schon längst an. aber mit LPDDR5.

Wenn man eine schnelle APU will muss man sich vom herkömmlichen PC-Design verabschieden. CPU + GPU + IP + RAM ins SoC-Package.
Es muss kein HBM, sein wie es Apple zeigt. USB4 als IO, ein paar PCIe-Lanes für die SSD zusätzlich Displayport oder HDMI und ein Lautsprecher-Anschluss. Keine DIMM-Slots keine Steckplätze für PCIe Karten.

Aber wer soll so etwas anbieten außer Apple?

 

[PS828]

das CDNA3 als reine GPU im Vollausbau wohl zusammengenommen ~2200 mm² fläche hat lässt mich für das package hier übles erahnen ^^

Vol solchen exascale lösungen und combinierten CPU+GPU modulen hab ich bisher aber nocht nichts gehört, wird man abwarten müssen und ist evtl supercomputer only. mal schauen.

Der rest kommt ja auch wie üblich dezidiert in den server, bin gespannt was AMD da kombinieren wird.

Ergänzung (14. Mai 2022)

kleiner zusatz noch für die träumereien im desktop: große APUs sind kostentechnisch nicht attraktiv, wird man nicht sehen vorerst, und wenn ist es super teuer da die dichte Packung der modularität mit allen vor und Nachteilen vorgezogen wird was große chips, viel ausschuss und limits beim speicher verursacht.

 

[cbtestarossa]

Das wichtigste wäre 4C/8T bis 8C/16T mit jeweils einer superschnellen Vollausbau iGPU.
Mehr CPU Kerne bringen selten etwas.
Die iGPU Leistung sollte auch bei kleinen APUs gleich sein denn wenn es wo hakt ist es die Grafikleistung.
APUs haben sonst keine Berechtigung denn wie wir ja wissen kommen nun auch normale Ryzens mit abgemagerten iGPUs welche für Office locker ausreichen.

APUs machen meist nur für Gamer Sinn und darum gehört die Grafikleistung massiv angehoben!

 

[Makso]

Ich tippe hier eher den Server Bereich 32/64 mit einer 7800XT GPU und das bei 280Watt TDP als eine APU die auf 32/64/128 GB HBM Ram zugreift. Wer weis abwarten und Tee trinken.

 

[cbtestarossa]

kleiner zusatz noch für die träumereien im desktop: große APUs sind kostentechnisch nicht attraktiv, wird man nicht sehen vorerst, und wenn ist es super teuer da die dichte Packung der modularität mit allen vor und Nachteilen vorgezogen wird was große chips, viel ausschuss und limits beim speicher verursacht.

Man könnte die IGP ja in extra Chips auslagern.
Wäre kühltechnisch vielleicht auch von Vorteil.
Die Anbindung ist sicher kein Problem.
Normale GraKas stecken in einen PCIE Slot.

 

[C4rp3di3m]

Also ich würde gerne wieder eine Desktopkarte mit HBM kaufen, sollte es zusätzlich ggf. eine Art AMD NUC/mini PC mit HBM geben wäre das auch interessant.
HBM gefällt mir einfach, was die Kosten angeht, wird das übertrieben. Bedenkt man dass die HBM Karten z.b. Radeon 7 sehr viel Günstiger waren als heute Grakas kosten, kann dass so nicht stimmen.

mfg

 

[Raziel-Noir]

Nö. Es ist ein Gerücht. Und ein recht unrundes noch dazu.

Hm. Und trotzdem eine schöne Idee, nicht nur für den Supercomputingbereich

 

[n3xtrem]

Man könnte die IGP ja in extra Chips auslagern.
Wäre kühltechnisch vielleicht auch von Vorteil.
Die Anbindung ist sicher kein Problem.
Normale GraKas stecken in einen PCIE Slot.

In den Anfangszeiten der IGP war das sogar so. Da war die IGPU in den Chipsatz auf dem Mainboard integriert.
War von der Leistung her nicht sooo dolle und brachte durchaus auch so seine Problemchen mit sich Aber in AMDs Chiplet Design könnt ich mir das gut vorstellen. Hab heute erst gelesen das angeblich Ryzen 7000 ähnlich wie Intel standardmäßig ne IGPU mit RDNA2 bekommen sollen. Wenn das stimmt, kommt da in Verbindung mit DDR5 was richtig fettes.

 

[puri]

Wäre vielleicht was für die Virtualisierung von CAD-Workstations. Aktuell braucht es dazu ja ESXe mit 1-2 6000€ Karten um 20-30 CAD-Workstations zu virtualisieren. Stattdessen nur 2 Server-APUs mit je 24-32 Kernen ( die dann auch gerne 5000-6000 € pro Stück kosten können) - das wäre schon was!

 

[3faltigkeit]

@bad_sign also ich hab einen 4650G im Deskmini der hat 65 Watt. GPU auf 2275 Mhz. Okay CPU bei 4,1 undervoltet. Beim Zocken ist der aus ca 1,5m Entfernung nicht wahrzunehmen. Gekühlt wird mit dem Thermalright axp90-x47 vollkupfer und Noctualüfter. Dass der Mitgelieferter Kühler Mist ist, ist klar.
65 Watt sind aber auf jeden Fall gut machbar.

Vermutlich kommt in ein Paar Jahren eine Zen4 APU mit RDNA, sicher erstmal 2, auf den Markt. 6 Kerner sicher bei so 250 €. Ob ein 4 oder 8 GB HBM3 Stack dann mehrere 1000€ zusätzlich kosten würde, keine Ahnung. Vega Karten mit HBM2 waren zumindest nicht sonderlich teurer. Dann koster solch eine APU vielleicht 400€ oder 500€. Aber Richtung 2500€ damit ein 3000€ Deskmini raus käme, wäre sicherlich etwas übertrieben.

@ETI1120
Ja, die Fläche wäre da sicher ein Thema für AM5. Meinetwegen kann auch ein 128MB Infinity Cache Chip sein, der neben CPU, GPU und I/O mit drauf kommt. Muss ja nicht HBM sein.

Davon ab, hatte ich von Träumen geschrieben.
Einfach die Vorstellung es gebe so etwas, wäre Klasse. Dass das im Moment Real nicht unbedingt möglich/umsetzbar ist, wäre mit dem "davon Träumen" schon impliziert gewesen, hätte ich zumindest gedacht.

 

[[wege]mini]

bin gespannt was AMD da kombinieren wird.

Fassen wir doch mal zusammen.

AMD will bis zu 28160 GPU cores mit zen4 zusammen in einer APU integrieren, zusammen mit fast 200GB RAM.

Die MI250 hat bei 14080 GPU cores ohne CPU cores, 95,7 TFlops in FP32. Wir landen dann also bei fast 200 TFlop plus CPU cores auf einem Interposer.

Das geht ganz sicher nicht, mit 60 Watt? Oder etwa doch? Träumen ist erlaubt.

Das ist keine Technik für Daddelkids und es wird ganz sicher nicht billig. In 5 Jahren, wird es das dennoch für jedermann geben. Ganz sicher aber nicht nächstes Jahr.

Der eingeschlagene Weg ist gut und für verteiltes Rechnen, ist dieser Weg total vernünftig.

Ob der Homeuser, der gerne daddelt, dann seine "Maschine" von "zu hause" in eine Serverfarm verlegen möchte, liegt immer am user, am Angebot, am Preis und an der Anbindung. (mit 16Mbit, rockt das nicht).

Das Gestalten der Zukunft ist kompliziert und manchmal, braucht man auch mal 10 Jahre Anlauf. AMD macht das aktuell aber sehr ordentlich und die Tatsache, dass sie aktuell eher im Bereich Fortschritt (schafft Marktanteile) als im Bereich Gewinn orientiert sind, hilft vor allem uns, als Konsumenten.

Wie sagte ich schon vor einigen Jahren: "Es gibt noch so unglaubwürdig viele Dinge, die gebaut werden könnten, die aber aktuell unwirtschaftlich sind".

Ich schätze einfach mal, 10-30k Euro, wird eine Platine kosten.

Aber mal ehrlich. Eine PS5 liegt bei round about 10 TFlop. Wir reden hier über 200.

mfg

 

[Nore Ply]

@Nore Ply
Entwicklungskosten. Das wäre dazu ein neues Package für einen Nischenmarkt.

Das hat Intel nicht abgehalten und das Intel Kaby Lake-G nennenswert subventioniert hat halte ich für überaus unwahrscheinlich.

Wird so garantiert nicht kommen.

Ich habe keinerlei gegenteilige Informationen. Aber ich hab schon ein paar Jahre auf dem Buckel und immer wenn mir jemand garantiert das etwas nicht möglich ist oder nicht passieren wird oder nicht kommen wird fange ich an zu grinsen. Deine Garantiekarte lege ich mir mal in die Schublade.

Was viel mehr Sinn ergibt, ist eine APU mit (stacked) Infinity Cache.

Erinnert sich noch jemand an die Diskussion um den fehlenden GPU-Cache bei Llano/Bulldozer? "das geht nicht, bzw. das bringt nichts, weil die Zugriffsmuster vieeeeel zu verschieden sind von denen einer CPU". Nun sind wir uns doch alle einig das eine APU mit mehr Cache eine gute Sache wäre und halten es für wahrscheinlich dass sie realisiert wird. Kein Widerspruch von mir...

 

[DevPandi]

So wie ich das weiß war Intel praktisch gezwungen, Marktfairness und so.

Nicht Marktfairness. IBM hat Intel dazu gezwungen, die Lizenzen damals an ein paar Firmen zu vergeben. Das ging sogar so weit, dass Intel sogar bis zum 486er den ganzen Prozessor herausgeben musste. IBM wollte nie abhängig von nur einem Lieferanten sein, also war Intel dazu gezwungen.

 

[bensen]

Das hat Intel nicht abgehalten und das Intel Kaby Lake-G nennenswert subventioniert hat halte ich für überaus unwahrscheinlich.

War ja auch ein riesiger Erfolg. Wie viele Geräte wurden damit ausgestattet?
War dann wohl doch zu teuer um interessant zu sein.

Deine Garantiekarte lege ich mir mal in die Schublade.

Gerne. Ich have auch einige Jahre auf dem Buckel. Es spricht aber einfach zu viel dagegen. Wenn eine starke APU kommt, dann gibt es so viele bessere Wege als HBM.
Vor allem ist AMD schon den halben Weg gegangen.

Erinnert sich noch jemand an die Diskussion um den fehlenden GPU-Cache bei Llano/Bulldozer? "das geht nicht, bzw. das bringt nichts, weil die Zugriffsmuster vieeeeel zu verschieden sind von denen einer CPU".

Nein ehrlich gesagt nicht.

Der Unterschied ist, das die CPU vor allem niedrige Latenz braucht und die GPU massig Bandbreite. Das beißt sich schon etwas. Wenn ein shared Cache kommt, würde ich bei der CPU schon eher auf L4 Ebene tippen. Oder ein deutlich größerer L2.

 

[Nore Ply]

War ja auch ein riesiger Erfolg.

Gerade eben ging es noch um die Herstellungskosten, nun um "Erfolg". Rückzugsgefecht?

Wie viele Geräte wurden damit ausgestattet?
War dann wohl doch zu teuer um interessant zu sein.

Tut das irgendwas zur Sache? NUC-Kits mit Kaby Lage-G wurden ( diesem Test zufolge)
für rund 1000 Euro verkauft, das ist der Punkt. Nun könntest Du anmerken dass Intel die CPU+GPU hoch subventioniert haben könnte. Darauf würde ich anmerken dass Intel sowas nur dann tun würde wenn sie sich einen Vorteil davon verspricht und das ich das für höchst unwahrscheinlich halte.