Bericht AMD MI300A & MI300X: Die neue Instinct-Serie ist ein Meilenstein in vielen Bereichen

[incurable]

wir reden natürlich nicht mit "Assembly Firmen" und Foundries weltweit...

Auf deutsch? Sportlich, sportlich.

 

[SpartanerTom]

@Fegr8 Danke für die Info. Habe mich noch nicht lange mit der Materie beschäftigt, deswegen kenne ich mich mit den ROCm Gepflogenheiten noch nicht aus.

 

[cbuser01]

Letztlich wird an der Softwarefront entschieden und da ist Nvidia mit CUDA eben seit 10 Jahren in Vorleistung getreten.

Beeindruckende Hardware dennoch.

 

[ETI1120]

Das ist wirklich ein starkes Package. Ich frage mich ob man hier auch Technologie für ZEN5 ableiten wird.

Ich denke nicht.

Das folgende hat Sam Naffziger auf der ISSCC2020 präsentiert

Nur der 3. Punkt bzw. obere Grafik ist inzwischen hinfällig, da größere Interposer wie noch 2019 gefertigt werden können. Wie man es an der MI300A sieht, die den SH5 Sockel verwendet.
AFAIK hat SH5 identische Maße wie SP5, aber natürlich mit anderem Pinout.

In einem Artikel zum selben Thema erwähnt Sam Naffziger außerdem, dass für die Übertragungsraten, die eine CPU benötigt, mit einem Substrat bewältigt werden können. D. h. solange Zen nur CCDs und IODs verwendet wird es bei einem Substrat bleiben.

Aber hier wird es eher ein Fanout geben als einen teuren Interposer

Aber eine potentielle Ausnahme sehe ich... die in Gerüchten genannte große APU Strix Point mit bis zu 40 CU könnte ein Kandidat für diesen Aufbau sein, halt mit jeweils einem Zen 5 und RDNA 3.5 Chiplet, sowie HBM dazu. Also praktisch vom Package her eine Miniversion der MI300

Und was darf das Kosten?

Strix Halo soll angeblich ein 256 bit Speicherinterface haben. Die MI300 hat kein Speicherinterface.

Eine APU mit großer GPU funktioniert nur in Systemen, die speziell dafür entwickelt werden. Bei den Spielkonsolen von Sony und Microsoft wird GDDR6-RAM als Hauptspeicher verwendet und Apple verwendet on package LPDDR5 mit einem ziemlich breiten Speicherinterface.

Mit 256 bit Speicherinterface würde TR5 passen, aber was willst Du mit einer APU in einer solch teuren
Plattform.

Und als High End Notebook Plattform kann ich mir das nicht vorstellen.

 

[edenjung]

also hat man jetzt MI300X als "reine" GPU die je nach bedarf konfektioniert werden kann und parallel M300A wo wirklich alles so gemisht werden kann wie man es braucht

Quasi "Build a GPU" so wie "Build a bear" wo sich die Kunden ihren Teddybären zusammenstellen können. Da gehen aber auch andere Plüschtiere.
Finde ich aber gut was amd da macht. Ihr Konzept bietet sich für sowas an.

 

[Mr. Vega]

Schade, wenn Firmen glauben sich für solche Präsentationen absurde Unfugsschlagworte wie "3,5D" Verpackung leisten zu müssen.

Nichts Neues und gibt/gab es schon von jedem großen Herstellern in der ein oder anderen Form.

Ergänzung (7. Dezember 2023)

Team Grün hat jedoch abseits der Hardware eben auch eine sehr solide Softwareseite, da muss sich AMD aus meiner Sicht stärker beweisen, dass Team Rot Hardware kann, haben glaube ich alle in den letzten Jahren kapiert.

Ich bin auch sehr gespannt auf ROCm 6.
Gerade dieses Jahr hat AMD viel gemacht im Software Pro Bereich und auch endlich angefangen Windows und die Consumer GPUs, Radeon Pro eben unter Windows mehr in den Fokus zu stellen. Was aber auch nötig/war.

Ergänzung (7. Dezember 2023)

Technisch haben wir nun also auch bei AI einen Konkurrenzkampf. Man wird Nvidia nicht den Rang ablaufen aber sich sicherlich einen Teil vom AI Kuchen sichern. War wichtig und richtig ist, für das Unternehmen aber auch die Kunden.

Ergänzung (7. Dezember 2023)

Letztlich wird an der Softwarefront entschieden und da ist Nvidia mit CUDA eben seit 10 Jahren in Vorleistung getreten.

Was nicht heißt das ROCm von AMD (seit 2016) schlechter ist. Es ist wie CB sagte ein Marathon und kein Sprint im Software Bereich

Ergänzung (7. Dezember 2023)

Vielleicht habe ich es nur übersehen, aber weiß man schon etwas bezüglich RDNA Support für ROCm 6.0 oder bleibt das erstmal nur CDNA?

ROCm ist schon länger freigegeben für Radeon Pro und ausgewählte Customer Modelle unter Linux. Seit ROCm 5.6 kommt nach und nach Windows Support hinzu und mehr Customer Modelle.

https://rocm.docs.amd.com/en/latest/index.html

 

[foofoobar]

Und wenn man package mit Verpackung übersetzt ....spricht schon Bände.

Ach ja, diese Kartoffeln, irgendwie sind die alle gleich.

 

[konkretor]

Hoffentlich tut sich etwas bei der Software.

Meine Erfahrungen in dem Bereich sind leider sehr ernüchternd viele setzen hier immer noch voll auf CUDA. Die Übermacht von Nividia ist hier einfach brutal. Vielleicht hilft es einfach das der Markt aktuell alles aufsaugt wie ein Schwamm.

 

[Skysnake]

Endlich ist die Katze aus dem Sack.

Das ist schon ziemlich geil was AMD da abliefert und es wird sicherlich nicht die letzte Überraschung gewesen sein. Die Werte zu GH200 sind ja ein schöner Fingerzeig.

Aber mein Name ist Hase ich weiß von nichts

MI300X von unten mit 153 Mrd. Davon 😉
In echt sehen die noch kranker aus Anhang anzeigen 1428832

Jup fettes Teil. Jetzt noch Faktor 4 größer werden, dann sind wir wirklich wieder bei den großen Packages aus der TLL Logic Zeit angekommen.

Mit der Power sind wir dann wohl auch wieder in ähnlichen Bereichen

Was man sich mal vergegenwärtigen sollte. 8 750W Teile nebeneinander. Das sind mal eben schlappe 6kW.

Viele bekommen gerade mal 20kW in ein Rack. Die werden also ziemlich leer mit so Monstern uns ich erwarte nicht das es weniger wird.

Ergänzung (7. Dezember 2023)

Hoffentlich tut sich etwas bei der Software.

Meine Erfahrungen in dem Bereich sind leider sehr ernüchternd viele setzen hier immer noch voll auf CUDA. Die Übermacht von Nividia ist hier einfach brutal. Vielleicht hilft es einfach das der Markt aktuell alles aufsaugt wie ein Schwamm.

Ja, viele Entwickler/Firmen sind da extrem lahmarschig....

Ich sehe da aber allgemein eher die National Labs als Triebfeder, da diese auf ihre Agenda geschrieben haben sich nicht mehr von einer Herstellerlösung wie CUDA abhängig machen zu wollen. Das hilft AMD aber auch Intel enorm in meinen Augen.

 

[Floletni]

OCP UBB

Hat man als Redakteur eigentlich bei so einer Vorstellung ein Akronym-Wörterbuch dabei?

 

[Tzk]

Schon interessant, das AMD damals bei Zen3 die X3D Interconnects in der Hinterhand hatte (Stacking nach oben) und nun bei Zen4 beides (Stacking nach oben UND unten) auf den Zen4 Chiplets untergebracht hat. Da hat jemand im Engineering Department definitiv gut geplant.

Ich frage mich ja, ob der Interposer, HBM und das Stacken von CCD, I/O Die und GPU ein Vorbote auf die kommende Konsolengeneration ist. Oder ob das aus Kostengründen weiterhin monolithisch oder als normales Stacking auf einer Platine erfolgt (wie Zen3/4 Cpus). Man darf gespannt sein...

AMD liefert jedenfalls richtig ab, hoffentlich bringt das zusammen mit vernünftiger Software endlich Marktanteile ggü. Nvidia, das quasi Monopol im AI/Compute Markt ist jedenfalls nicht gut für uns alle.

 

[DevPandi]

Dummy Silicon das die Lücke füllt und so für eine Ebene sorgt. Das sollte die Wärmeabfuhr optimieren.

Dazu kommt bei der "Fläche" auch noch die Stabilität dazu, um den Druck ggf besser zu verteilen.

Die ROCm Unterstützung am Markt fehlt einfach ...

Da AMD "ROCm" weitgehend als Drop-In-Replacement umgesetzt hat, ist das an der Stelle nicht so entscheidend.

also hat man jetzt MI300X als "reine" GPU die je nach bedarf konfektioniert werden kann und parallel M300A wo wirklich alles so gemisht werden kann wie man es braucht?

Was AMD hier gezeigt hat, ist vor allem im "Cloudbereich" relevant, da hier dann die GPU entsprechend partitioniert und auf die VMs aufgeteilt werden kann.

ROCm 6 wurde das Paket und Abhängigkeiten umgebaut

Wer das verfolgen will: https://github.com/ROCm/ROCm

Da ist echt gerade einiges los in den Repositorien.

 

[Ayo34]

Mal dumm gefragt, wäre ein Package aus CPU + Grafikkarte + HBM-Speicher nicht auch eine Möglichkeit ein Komplettpaket für Desktop-PCs zu bringen? Ich meine wenn ich diese 3 Komponenten zusammen bringe, dann hat das (scheinbar) ja deutliche Vorteile.

Einmal für uns wegen der Leistung/Effizienz und einmal für AMD, weil sie so 3 Dinge auf einmal verkaufen könnten.

 

[Inxession]

Mal dumm gefragt, wäre ein Package aus CPU + Grafikkarte + HBM-Speicher nicht auch eine Möglichkeit ein Komplettpaket für Desktop-PCs zu bringen?

Sicher möglich, ... aber da werden Sony und MS irgendwie dagegen steuern (können/wollen).

 

[Trelor]

Ich warte gespannt auf Deine Alternative.

Gehäusung ist eigentlich der übliche deutsche Begriff.

 

[Ayo34]

Sicher möglich, ... aber da werden Sony und MS irgendwie dagegen steuern (können/wollen).

Du denkst wegen den Konsolen? Ich habe da weniger an den Einstiegs-PC gedacht, sondern an das Ende von Highend zwischen Spiele-PC und Workstation.

 

[Trelor]

@Ayo34
Ist halt die Frage wer dann ~1500€ für ein SoC ausgibt. Tendenziell haben CPU, GPU und Ram bei den meisten Leuten andere Tauschzyklen und OEMs mögen es viele mögliche Kombinationen anbieten zu könnnen. Das fällt damit halt weg.

 

[M@tze]

Schade, wenn Firmen glauben sich für solche Präsentationen absurde Unfugsschlagworte wie "3,5D" Verpackung leisten zu müssen.

Du echauffierst Dich also erst über die Namensschöpfung, um dann im Prinzip darzulegen dass Du den generellen Aufbau (und damit ob 3,5D hier nicht vielleicht doch irgendwo Sinn ergibt) gar nicht verstanden hast? Gratulation... 🤦‍♂️

(1) Sitzt das Ganze auf einem monolithischem Siliziumträger?

(2) Was sind die 8 Plättchen zwischen den HBM-Stapeln?

 

[MalWiederIch]

Interessantes Teil, wie immer wünsche ich AMD viel Erfolg. Die mit Abstand sympathischste IT Firma für mich.

Was eine seltsame Ansicht der Dinge - es sind nur dämliche Chips
Das eine börsennotierte Unternehmen „sympathischer“ als das andere börsennotierte Unternehmen zu betiteln klingt einfach unreif.

 

[Fauler_Hund]

das sieht so nach einem +3000pin package aus - Haleluja ....auf was für einem x-layer PCB kann man das denn löten...wow

Pi mal Daumen hätte ich so 12 oder 16 Lagen als Ansatzpunkt fürs Layout gewählt.