AMDs AI-Beschleuniger Instinct: MI325X startet kastriert, Instinct MI355X soll dann liefern

AMDs neuer HPC-AI-Beschleuniger Instinct MI325X ist mit einem Produktionsstart im vierten Quartal dieses Jahres und breiter Verfügbarkeit erst ab Q1/2025 ziemlich spät dran, deshalb bringt AMD zur Vorstellung den CDNA-4-basierten Nachfolger Instinct MI355X direkt mit. Gegen Nvidias Blackwell braucht es alles, was geht.

AMD Instinct MI355X als Argument gegen Blackwell

AMD Instinct MI300 ist der einzige „echte“ Herausforderer von Nvidia. Doch es geht langsam voran, die Absätze und Umsätze steigen zwar deutlich, aber noch lange nicht so schnell und so hoch, wie sie bei Nvidia sind. Dort trennen beide Unternehmen weiterhin Welten. AMD weiß vor allem auch um die Notwendigkeit der Verbesserung bei der Software, wie Lisa Su gleich zum Auftakt klar gemacht hat.

Dass AMD deshalb den Zyklus für Neuvorstellungen in dem Bereich angepasst hat, zeigt die nun erfolgte Vorstellung, aber auch direkt die Vorschau auf das nächste Produkt, welches in der zweiten Jahreshälfte 2025 in Serienproduktion geht, wie die zuständigen Abteilungsleiter in einem Pre-Briefing am Tag vor dem Event erklärten. Später fügte Forrest Norrod als Chef der gesamten Datacenter-Sparte hinzu, dass der Launch schon zur Mitte des Jahres erfolgen würde. Wenn man mit Nvidia mithalten will, wird das auch nötig sein.

Instinct MI325X vor dem Start noch einmal angepasst

Mit dem heute vorgestellten Instinct MI325X schließt AMD nämlich nur kleine Lücken respektive stellt quasi einen Refresh von MI300X vor. Dieser bietet mehr Compute-Leistung dank höheren Taktraten und kann auf mehr Speicher vertrauen. Genau beim Speicher gab es aber noch eine Anpassung, die durchaus interessant ist.

Instinct MI325X kommt mit weniger Speicher

Zur Computex 2024 hatte AMDs CEO Lisa Su auf der Bühne erklärt, Instinct MI 325X würde 288 GByte HBM3e bieten. Heute nun wird das Modell mit „nur“ 256 GByte in den Markt geschickt, bei jedoch gleicher Bandbreite. Der Frage nach dem „Wie“ und „Warum“ ging AMD aus dem Weg, erklärte es lediglich als ein besser passendes Design.

Es klingt aber eher danach, dass die 36-GByte-Chips, die es für solch einen Speicherausbau von 288 GByte benötigt, entweder nicht zur Verfügung stehen, oder hier und da doch nicht die Ausbeute in Bezug auf den hohen Takt erzielen bzw. teildefekt sind, sodass auf 32 GByte pro Chip reduziert wird. Auch Nvidia traf zuletzt auf so einige Probleme mit HBM, kastrierte ebenfalls regelmäßig die Kapazität und hier und da auch den Takt. Gern dürfte AMD diesen Schritt letztlich nicht gegangen sein, wenn der Chef es auf der Bühne doch erst vor wenigen Monaten so angekündigt hatte.

AMD erklärt die neuen Instinct MI325X mit bis zu 1.000 Watt TDP trotzdem als Gegenspieler zu H200 und sieht sich in eigenen Tests einmal mehr vorn. In unabhängigen Tests dürfte das wie üblich etwas anders aussehen, es kommt aber gerade bei AI-Tests immer auf den Workload an. AMD verspricht jedoch auf die Frage, was die neuen Lösungen denn kosten sollen, dass die TCO höher sein soll als bei Nvidia, geht der Preisfrage so aus dem Weg und beantwortet sie nicht. Sie bleiben dabei, dass ihr Produkt eine höhere Leistung liefert, also könnte in der TCO-Rechnung dann der Preis in der Theorie sogar gleichauf wie bei Nvidia liegen. Ob das in der Realität letztlich aber so ist, steht auf einem anderen Papier.

Auf die Nachfrage, ob es Probleme beim Supply gibt, verneinte AMD dies einmal mehr. Schon zuletzt war der Tenor, dass AMD genau so viele Instinct-Lösungen liefern kann, wie denn benötigt werden. Dies hatte zuletzt bereits schon zu Vermutungen geführt, dass Kunden nicht wirklich Schlange stehen und weiterhin primär zu AMD greifen, wenn Nvidias Lösungen nicht verfügbar sind.

MI355X mit CDNA4 wird der echte Neuling in 2025

Zum Event hatte AMD deshalb überraschend viel von Instinct MI355X im Gepäck. Sehr früh über derartige neue Beschleuniger zu reden kennt die Branche und Kundschaft aber schließlich auch von Nvidia, AMD folgt hier letztlich dem Marktführer.

1. 

Bild 1 von 2

Mit acht HBM3e-Stacks für insgesamt 288 GByte werden zehn 3-nm-Computer-Chiplets mit Daten gefüttert. Neu ist bei MI355X das FP4/FP6-Format, welches Block Float unterstützt. Block FP16 hatte AMD bei Strix Point eingeführt, dabei geht es in erster Linie um den benötigten Speicherbedarf. In diese Richtung geht es auch bei FP4/FP6 und Instinct, sehr hohe FLOPS sind letztlich die Folge.

Die Design-Basis ist aber noch einmal dieselbe wie bei den bisherigen MI300-Lösungen, weshalb Systeme nur minimale Anpassungen benötigen. Beim Verbrauch, den AMD heute nicht nennt, will das Unternehmen dem Industrietrend folgen. Dies heißt also weiterhin mindestens 1.000 Watt und vermutlich noch mehr, denn der Trend dort geht in Richtung 1.200 bis 1.500 Watt.

Die Software macht große Fortschritte

Die Software als eine Achillesferse von AMD macht zuletzt weitere große Fortschritte. AMD erklärte, dass im letzten Jahr die Leistung so mehr als verdoppelt wurde. Zusätzliche Plattformen und Partner helfen dabei, aber auch Zukäufe und Übernahmen wie zuletzt Silo. Es ist hier und da aber weiterhin viel Arbeit nötig, dennoch stecke in der Software so viel mehr Potenzial, die allein durch Hardware-Updates nie erreicht würde.

Wohl kein MI300A-Nachfolger geplant

Auf die Frage der Presse an AMD, wie es denn um einen möglichen Nachfolger des MI300A aussieht, gab AMD zu verstehen, dass man sich nun um die X-Serie mit Vorrang kümmere. Diese arbeite sehr gut mit CPUs jeder Art zusammen, sie müssen nicht auf dem gleichen Package liegen. Durch die Blume gab AMD damit letztlich zu verstehen, dass es wohl erst einmal keinen Nachfolger eines MI300A, also jener großen APU, geben wird. Ob das Konzept dabei komplett aufgegeben wird, bleibt aber abzuwarten.

1. 

Bild 1 von 35

ComputerBase hat die Informationen von AMD im Rahmen eines Events in San Francisco unter NDA erhalten. Der Hersteller hat dabei die Flüge in der Economy Class, Transfers, Hotelkosten und die Verpflegung übernommen. Eine Einflussnahme des Herstellers oder eine Verpflichtung zur Berichterstattung bestand nicht. Die einzige Vorgabe aus dem NDA war der frühestmögliche Veröffentlichungszeitpunkt.