News AMD Strix Halo: Ryzen AI Max+ 395 genehmigt sich 96 GB Videospeicher

[Picard87]

96GB VRAM schon und gut aber das ist eben wie 2TB Festplatte mit USB2.0 Anschluss...

 

[DevPandi]

Welche konstruktionsbedingten Merkmale sind bei DDRx und GDDRx unterschiedlich?

Die Latenzen ergeben sich in dem Fall durch die "Organistation" der Speicherzellen. Das Thema ist da etwas komplexer ich hab da auch nur noch mein Studienwissen und kann das nicht mehr perfekt wiedergeben.

 

[Sherman789]

So etwas als NUC oder gerne auch auf Mini-ITX zum Selber-Bau wäre von mir sofort gekauft. Diese Möglichkeiten im Desktop/Mobile Bereich bietet sonst nur Apple Silicon - zum 2-3fachen Preis und mit zugeknöpften APIs.

96GB VRAM schon und gut aber das ist eben wie 2TB Festplatte mit USB2.0 Anschluss...

Stimmt schon irgendwie wenn man die Bandbreiten im professionellen Bereich heranzieht. Hier geht es eher darum, überhaupt im Bereich starten zu können. Studium/Lehre/Forschung usw.

Ich persönlich würde mich sehr über so eine Umgebung freuen, für weniger als 2K. Auch wenn die Token dann eher einstellig laufen, aber es läuft.

Training ist dann wieder was anderes, da würde ich auch auf einer 4090 nicht mit anfangen sondern in die Cloud gehen.

Der Profi hat seine 15k+€ AI Workstation oder geht direkt in die Cloud.

 

[Piktogramm]

Welche konstruktionsbedingten Merkmale sind bei DDRx und GDDRx unterschiedlich?

Hauptsächlich die interne Aufteilung. SDRAM ist intern in Bänken organisiert, ein Lese- oder Schreibzugriff auf eine Bank ist exklusiv. Bei GDDR setzt man auf eher größere Bänke, was allerhand Signalverstärker und Logik spart, aber eben auch bedeutet, dass die minimale Größe einer internen R/W-Operation größer ist als bei nicht GDDR-Speicher.
Bei GDDR muss man bei kleinen Speicherzugriffen also länger warten, weil die interne Operation ein n-faches größer ist als bei nicht GDDR und wenn es parallele Zugriffe auf den Speicher gibt kommt es bei GDDR eher zu Kollisionen, weil der Zugriff auf die selbe Bank erfolgt.

An der Stelle, ein Nachruf an Anandtech und die Zeit als sie einfach mal so Grundlagenartikel geschrieben haben: https://www.anandtech.com/show/3851...w-about-sdram-memory-but-were-afraid-to-ask/2

Edit: Stark vereinfacht, ich unterschlage den Teil "Prefetching" komplett!

 

[alyk.brevin]

klingt ja wie ein apple m-prozessor, der auch den aufgelöteten ram als vram nutzt und deshalb für "ki"-anwendungen mehr vram zur verfügung hat als eine 4090.

 

[DevPandi]

Edit: Stark vereinfacht, ich unterschlage den Teil "Prefetching" komplett!

Erst mal: Schön erklärt die Grundzüge der Problematik. Das wusste ich zum Glück auch noch. Aber das Thema ist echt komplex und man steigt aus. Das wirklich griff zu formulierne, dass es auch spaß macht zu lesen, ist eine Kunst.

 

[ETI1120]

Komplexe Sachverhalte rein verbal zu erklären ist unmöglich. Mein TM Prof hat immer gesagt Techniker brauchen Zeichnungen. aber gute Zeichnungen die den Sachverhalt optimal darstellen entstehen auch nicht automatisch.

Grundsätzlich ohne auf Details einzugehen ist es eben in der Technik oft so, dass eine Optimierung für einen Aspekt, Nachteile für andere Aspekte mit sich bringt.

 

[Araska]

Einfach 128 GiB HBM aufs Package klatschen?

Blödsinn beiseite; das Teil ist durchaus interessant - einfach mal auf Verfügbarkeiten und Preise warten; für eine putzige kleine mobile Workstation sieht das gar nicht mal schlecht aus...

 

[KurzGedacht]

Hmm, vielleicht wärs dann sinnvoll APUs nur mit Mittelklasse-CPUs zu kombinieren.

Was ein Quatsch.
Wenn ich schon (endlich) 128 GB Ram an nem breiten Speicherinterface haben kann, ohne dafür gleich zu Threadripper greifen zu müssen, dann gehört da natürlich auch ne High End CPU dran.

Das Ding ist nicht primär für Gamer konzipiert. Es ist ne Konkurrenz zu den Apple Chips und die erste echte Möglichkeit mit x86 in Laptops vernünftige Workstation Performance zu bekommen.

 

[UrlaubMitStalin]

Jetzt muss nur noch die idle-Stromaufnahme passen. Ich erwarte von modernen Systemen 20W und darunter.

 

[ETI1120]

HP ZBook Ultra 14 inch G1a Mobile Workstation PC
https://browser.geekbench.com/ai/v1/58231

 

[aid0nex]

Für mich Interesanter im Desktop als Mobil.
Wofür braucht man sonst solche Leistung.

AMD sagte doch neulich noch, dass man an High End Desktop GPUs aktuell kein Interesse hat:

https://www.computerbase.de/2024-09...fikkarten-sind-fuer-amd-weiterhin-kein-thema/

Ergänzung (Heute um 17:33)

"96 GB Arbeitsspeicher als Videospeicher"

Das wäre unglaublich GEIL! Damit könnte man endlich einige AI-Anwendungen lokal laufen und testen lassen

Habe ich mir auch sofort gedacht, vermutlich ist das Produkt sogar dafür entwickelt worden. Schließlich steckt ja auch viel Kohle in dem Markt.

 

[CDLABSRadonP...]

Ich erinnere auch an diesem brillanten Kommentar zur Einführung der Kategorie Intel Data Center GPU Max:

"Max" kommt in den Ausführungen "Max", "Mäxchen" und "Maxens kleine Schwester Lilly."

 

[Ganjaware]

Zitat "Ebenfalls in den Leaks erwähnt wird die Unterstützung von LPDDR5X-8533 und damit läge die Speicherbandbreite bei 273,1 GB/s – weit mehr als die meisten Prozessoren anzubieten haben"
Quelle:
https://www.hardwareluxx.de/index.php/news/hardware/prozessoren/63926-strix-halo-amds-stärkste-apu-zeigt-sich-mit-128-gb-arbeitsspeicher.html