News Radeon Pro W7900 Dual Slot: AMD reduziert auf 2 Slot, Quad-GPU-Support in ROCm 6.1

[Jan]

AMD legt die Workstation-Grafikkarte Radeon Pro W7900 mit Navi-31-Vollausbau in einer zweiten Variante mit neuem Kühler auf: Die neue Radeon Pro W7900 Dual Slot (DS) ist nur noch zwei statt drei Slot dick und damit für den Einsatz in Multi-GPU-Workstations prädestiniert, beispielsweise auf Basis von Threadripper 7000 (Test).

Zur News: Radeon Pro W7900 Dual Slot: AMD reduziert auf 2 Slot, Quad-GPU-Support in ROCm 6.1

 

[twrz]

Das business model hinter ROCm versteh' mal einer.

"Wir lassen unsere Kunden hängen, damit sie zu Nvidia wechseln"?

Selbst mit einer ollen GTX 1060 lässt sich das aktuelle CUDA toolkit nich nutzen. Klar, mit Einschränkungen.

Ich würde ROCm ja gerne nutzen. Aber so wird das einfach nichts.

 

[P4ge]

Schön und gut das man Quad-GPU bauen könnte, aber ist das praktisch überhaupt möglich? Finde aktuell nur Boards die maximal 3 Slots vollfahren oder 4 Slots aber nicht mit voller Leistung.

 

[Gamecollector]

Schön und gut das man Quad-GPU bauen könnte, aber ist das praktisch überhaupt möglich? Finde aktuell nur Boards die maximal 3 Slots vollfahren oder 4 Slots aber nicht mit voller Leistung.

Du musst beim Socke 4677 oder im Bereich Epyc / Threadripper gucken. Ist da kein Problem.

 

[Flutefox]

Puh, Dual Slot und der Gegentrend zu immer ausufernden GPUs gefällt mir ehrlich gesagt schon sehr gut. Es steht und fällt mit der internen Konstruktion. Radiallüfter müssen ja nicht zwingend schlecht sein.

 

[Bagbag]

oder 4 Slots aber nicht mit voller Leistung

ja, was die PCIe Bandbreite angeht. Aber das ist je nach Anwendungsfall überhaupt kein Problem, da kaum Daten übertragen werden (zumindest sobald es einmal initial alles nötige in den VRAM geladen hat). Beispiele hier sind diverse ML-Anwedungen wie bspw. LLMs oder auch Crypto-Mining. In beiden Fällen reicht PCIe x1 aus.

 

[Shoryuken94]

Wundert mich eher, dass man das nicht gleich angeboten hat. In der Wattklasse waren Dualslot Lösungen vorher ja auch der absolute Standard.

 

[wern001]

oder auch Crypto-Mining. In beiden Fällen reicht PCIe x1 aus.

Crypto-Mining ist seit ende von ETH-Minnig mehr oder weniger Tot. Selbst ein Heizlüfter ist besser als mit einer GPU Mining zu betreiben.
Diese Dual-Föns haben den Vorteil das die Wärme nicht im Gehäuse verteilt wird. Allerdings sind die Kisten extrem laut.
Hatte vor dem ende von ETH-Mining mehrere RTX 3090 in diesem Format am Minen

 

[beckenrandschwi]

Geiles Monster! 1200W für die GPUs, 800W für die CPU. Das Teil wird laut, aber geil!

 

[PS828]

Schon ein träumchen das ganze. Dual Slot, stapelbar und Software scaliert sauber über viele GPUs.

Also threadripper oder Xeon W rann und schon Klappt das auch mit den Slots.

Wer viel GPU Leistung braucht (besonders Richtung FP32) hat hier seine nieche. Nvidia konzentriert sich aktuell ja voll auf die sehr kurzen Register.

Da ist es fast ein wenig schade dass rdna bei FP64/128 so schlampt, wo CDNA doch dort so ein brett ist

 

[P4ge]

im Bereich Epyc / Threadripper gucken. Ist da kein Problem.

Gerade da habe ich ja geschaut und nichts gefunden. Für Workstadion läd der Threadripper ja ein.

In beiden Fällen reicht PCIe x1 aus.

x1 hat einen Durchsatz von 1,90GByte x16 einen von 31,5GByte. Also das nicht permanent die max Leistng benötigt wird ok. Aber einen Flaschenhals würde ich dieses Problem schon nennen.

Andererseits, bevor ich eine solche Workstadion bauen würde, würde ich eher die Rechenleistung auslagern. Workstadion hin oder her aber bei 4 GPUs sehe ich einfach zu starke Probleme auf einen zukommen. bei Dual GPU geht das ja noch.

 

[Artanis90]

Weiß einer wie das Gehäuse heißt? Gibt es da so zu kaufen?

 

[Bagbag]

Crypto-Mining ist seit ende von ETH-Minnig mehr oder weniger Tot.

Stimmt, ist dennoch ein valides Beispiel aus recht aktuellen Zeiten, bei dem dies kein Problem darstellt.

x1 hat einen Durchsatz von 1,90GByte x16 einen von 31,5GByte. Also das nicht permanent die max Leistng benötigt wird ok. Aber einen Flaschenhals würde ich dieses Problem schon nennen.

Gibt Anwendungen wo das absolut kein Problem darstellt. Die komplette Armada an Servern die Chat-Bots betreiben machen nix anderes als Inference, was selbst x1 nicht auslastet. Und das 24/7.

Ungeeignet für manche/einige Anwendungen ja. Genereller Flaschenhals? Nein.

 

[P4ge]

Die komplette Armada an Servern die Chat-Bots betreiben machen nix anderes als Inference, was selbst x1 nicht auslastet. Und das 24/7.

Ungeeignet für manche/einige Anwendungen ja. Genereller Flaschenhals? Nein.

Aber braucht man da wirklich eine TR Plattform mit 4x W7900 ?

 

[eazen]

Das business model hinter ROCm versteh' mal einer.

"Wir lassen unsere Kunden hängen, damit sie zu Nvidia wechseln"?

Und welchen Wert hat dieser Post? Keinen. ROCm ist seit Jahren ausgereift, du bist offensichtlich auf einem uralten Stand und verbreitest Unwahrheiten. Ja Nvidia hat Vorteile, deswegen ist AMD aber noch lange kein Müll. Je nach Einsatzgebiet sind die Vorteile von Nvidia wahlweise sogar gleich null oder weniger als null.

 

[Bagbag]

Aber braucht man da wirklich eine TR Plattform mit 4x W7900 ?

Wenn du die großen LLMs laufen lassen willst, am besten noch mit großem Context-Window, dann kannst du nicht genügend VRAM haben. Also ja.

 

[MaverickM]

Sehr spannend!

Wäre interessant, ob @DevPandi sich nochmal an eine 7900XT(X) setzt, sobald ROCm 6.1 raußen ist und ihre Eindrücke dazu nochmal verfasst...!?

 

[PS828]

Gerade da habe ich ja geschaut und nichts gefunden. Für Workstadion läd der Threadripper ja ein.

Threadripper Pro. Den normalen haben sie auf rund 64 lanes kastriert.

Der pro hat 128 da haste auf den Boards meistens 7x x16 und einmal x8

 

[P4ge]

Der pro hat 128 da haste auf den Boards meistens 7x x16 und einmal x8

Du meinst dann sicherliche Boards wie dieses XD
https://geizhals.de/asus-pro-ws-trx50-sage-wifi-a3051982.html?hloc=de

Kleiner Scherz, das ASRock WRX90 WS EVO habe ich nun gefunden. Dann gibt ja wenigstens ein zwei Boards die das schaffen. Seltsam finde ich das verhalten trotzdem

 

[twrz]

Und welchen Wert hat dieser Post? Keinen. ROCm ist seit Jahren ausgereift, du bist offensichtlich auf einem uralten Stand und verbreitest Unwahrheiten. Ja Nvidia hat Vorteile, deswegen ist AMD aber noch lange kein Müll. Je nach Einsatzgebiet sind die Vorteile von Nvidia wahlweise sogar gleich null oder weniger als null.

Mein Post bezog sich auf den mangelnden Softwaresupport AMDs für ältere Modelle. Nvidia supported bald zehn Jahre alte Modelle weiterhin, während man bei AMD auf die aktuellsten zurückgreifen muss.

Der Erfolg Nvidias im professionellen Bereich, der mittlerweile zehn Mal größer als das Gaming ist, zeigt, wie sehr sich die Pflege des Ökosystems auszahlt.