News Lenovo ThinkSystem SR685a V3: Wenn Genoa mit 8 MI300X, 51 TB und Titan-Netzteilen kuschelt

[MichaG]

Für „anspruchsvolle KI-Workloads“ hat Lenovo das neue ThinkSystem SR685a V3 im Programm. In dem Server mit 8 Höheneinheiten stecken zwei Epyc-Prozessoren der 9004-Serie (AMD Genoa). Die eigentliche Rechenleistung stammt aber von den 8 GPUs, wobei wahlweise AMD MI300X oder Nvidia H100 und später H200 oder B200 eingesetzt werden.

Zur News: Lenovo ThinkSystem SR685a V3: Wenn Genoa mit 8 MI300X, 51 TB und Titan-Netzteilen kuschelt

 

[bikerider]

But can it run Crysis?

 

[Jan]

Nur vor dem Update auf Unreal Engine 5.

 

[Cool Master]

Schick! Da kommt gleich haben wollen auf

@Jan

Auch wenn es nicht direkt auf die Community passt könnte es davon ggf. mal ein Test geben? Wäre mal interessant wie man so etwas im Vergleich zu z.B. einer 4090 oder zwei 4090 einstufen kann.

 

[Dig.Minimalist]

Aus Neugier - Inness für einer Preisklasse bewegen wir uns hier?
100k€, 500k, …

 

[LamaMitHut]

Nur vor dem Update auf Unreal Engine 5.

Warum? Wird einfach mit 5 FPS berechnet, Rest kommt mit KI-Generierten Frames.

 

[eazen]

Crysis kann darauf auf purer CPU laufen wie zb hier:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Auf GPU läufts dagegen gar nicht, die datacenter GPUs sind nicht DirectX kompatibel.

Beeindruckender Server, ist schon krass wieviel Technik und Leistung in so einem relativ kleinen Kasten reinpasst heutzutage.

 

[Kadett_Pirx]

bei fp64 ist MI300X ja sehr viel besser, von der Hardware her kann AMD also mit dem Produkt alle Anwendungsbereiche/Märkte mit sehr hoher Leistung abdecken ohne Kompromisse

 

[sandman3720]

Das schreit ja förmlich nach „Homelab“!!!

 

[Milchkühlung]

Reicht der für ein Home-NAS? Wollte ein paar Dokumente darauf lagern und ab und zu ein paar Bilder draufziehen und wieder runterladen.

 

[iNFECTED_pHILZ]

.. der für ein Home-NAS? Wollte ein paar Dokumente darauf lagern und ab und zu ein paar Bilder draufziehen und wieder runterladen.

Aber dann bitte nicht am 10gbit Hardware sparen, 😀

 

[tolga9009]

Die 24 RAM-Slots sind mega! 24x 64GB RDIMMs mit 250€ pro Stück kommt man auf 1,5TB DDR5-4800 ECC RAM für gerade einmal ~6000€. In diesem Segment geradezu ein Schnäppchen!

 

[SSD960]

But can it run Crysis?

Yes

 

[Rickmer]

Zwei der Netzteile braucht es allein schon für die Lüfter... die haben doch sicherlich eine Leistungsaufnahme von 100W das Stück oder noch mehr.

 

[Xiaolong]

Inness für einer Preisklasse bewegen wir uns hier?
100k€, 500k, …

Bei mir der aktuell absurden Nachfrage nach AI schätze ich mal ist es näher an dem zweiten Wert dran

 

[Haldi]

Okay....
Jetzt muss mir aber nochmals jemand den Epyc 9004 erklären!
128 PCi-E Lanes bei Singel Socket. 160 bei Dual. Also bei 2 CPUs dann 320 Lanes?
Und wieso haben die ein zwischen board mit 4x PCI-E Switches?
Wenn da 8x16Lanes für Networking (Front) 2x16 Lanes für Backslots nativ angeschlossen sind und nur 8x16 Lanes von der CPU zu den PCI-E Switches gehen wovon 8x8 Lanes für M2 Slots und 8x16 Lanes für GPUs aufgesplittet werden heisst das die können gar nicht cool ausgelastet werden und 2x16 lanes liegen brach?

bei fp64 ist MI300X ja sehr viel besser

Was ziemlich cool ist. Nvidia aber völlig egal weil sie die meisten Ai Berechnungen in fp4 machen und nicht fp64.

 

[Arno Hakk]

Ja und was kostet der Spaß jetzt?

 

[bensen]

Kommen acht MI300X mit je 192 GB HBM zum Einsatz, soll die vollständig bidirektionale GPU-zu-GPU-Bandbreite bei 6,4 TB/s liegen.

Was ist damit genau gemeint? Wenn ich in der verlinkten News zum MI300x das Schaubild zu den Interconnect anschaue, komme ich nicht auf 6.4.

 

[Picard87]

Preisklasse

Also eine H100 wird zwischen 30.000 - 40.000 Dollar gehandelt. Was Lenovo zahlen muss, weiß ich nicht. Aber das genannte Ding sollte ein recht akzeptables Einfamilienhaus wert sein, bei Vollbestückung. RAM und CPUs gibt's ja auch nicht umsonst.

 

[Ranayna]

Ja und was kostet der Spaß jetzt?

Wenn du fragen musst, ist es zu teuer fuer dich
Ich kenn die AMD Preise nicht, aber die nVidia Aequivalente sind ja ordenlich fuenfstellig, plus vierstellig im Jahr fuer die Lizenzen.
AMD wird sicherlich aggressiver bepreisen (also guenstiger sein), aber verschenken koennen die das Zeug auch nicht.

Gibts Infos das da an Leistung pro Netzteil anliegt? Solche Server-Monstren bringen so manches Rechenzentrum an die Grenze oder darueber hinaus, was Stromversorgung und Kuehlung pro Rack betrifft. Wir koennen zB unser 10 Jahre altes internes RZ aktuell nicht voll bestuecken, weil die Kuehlung nicht hinterherkommt
In diesen 10 Jahren hat sich die Dichte, also Stromaufnahme/Waermeabgabe pro Hoeheneinheit, deutlich erhoeht. Dementsprechend brauchen wir zum Glueck weniger Server als frueher