News Ampere: Nvidia bietet A100 als PCIe-Karte für Server an

[Selber]

Was will man denn überhaupt mit einer nicht-gaming-fähigen PCIe-Karte auf Consumer HW? Was soll ein Consumer mit Mellanox ConnectX anfangen?

???
Es geht doch nur um die Spannungsversorgung? Das ich ich mit der Karte an sich nichts anfangen kann ist doch klar.

 

[Teralios]

Das sind reine Server-Karten, Lüfter gibt's da nicht. Die sind vorne und hinten offen, damit der (ohnehin sehr starke) Luftstrom im Gehäuse da durchpfeifen kann.

Nicht zu vergessen, dass die Luft in solchen Räumen immer sehr angenehme Temperaturen um die 18° hat.

 

[dynastes]

Warum? Hat Ampere einen Vorteil durch PCIe 4.0? Die 200Gbe Mellanox Karten vielleicht, das dürfte für den Desktop aber eher irrelevant sein ...

Vom Desktop war, denke ich, diesbezüglich absolut nicht die Rede, zumal die vorliegende Karte bzw ihr Chip eher nicht als Consumer-Variante erscheinen wird.

Es ist schon vorstellbar, dass ein solches Monster von zusätzlicher Bandbreite am Interface profitiert.

 

[PS828]

Nimmt langsam Form an. Diese neue Generation. Eine Rot grüne KI beschleunigende wundermaschine bedenkt man die Zuwächse in diesem bereich sind solche Lösungen für 200k wirklich sehr angemessen.

 

[Worker151]

Für welche Anwendungen nutzt man sowas?

 

[PPPP]

Vom Desktop war, denke ich, diesbezüglich absolut nicht die Rede, zumal die vorliegende Karte bzw ihr Chip eher nicht als Consumer-Variante erscheinen wird.

Es ist schon vorstellbar, dass ein solches Monster von zusätzlicher Bandbreite am Interface profitiert.

Bei der Aussage glaube ich kaum dass er von Servern gesprochen hat
Dass neue Grafikkarten von nun an mit PCIe 4.0 Unterstützung erscheinen sollte klar sein, ob diese dadurch auch einen Vorteil haben ist wieder eine andere Geschichte ... in der letzten Generation waren wir gerade einmal da wo PCIe 2.0 x16 ausgenutzt wurden obwohl selbstverständlich PCIe 3.0 Unterstützung schon lange vorhanden war, da glaube ich kaum, dass man auf einen Schlag die doppelte Bandbreite benötigt. Vor alle, haben diese Grafikkarten genug VRAM sodass nichts in den RAM ausgelagert werden muss.
PCIe 4.0 wird im DGX A100 hauptsächlich wegen den 200Gbe Mellanox Karten eine Voraussetzung gewesen sein.

 

[noxcivi]

Es geht doch nur um die Spannungsversorgung? Das ich ich mit der Karte an sich nichts anfangen kann ist doch klar.

Da hatte ich dich falsch verstanden. Du vermutest richtig. platzsparende Bauteile sind sehr teuer. Speziell die Spannungsversorgungsbausteine auf der SXM-Karte sind leider auf 48V-Versorgung ausgelegt. Ein 12V-Äquivalent könnte man sicherlich gut für Grafikkarten im LP-Format gebrauchen, aber dort hätte man das Abwärmeproblem.
Im Consumerbereich hat man selten die hohe Leistungsdichte (=hohe Abwärme auf kleinem Raum) wie in Servern und Co. - mal abgesehen von der Zahlungsbereitschaft.

 

[ameisenbaer]

Was soll ein Consumer mit Mellanox ConnectX anfangen?

Hab ich tatsächlich als Netzwerkarte....

 

[4ndroid]

40GB HBM2 VRAM wäre ein absoluter Traum als Gaming-Karte, denn dann wäre ein limitierender Faktor für die nächsten Jahre stillgelegt. Schade dass Nvidia für Gamer keine Erweiterungskarte mit Tensor-Cores herausbringt für AI und Raytracing, dann könnte hier massiv aufgerüstet werden statt alle 3-4 Jahre warten zu müssen bis die nächste GPU-Architektur kommt. Aber wahrscheinlich bewegen wir uns ohnehin Richtung Cloud Computing und Cloud gaming,...

 

[arnemichalak]

Die Karten haben keinen Videoausgang. Daher für Desktop ungeeignet.

Wieso braucht man für eine Beschleunigerkarte bspw. 3-D Anwendungen einen Videoausgang ? Ein Bild kannst Du auch mit einer 20 Euro Karte erzeugen..

 

[[wege]mini]

Das zeigt nur deine Sichtweise zu Leuten mit Sportwagen, Pauschalisierung vom Feinsten

Meister, ich besitze einen 750iL Baujahr 1998 mit 12 Zylindern und gut und gerne 300000 KM auf der Uhr, die mein Geld gekostet haben. Ich möchte aber bequem rasen.

Ich pauschalisiere nicht, ich bringe die Dinge auf den Punkt und wer damit nicht klar kommt, darf mich gerne persönlich anschreiben.

btt:

Wieso braucht man für eine Beschleunigerkarte bspw. 3-D Anwendungen einen Videoausgang ?

guter Punkt, wenn es nach mir ginge, würde man diesen Quatsch auch wieder abschaffen, lange gibt es ihn ja noch nicht.

Voodoo aka 3dFX hat es damals nahezu in Perfektion vorgemacht.

mfg

p.s.

Durch meine Tanks gingen gut und gerne schon 50000 Liter feinsten Stoff. Hände hoch, wer da mithalten kann. Ich rede nicht schlecht über Sportwagen Fahrer, sie sind nur nicht meine Welt.

 

[Nizakh]

Das Interessanteste neue Feature dieser Karte, in der News wird leider nicht genauer darauf eingegangen, ist das Feature Mutli-Instance. Wurde bisher zum Beispiel bei nvidia vGPU mit „time slice“ gearbeitet, gibt es nun das erste mal eine echte Aufteilung der GPU. Hier noch ein paar Details zum Feature:
https://www.nvidia.com/de-de/technologies/multi-instance-gpu/

 

[Mustis]

Du meinst eine Karte zum Rendern? Den eine Beschleunigerkarte von 3D Anwendungen ist de facto eine Grafikkarte und da wäre es, in meinen Augen, sinnvoll, wenn diese auch ein Bild ausgeben kann. oder willst das Bild der Karte per PCIE wieder zurück schleifen um sie dann über eine 20€ Karte auszugeben?

Davon ab wird dir diese Karte in nem Desktop den Hitzetod sterben.

 

[[wege]mini]

oder willst das Bild der Karte per PCIE wieder zurück schleifen um sie dann über eine 20€ Karte auszugeben?

Das fertige Bild wird über ein extra Kabel (extra Leitung) direkt zur Synchronisation zurück an das Gerät für die Grafik Ausgabe geleitet und wenn man mehrere Karten in das System hängt, verhindert diese Art auch die Micro Ruckler.

Wie gesagt, so wie es früher war, war es nicht schlecht. Damals war nur doof, dass man 2 Karten kaufen musste. Heute hat jede dämliche CPU eine rudimentäre GPU mit verbaut....passt.

Von den alten Zen reden wir mal nicht, hier muss AMD auf jeden Fall nachbessern.

mfg

p.s.

Das fertige Bild ist wirklich nicht groß. Da reicht locker eine PCI-E 4.0 Lane, die man für diesen Mist reserviert.

 

[dynastes]

Bei der Aussage glaube ich kaum dass er von Servern gesprochen hat

Nun, ich denke doch - im Desktopmarkt schneidet AMD schließlich jetzt bereits recht ordentlich ab, im Servermarkt fehlt der von ihm beschworene Durchbruch noch. Insofern ergibt eine dahingehende Interpretation der Aussage doch durchaus Sinn - um nicht zu sagen mehr Sinn als ein Bezug auf den Desktop, zumal er beide nicht namentlich erwähnt

Dass neue Grafikkarten von nun an mit PCIe 4.0 Unterstützung erscheinen sollte klar sein, ob diese dadurch auch einen Vorteil haben ist wieder eine andere Geschichte ... in der letzten Generation waren wir gerade einmal da wo PCIe 2.0 x16 ausgenutzt wurden obwohl selbstverständlich PCIe 3.0 Unterstützung schon lange vorhanden war, da glaube ich kaum, dass man auf einen Schlag die doppelte Bandbreite benötigt. Vor alle, haben diese Grafikkarten genug VRAM sodass nichts in den RAM ausgelagert werden muss.
PCIe 4.0 wird im DGX A100 hauptsächlich wegen den 200Gbe Mellanox Karten eine Voraussetzung gewesen sein.

Genug Speicher kann es bei HPC-Workloads eigentlich prinzipiell nie geben und je schneller die Systemanbindung ist, desto besser ist es daher. Wie dem jedoch auch sei und ob die Karten nun tatsächlich profitieren oder nicht, es ist schon sinnvoll, dass Nvidia quasi indirekt die Kombination mit Epyc-Prozessoren bewirbt. Derart teure Beschleunigerhardware mit anderen als den neusten Standards zu kombinieren, wäre schon irgendwie seltsam, zumal die CPUs selbst für diese Karten eine untergeordnete Rolle spielen sollten.
Und dass es bei PCIe 4.0 außerdem auch um möglichst performante Anbindung von Flashspeicher geht, ist ja auch bekannt.

 

[arnemichalak]

Du meinst eine Karte zum Rendern? Den eine Beschleunigerkarte von 3D Anwendungen ist de facto eine Grafikkarte und da wäre es, in meinen Augen, sinnvoll, wenn diese auch ein Bild ausgeben kann. oder willst das Bild der Karte per PCIE wieder zurück schleifen um sie dann über eine 20€ Karte auszugeben?

Davon ab wird dir diese Karte in nem Desktop den Hitzetod sterben.

Ja na klar - oder meinst Du bei einer Renderworkstation ist mehreren Karten hängt überall ein Monitor dran ?

 

[Teralios]

Das fertige Bild ist wirklich nicht groß. Da reicht locker eine PCI-E 4.0 Lane, die man für diesen Mist reserviert.

Klaro ...

8/10Bit pro Farbkanal * Pixel X-Achse, mal Pixel Y-Achse * Hz-Zahl.

Auflösung	60Hz	144Hz
FullHD (8Bit)	355 MiBytes/s	854 MiBytes/s
FullHD (10Bit)	445 MiBytes/s	1066 MiBytes/s
WQHD (8Bit)	632 MiBytes/s	1518 MiBytes/s
WQHD (10Bit)	791 MiBytes/s	1824 MiBytes/s
UHD (8Bit)	1424 MiBytes/s	3417 MiBytes/s
UHD (10Bit)	1779 MiBytes/s	4217 MiBytes/s

... aber eben nicht für jede Auflösung.

 

[arnemichalak]

Das atmet eine x4 Lane schon in Rev. 3 weg - in Rev. 4 ist bei UHD mit 10 Bit noch massenhaft Bandbreite übrig ..

 

[Queediab]

Sieht aus wie eine Nachtspeicherheizung 8-)

Ich muss da eher an ne Pralinenschachtel denken. Sollte vielleicht was essen...

 

[[wege]mini]

... aber eben nicht für jede Auflösung.

und nicht für jeden Menschen.

Wir werden uns jetzt bestimmt nicht unterhalten, welche Vorteile .mp3 für alle Menschen gebracht hat und wie wenig Menschen wirklich den Unterschied zwischen komprimiert und nicht komprimiert hören.

Bei Bildern ist das nicht anders. Es mag einen gewissen Prozent Teil geben, der tatsächlich hier Unterschiede sieht oder hört, die Masse der Konsumenten (Menschen) ist von diesen Problemen aber nicht betroffen.

Wenn ich mit Menschen rede, die tatsächlich den Unterschied zwischen 240 und 144 fps aka hz (als Beispiel) sehen, muss ich ihnen auch glauben, da schon die Messtoleranz gerade so eine Möglichkeit ergibt, dass sie das sehen könnten.

Wenn dir einer dann aber auf die Füße kotzt, weil er echt anfällig ist und echt tolle Augen hat, muss man nicht mehr diskutieren. Es gibt auch hier außergewöhnliche Menschen.

Für diese Typen ist aber 08/15 Hardware nicht gebaut und etwas anderes sind "PCs" nicht.

Jedes mal, wenn ich Werbefutzis höre, die mir erzählen, wie viele Farben ich zeitgleich theor. wahrnehmen kann, muss ich stauen, wie gut ich angeblich wirklich bin. (als Beispiel)

mfg