News MLPerf Inference v5.0 Benchmark: Nvidia legt mit Blackwell weiter zu, aber AMD wächst

Volker

Ost 1
Teammitglied
Registriert
Juni 2001
Beiträge
19.032
  • Gefällt mir
Reaktionen: the_IT_Guy, DJMadMax, PietVanOwl und 2 andere
Ich wollte den Artikel gerade lesen, aber verstehe direkt den allerersten Satz nicht.
Grammatikalisch sicherlich korrekt, aber inhaltlich für mich nicht verständlich. Vielleicht fehlt mir einfach nur das Hintergrundwissen.

1743606735450.png


Daher mein Feedback: Könnt ihr vielleicht das Intro beim nächsten Mal etwas zugänglicher formulieren? Also nach kurzem googlen und auch aus dem Rest des Artikels erschließt sich mir, dass es sich hierbei um einen Datacenter Benchmark handelt. Aber vielleicht kann man das nächstes Mal etwas anders schreiben? Die aktuelle Schreibweise ist imho sehr unzugänglich für Leute die nicht so sehr in der ganzen Datacenter Geschichte drin sind. Danke. :)
 
  • Gefällt mir
Reaktionen: Loro Husk, zhompster, II n II d II und 8 andere
Ja, man muss schon im Thema drin sein um zu wissen wie wichtig Interferencing ist. Von daher wäre eine kleine Einsortierung ganz nett gewesen, langt ja ein Satz.
Für AMD aber trotzdem ein nettes Ergebnis, klar braucht man (sehr) viel Power für das trainieren und das wird aktuell noch von Nvidia dominiert, aber von den Abfragen gibt es eigentlich unendlich viel mehr und von daher dürfte da schon ein gewisser preis sensitiver Markt für AMD vorhanden sein. Nicht umsonst versucht Cerberus eine dedizierte Karte nur für Interference auf den Markt zu bringen.
 
  • Gefällt mir
Reaktionen: zhompster, aid0nex, boypac007 und 2 andere
Der Vergleich hinkt doch vorn und hinten, da die MI325 nicht der Konkurrent der Blackwell ist, und auch noch kein FP4 kann. Sondern erst die MI355X, die in den nächsten Wochen bzw. wenigen Monaten erscheint. Und damit überhaupt erst vergleichbar wird.

Als hätte man gleich beim Erscheinen der grottigen Nvidia 5000er Serie geschrieben, dass sie nun AMD im Konsumermarkt davon galoppieren :freak:
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Zocker1996, eXe777, Icke-ffm und eine weitere Person
An die Blackwell Nutzer: wie sieht das aus mit dem Blackscreens DP Problem?

Ist der Workaround PCI-E 4.0 im BIOS konfigurieren und gut?

Da hab ich keine Erfahrungen gesammelt bisher (hab Ada Lovelace)
 
  • Gefällt mir
Reaktionen: Zocker1996
Die Aufgaben sind doch viel mehr Parallelisierbar wie z.B. die Berechnung von Bildern für Computerspiele.
Daher mag das vom Platz her in Rechenzentren ein Vorteil sein wenn "1" System 3x so viel kann, aber dieser B300 scheint ja auch viel größer zu sein wie der H300 oder ist das im obersten Bild was anderes?

Also wenn man 3x nen schwächeren kauft und parallel wie bei SLI bei Spielen betreibt ist man doch wieder ungefähr gleich weit? Es kommt also auf die Kosten für mehr Platz die Effizienz und die Preise an ob das ein wichtiger Vorteil ist.

Und da AMD ja immer gigantische Margen will, kann die Preisleistung ja vielleicht trotz höhere Kosten pro Rechenkraft bei AMD billiger sein oder nicht?
 
Bei so einem speziellen Thema sollte man als Schreiberling erst mal eine kleine Einführung in das Thema an den Anfang setzen, damit der Leser weiß um was es geht.
 
  • Gefällt mir
Reaktionen: zhompster, Skudrinka, aid0nex und eine weitere Person
Wäre mal interessant gewesen, wenn AMD auch reine CPU Werte präsentiert hätte - gerade wenn man Intel ja eigentlich in die Schranken weißen kann.
 
Ha ha ha, was CB hier so völlig unkritisch als größten Vorteil verkauft,
nämlich das NV alles aus einer Hand anbietet - ist, wenn sie nicht aufpassen, ihr verderben.
Der politische Gegenwind aus den USA wächst. Und das liegt genau daran.
 
  • Gefällt mir
Reaktionen: Icke-ffm
Mextli schrieb:
Ja, man muss schon im Thema drin sein um zu wissen wie wichtig Interferencing ist. Von daher wäre eine kleine Einsortierung ganz nett gewesen, langt ja ein Satz.

Arboster schrieb:
Bei so einem speziellen Thema sollte man als Schreiberling erst mal eine kleine Einführung in das Thema an den Anfang setzen, damit der Leser weiß um was es geht.

Freut mich dass ich mit der Meinung nicht alleine bin. :)
@Volker Vielleicht als Feedback für's nächste Mal.
Wenn selbst Hardware Enthusiasten und Berufsinformatiker sich erstmal kurz einlesen müssen um den Artikel zu verstehen, ist der Einstieg in den Artikel nicht optimal.
 
  • Gefällt mir
Reaktionen: Mordhorst3k
@Novasun ... Nvidia sind doch Amis. 🤔
 
  • Gefällt mir
Reaktionen: RaptorTP
aid0nex schrieb:
Wenn selbst Hardware Enthusiasten und Berufsinformatiker sich erstmal kurz einlesen müssen um den Artikel zu verstehen, ist der Einstieg in den Artikel nicht optimal.
Ich bin kein Informatiker und konnte das problemlos verstehen. Inferencing hat irgendwas mit maschinellem Lernen („KI“) zu tun und AMD Instinct ist eine Produktfamilie fürs Datacenter. Das langt um den Artikel zu verstehen.
 
  • Gefällt mir
Reaktionen: Zocker1996, ChrissKrass und II n II d II
Hannibal Smith schrieb:
Wäre mal interessant gewesen, wenn AMD auch reine CPU Werte präsentiert hätte - gerade wenn man Intel ja eigentlich in die Schranken weißen kann.
Interessant für uns Nerds schon, aber ich bin nicht überrascht, dass sich AMD dafür gar nicht interessiert. Denn niemand würde ernsthaft nur CPUs für AI-Workloads verwenden, wenn Beschleuniger doch so viel mehr Performance liefern.

Wenn Intel solche Benchmarks liefert, fühle ich mich an einen kleinen Bruder erinnert, dem man einen nicht angeschlossenen Controller gibt, damit er auch mitspielen kann. Er tut irgendwas, aber der Effekt ist gleich null.
 
  • Gefällt mir
Reaktionen: Zocker1996 und konkretor
aid0nex schrieb:
Genau das fehlt aber im Into und das war meine Kritik.
Imho, wenn man sich beruflich und/oder privat für Technik interessiert oder damit zu tun hat, sollten mittlerweile Begriffe wie "inference" und "training" implizit bekannt sein, vor allem im Kontext von KI und Datacenter Beschleuniger (wie aus dem Titelbild relativ deutlich feststellbar). Nichts für ungut, aber bei jeder News zuerst die Basics von KI und LLMs im speziellen vorgekaut zu bekommen ist für Plattforman wie CB imho etwas viel verlangt.

OT:
Nice, das AMD instinct langsam auch hier traction bekommt. und klar das NVIDIA mit Blackwell vor allem die schwächen von Hopper angegangen ist. Zeigt wiederum, das Blackwell für den eigentlichen Einsatzzweck (KI Inferencing im Besonderen) die richtigen Weiterentwicklungen enthält. Vor allem der Fokus auf Skalierung und das Datacenter als kleinste "unit of compute" durch Nvidia scheint sich auszuzahlen.
Bin gespannt auf zukünftige Vergleiche mit MI355X vs GB200
 
  • Gefällt mir
Reaktionen: Zocker1996
Lisa Su hat ihren Laden im Griff. Sie tut, was sie am Besten kann. Sie hält sich nicht mit Urteilen über die Mitbewerber auf. Sie analysiert AMDs Stand, Ihre Möglichkeiten. Sie fordert ihre Entwickler, ohne das ständig in die Welt zu Posaunen und kann so wiederholt Wegpunkte zu eigentlichen Ziel erreichen.
Bestes Beispiel: Der Launch der 9000er Grafikkarten. Man kommuniziert ganz deutlich, dass man weder 5080 noch 5090 angreifen möchte (weil man es eben auch incht kann), und läßt offen, wie weit man zur 5070 überhaupt aufschließen kann. Und währenddessen sichert Sie dem Unternehmen Fertigungskapazitäten und kann erfolgreich Liefern, während man Sie bei nVidia, die das bessere Produkt haben, aber großteils NCIHT liefern können, belächelt wird. Eine Lektion, die Intel mit dem Ryzen wohl schon erfahren, aber wohl noch nicht vollumfänglich gelernt hat.

Bei Server-CPUs versucht es Intel immer noch gerne mit Arroganz und Intrigen. nVidia möchte da mitspielen, ist aber noch in einer viel zu frühen Phase. Das ist etwas vollkommen anderes als "Beschleuniger" für FLießkommaoperationen. Währenddessen die EPYCs klar machen, was stand der Technik ist, können sich die Instinct MI3xx Karten einen Guten Ruf als alternative im Gesamtpaket sichern. Denn ist nVidia auch hier klar Leistungssieger, so läßt man sich die Leistung auch (im Vergleich zu AMD) fürstlich entlohnen. und bei über tausend Karten spielt das für viele Kunden eben auch eine Rolle. Ich sehe da noch viel Veränderung im Markt.
Wobei AMD hauptsächlich das ATi-Pech-Erbe abstreifen muß.

Und für Intel wünsche ich mir mal endlich Manager, die was können ohne zu tricksen. schließlich brauchen AMD aber auch NVidia dringend eine Starke Konkurrenz!!!
 
  • Gefällt mir
Reaktionen: Zocker1996
memory_stick schrieb:
Imho, wenn man sich beruflich und/oder privat für Technik interessiert oder damit zu tun hat, sollten mittlerweile Begriffe wie "inference" und "training" implizit bekannt sein, vor allem im Kontext von KI und Datacenter Beschleuniger (wie aus dem Titelbild relativ deutlich feststellbar). Nichts für ungut, aber bei jeder News zuerst die Basics von KI und LLMs im speziellen vorgekaut zu bekommen ist für Plattforman wie CB imho etwas viel verlangt.

Niemand sprach vom Begriff Training.
Niemand hat verlangt dass KI in jeder Artikeleinleitung erklärt werden.
Es ging schlichtweg um eine kurze Einordnung, dazu reicht ein Satz.
Das sehen übrigens ganz offensichtlich viele so wie ich, siehe Likes und Antworten auf meinen Beitrag.
 
Zurück
Oben