News Intel und Nvidia in MLPerf: In AMDs Abwesenheit debütiert H200 und Gaudi2 stichelt

Volker

Ost 1
Teammitglied
Registriert
Juni 2001
Beiträge
18.787
Nvidia und Intel feiern ihre neuen Erfolge im neuen MLPerf-Inference-Benchmark. Viele Partner sind dabei, AMD macht weiterhin nicht mit. Zuletzt hatte das Unternehmen zwar angekündigt, künftig ebenfalls Ergebnisse einzureichen, doch bis dato ist das nicht geschehen. Nvidia dominiert so weiterhin ganz klar das Feld.

Zur News: Intel und Nvidia in MLPerf: In AMDs Abwesenheit debütiert H200 und Gaudi2 stichelt
 
  • Gefällt mir
Reaktionen: =dantE=, aid0nex, Aliosy und 9 andere
Überschrift ist wie ich finde Bild-Niveau. Was ist denn jetzt so relevant, dass AMD nicht dabei ist, was die bisher auch nicht waren. Interessant finde ich das Intel mit Gaudi2 Nvidia nicht das Feld alleine überlässt, wenn auch bei weitem nicht so performant ist.
 
  • Gefällt mir
Reaktionen: aid0nex, Kadett_Pirx, iNFECTED_pHILZ und 4 andere
Weil ASUSTeK, Azure, Broadcom, Cisco, CTuning, Dell, Fujitsu, Giga Computing, Google, Hewlett Packard Enterprise, Intel, Intel Habana Labs, Juniper Networks, Krai, Lenovo, NVIDIA, Oracle, Qualcomm Technologies, Inc., Quanta Cloud Technology, Red Hat, Supermicro, SiMa, und Wiwynn dabei sind mit tausenden Ergebnissen und unzähligen Hardware-Kombos, Epyc-CPUs sogar dabei, Googles TPUs, sogar Qualcomms AI-Beschleuniger und mehr.

Und der, der eigentlich Nvidia herausfordern will und natürlich auch Intel: Nicht.
Und nachdem sie zuletzt auf dem AI Event im Dezember 2023 und der Vorstellung von MI300 gesagt haben, sie machen mit: Nix.

Es ist leider bei AMD noch immer ein Trauerspiel was Software und Optimierung angeht, das sieht man bei solchen Sachen dann immer wieder. Auf Events wird die ganze Zeit geredet wie geil alles ist und wird. Aber irgendwie landet man immer wieder hier, hier weigert sich AMD standhaft irgend ein Instinct-Produkt in den Ergebnissen darzulegen und Partner dürfen es auch nicht.

Der Chef von MLCommons beschreibt es schön, das es nicht einfach ist. Aber schaffbar:
“Submitting to MLPerf is quite challenging and a real accomplishment. Due to the complex nature of machine-learning workloads, each submitter must ensure that both their hardware and software stacks are capable, stable, and performant for running these types of ML workloads. This is a considerable undertaking. In that spirit, we celebrate the hard work and dedication of Juniper Networks, Red Hat, and Wiwynn, who are all first-time submitters for the MLPerf Inference benchmark.”
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: flo.murr, gartenriese, aid0nex und 17 andere
Ja, schade AMD. Chance verpasst. Mal wieder.

Die müssen halt echt mal aus dem Quark kommen. Die HW kann es ja und ist potent.

Ich hoffe sie bekommen die Kurve und treten endlich mal entsprechend zuversichtlich und mit breiter Brust auf.
 
Schön, dass ihr George Hotz verlinkt habt, ich schau mir manchmal Teile seiner Twitch Streams an. Die letzten Wochen hat er sich ja ausgiebig über Treiber und Firmware ausgelassen und er hat unter anderem die Vermutung geäußert, dass aufgrund von zu vielen Bugs AMD noch nicht bei MLPerf vertreten ist :D
 
  • Gefällt mir
Reaktionen: aid0nex, konkretor, eastcoast_pete und 4 andere
Ja das mit George Hotz fand ich die letzten Wochen auch interessant. Der hat ordentlich geraged :D
 
  • Gefällt mir
Reaktionen: aid0nex, Aliosy, konkretor und 4 andere
Bin mal wirklich gespannt wie NVidia das umsetzt mit "Nicht stehenbleiben dürfen". Nicht, dass ich es ihnen nicht zutraue, man kann ja wirklich nicht sagen dass da Trantüten am Ruder wären, aber es ist in jedem Fall mega spannend was sich die Lederjacke als nächstes ausdenkt.
 
whynot? schrieb:
Schön, dass ihr George Hotz verlinkt habt, ich schau mir manchmal Teile seiner Twitch Streams an. Die letzten Wochen hat er sich ja ausgiebig über Treiber und Firmware ausgelassen und er hat unter anderem die Vermutung geäußert, dass aufgrund von zu vielen Bugs AMD noch nicht bei MLPerf vertreten ist :D

Das geile ist ja, dass Leute von AMD zusammen mit Intel und Nvidia an dem Benchmark sogar mitgearbeitet haben, wie sie in einem extra Blog-Post zeigen https://mlcommons.org/2024/03/mlperf-llama2-70b/

Also ich bin da ganz bei George: Zu viele Bugs bei AMD verhindern eine Teilnahme ihrer Produkte, wenngleich sie quasi mit ihrer Entwicklung und Teilnahme daran zeigen, dass der Benchmark wichtig ist.
 
  • Gefällt mir
Reaktionen: eastcoast_pete, Aliosy, konkretor und 2 andere
Die Ressourcen des Software/Treiber-Teams werden bei AMD vermtl. nicht aussreichen um noch zusätzlich Zeit und Arbeit in den Benchmark zu stecken. Es gibt offensichtlich wichtigere Prioritäten, die dafür nicht vernachlässigt werden dürfen.
Es dürfte in der Branche ohnehin bekannt sein was MI300X in dem Bereich leistet. Falls nicht, hat man ja noch die tollen Nvidia- und Intel-Produkte. Manche wie beispielsweise Dell würde es ohnehin nicht jucken was AMD leistet, selbst wenn es leicht vor allen anderen liegen würde.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Duffy Duck und Kadett_Pirx
AMD beglückt den Markt wieder, wenn die Messe bereits gelesen ist, alle Verträge mit Intel und Nvidia unterzeichnet sind, nur um dann wieder zu weinen, wie ungerecht doch alles ist.

Dann springt die AMD Fraktion hier wieder im Sechseck und verteidigt auch noch AMDs Versagen mit der Begründung, daß AMD ja schließlich der arme Underdog sei.

Dieser Markt, ist zusammen mit den Data Centern der Hyperscaler mit Sicherheit der wichtigste und lukrativste.

Nvidia wird hier Rekorde aufstellen, welche es so im Tech Bereich noch nie zuvor gegeben hat. TSMC und ASML, Micron, Hynix und Konsorten werden ebenfalls dumm vor Reichtum.

Wer ruht sich schön auf Epyc aus?....

Hätte AMD nicht massiv Aufträge durch ihre mittlerweile wirklich gute Enterprise Server Architekturen an Land gezogen, stünde man spätestens jetzt mit dem Rücken zur Wand und würde Gefahr laufen, als Snack für potentielle Käufer auf dem Tisch zu liegen.

Das ist die Realität, nicht ob eine 7800XT schneller als eine 4060 ist.
 
  • Gefällt mir
Reaktionen: Mhalekith, RogueSix, eastcoast_pete und 2 andere
Freiheraus schrieb:
Die Ressourcen des Software/Treiber-Teams werden bei AMD vermtl. nicht aussreichen um noch zusätzlich Zeit und Arbeit in den Benchmark zu stecken. Es gibt offensichtlich wichtigere Prioritäten, die dafür nicht vernachlässigt werden dürfen.
Diese Ausreden kannst du doch nicht noch Jahrzehnte fahren Herr Gott nochmal. Die machen 23 Milliarden Umsatz im Jahr (!!), sind nicht mehr irgend nen kleiner CPU Verein. Aber wie auch andere schon gesagt haben, sie genießen noch immer Welpenschutz .. "ach nun lass sie doch, die sind doch noch so klein, so jung".

Ne, sind sie nicht. Sie sind ein Milliardenverein, der unzählige Millionen für die Führungsriege als Gehalt zahlt, im Aktiengeld schwimmt und mehr. Sie haben bei Hardware einen echt guten Riecher und super Produkte, vergessen aber auch 10 Jahre später noch immer das Drumherum.
 
  • Gefällt mir
Reaktionen: Mhalekith, Aliosy, RogueSix und 4 andere
Börsenwerte:

Nvidia 2,2 Bilionen USD
AMD 290,18 Miliarden

Ich weiss ja nicht wie du das so siehst Volker, aber ich seh da einen klitzekleinen Unterschied.

Davon ab, ich finde es von AMD einen Fehler, sich hier nicht zu zeigen. Ich gebe dir ja recht, dass AMD in die Pushen kommen sollte.
Dass sie aber Nvidia gleichzusetzen sind, entbirgt meiner Meinung nach an Realismus. Überleg doch mal, zwischen 2,2 Bilionen und 290 Miliarden ist echt ein minimaler Abstand, ist ja nur das 7,5-fache (ausser ich hab mich verrechnet).

Moralisch gesehen, da das Stichwort Underdog gefallen ist, es sind FIRMEN. Da ist Moral weit, weit weg.

Nur mal so nebenbei. Wenn ihr AMD oder Nvidia gut finden wollt, dann bitte bleibt ein wenig Realistisch, es sind Firmen und die wollen euer Geld.
 
  • Gefällt mir
Reaktionen: Kadett_Pirx
Wen interessiert denn der Börsenwert außer Spekulanten? Ich rede vom realen echten Umsatz, also das was wirklich da ist und nicht in den Wolken hängt und sich morgen in Luft auflösen kann.

Und da hat AMD 2023 fast so viel gemacht wie Nvidia 1 Jahr zuvor in 2022, AMD 23 Milliarden, Nvidia ein Jahr zuvor 27 Milliarden. Hätte nie jemand gedacht vor einigen Jahren und ist ein super Erfolg. Dies Jahr ist Nvidia nun wieder aufs 2.5fache vorgepresht, dank AI. Aber AMD will ja nachlegen, also da bleiben sie auch dran.

Und deshalb Nein, es ist da nicht der Mega Unterschied, den die Börse suggeriert, das ist eh Wahnwitz was da abgeht .. aber das ist ein anderes Thema.
 
  • Gefällt mir
Reaktionen: DevPandi, Aliosy und eastcoast_pete
Ich denke das da bei AMD ein paar helle Köpfe das kleinere von zwei Übeln gewählt haben. Keine Ahnung warum permanent unterstellt wird das die anderen hellere Kerzen auf der Torte haben wenn es doch eigentlich nur mehr Kerzen sind. Wenn es nicht performt wie erwartet wird gibt´s eben nicht nur schlechte Presse.
Umsatz ist auch nur eine weitere und in dem Zusammenhang nicht relevante Größe. Umsatz macht nicht satt.
Was wirklich wichtig ist ist das Ergebnis, das was über ist und wieviel man davon in R&D stecken kann. Da sprechen die Zahlen auch in 2023 eine klare Sprache. Und die Schere wird 2024 noch weiter auseinander gehen.
Nvidia 2023: 4,181 Mrd USD
AMD 2023: 0,854 Mrd USD

Die Zahlen (von Nvidia) sind Grütze. Noch einmal neu. Nomineller Gewinn sollte vergleichbar sein.
Nvidia 2023: 30,759 Mrd USD
AMD 2023: 0,854 Mrd USD
eastcoast_pete schrieb:
AMD ist nun wirklich keine kleine Klitsche, sondern trotz solcher Patzer wie hier ein ziemlich erfolgreicher Großkonzern.
Genau das! Und ich habe mich wirklich bemüht auch absolut vergleichbare Zahlen zum Gewinn zu finden. Das sollten die hier genannten auch sein. Wenn die Zahlen von AMD GAAP sind dann die von Nvidia auch - oder die Gerüchteküche hat nicht korrekt recherchiert.
 
Zuletzt bearbeitet:
Volker schrieb:
Diese Ausreden kannst du doch nicht noch Jahrzehnte fahren Herr Gott nochmal. Die machen 23 Milliarden Umsatz im Jahr (!!), sind nicht mehr irgend nen kleiner CPU Verein.
Tust du wirklich gerade so als ob gute qualifizierte, kompetente Software-Ingenieure/Programmierer auf den Bäumen wachsen und nur eine Frage des Geldes wären?

AMD beackert nicht nur im großen Stil GPUs sondern auch eine Vielzahl unterschiedlichster CPUs von denen Nvidia nur träumen kann (die Nischen-ARM CPUs Nvidias sind ein Witz dagegen), genauso wie Intel nur von GPUs auf AMD-Niveau träumen kann. Und das mit deutlich weniger Mitarbeiter und Geldmittel als beide Konkurrenten. Zudem ist AMD kein Platzhirsch was Marktanteil betrifft (20% vs. 80% auf Seiten der Konkurrenten).
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Flaschensammler, Kadett_Pirx und eXe777
Leider hat, wie auch von @Volker geschrieben, das ankündigen und gute Hardware haben ohne den Software dafür bei AMD ja schon Methode bzw Tradition. Jetzt werde ich mir (höchstwahrscheinlich) keinen KI Beschleuniger (Instinct, H100 oder Gaudi) neben meinen Schreibtisch stellen, aber die Verzögerung v.a. weil die Treiber ewig nicht fertig wurden hat mir schon in 2023 Phoenix vergällt. Hatte mich nach der Vorstellung früh in 2023 schon ziemlich fest entschieden, daß mein nächstes Notebook eins mit Phoenix APU sein sollte. Dann kam erst mal lange nichts, und dann nur Lappis im absolut oberen Preisbereich (nämlich solche mit Ada 4080 oder 4090 dGPU). An denen war ich allerdings nicht interessiert. Die meisten großen Laptop Hersteller haben Phoenix erst mal entweder nicht bekommen, oder sich wegen Treiberproblemen zurückgehalten. Und Phoenix (eben die 7840 und 7940) war Hardware mäßig ganz klar die erste Wahl, aber Hardware ist nur gut wenn die Software (Treiber, Firmware..) reif genug ist. Das hat aber dann lange genug gedauert, daß dann (ausgerechnet!) Intel nicht nur Meteor Lake in Großserie herstellen konnte, sondern (v.a.) auch viele Notebooks mit Meteor Lake SoCs aktuell erhältlich waren bzw sind. Und das nicht wegen irgendeiner Verschwörung, sondern eben typisch für AMD. Die sogenannten Tier 1 Marken (zB Dell, HP, Lenovo, ASUS..) werden sich einfach keine Laus (Treiberprobleme) in den Pelz setzen, mit denen sie in einer Flut von Tech Support Anrufen und RMAs versinken würden. Vertane Chance für AMD, denn wenn Notebooks mit Phoenix APUs und ausgereiften Treibern im Sommer breit aufgestellt problemlos erhältlich gewesen wären, wäre AMD bei Notebooks der Platzhirsch gewesen, und Intel hätte Aufholjagd spielen müssen. Der jüngste Bug mit den Hawk APUs für Desktop ist auch bezeichnend: AMD hatte irgendwie vergessen, eine Temperaturbegrenzung die nur für Laptops relevant ist aus der Firmware der Desktop APUs zu entfernen. Mit sowas gewinnt man keine Kunden!
Ergänzung ()

der Unzensierte schrieb:
Ich denke das da bei AMD ein paar helle Köpfe das kleinere von zwei Übeln gewählt haben. Keine Ahnung warum permanent unterstellt wird das die anderen hellere Kerzen auf der Torte haben wenn es doch eigentlich nur mehr Kerzen sind. Wenn es nicht performt wie erwartet wird gibt´s eben nicht nur schlechte Presse.
Umsatz ist auch nur eine weitere und in dem Zusammenhang nicht relevante Größe. Umsatz macht nicht satt.
Was wirklich wichtig ist ist das Ergebnis, das was über ist und wieviel man davon in R&D stecken kann. Da sprechen die Zahlen auch in 2023 eine klare Sprache. Und die Schere wird 2024 noch weiter auseinander gehen.
Nvidia 2023: 4,181 Mrd USD
AMD 2023: 0,854 Mrd USD

Die Zahlen (von Nvidia) sind Grütze. Noch einmal neu. Nomineller Gewinn sollte vergleichbar sein.
Nvidia 2023: 30,759 Mrd USD
AMD 2023: 0,854 Mrd USD
Die AMD Zahlen sind allerdings nach Einrechnen der GAAP, also Kosten für Anschaffungen und Investitionen. Ohne die einzubeziehen hat AMD ungefähr das 5-6 Fache der hier genannten Zahl erwirtschaftet.
AMD ist nun wirklich keine kleine Klitsche, sondern trotz solcher Patzer wie hier ein ziemlich erfolgreicher Großkonzern.
 
Zuletzt bearbeitet:
Mensch_lein schrieb:
Börsenwerte:

Nvidia 2,2 Bilionen USD
AMD 290,18 Miliarden

Ich weiss ja nicht wie du das so siehst Volker, aber ich seh da einen klitzekleinen Unterschied.
Du hast da was vergessen:

intel 164 Milliarden USD

Ich denke, der Standpunkt, dass AMD kein Welpenschutz mehr verdient ist durchaus berechtigt... Es sei denn, wir bezeichnen intel fortan als "kleine Klitsche".
 
  • Gefällt mir
Reaktionen: eastcoast_pete, Topflappen und Volker
Mensch_lein schrieb:
Börsenwerte:

Nvidia 2,2 Bilionen USD
AMD 290,18 Miliarden

Ich weiss ja nicht wie du das so siehst Volker, aber ich seh da einen klitzekleinen Unterschied.

Davon ab, ich finde es von AMD einen Fehler, sich hier nicht zu zeigen. Ich gebe dir ja recht, dass AMD in die Pushen kommen sollte.
Dass sie aber Nvidia gleichzusetzen sind, entbirgt meiner Meinung nach an Realismus. Überleg doch mal, zwischen 2,2 Bilionen und 290 Miliarden ist echt ein minimaler Abstand, ist ja nur das 7,5-fache (ausser ich hab mich verrechnet).

Moralisch gesehen, da das Stichwort Underdog gefallen ist, es sind FIRMEN. Da ist Moral weit, weit weg.

Nur mal so nebenbei. Wenn ihr AMD oder Nvidia gut finden wollt, dann bitte bleibt ein wenig Realistisch, es sind Firmen und die wollen euer Geld.
Übrigens ist der Börsenwert von AMD eher etwas größer als der von Intel, oder zumindest in derselben Gegend. Also, "what's the excuse?"
 
der Unzensierte schrieb:
Ich denke das da bei AMD ein paar helle Köpfe das kleinere von zwei Übeln gewählt haben.

Denke ich auch. Die erwarten vielleicht, dass sie in naechster Zeit noch einen Faktor X herausholen, wenn ihre Software etwas weiter ist. Wenn sie jetzt eine Zahl praesentieren, bleibt die in den Koepfen eher kleben. Klar, spaeter dran zu sein ist auch nicht so toll, aber besser als mit einer nicht konkurrenzfaehigen Zahl vorzupreschen.
 
Zurück
Oben