News ROCm-Treibersupport für GPUs: AMD bietet Entwicklern nach Schlagabtausch eine Wunschliste

[bad_sign]

Scheinbar schon, die Argumente vieler hier sind ja, dass CUDA auf jeder Dadelkiste doch super läuft. Als ob das ausschlaggebend für die Umsätze im AI Bereich wäre.

Kann man schon mit Ja beantworten.
Jeder fängt mit Nvidia an, jeder entwickelt sich mit Nvidia weiter und ein paar von diesen Leuten werden dann die Profi Software weiterentwickeln und für Anwender schreiben.
Die wenigsten werden ihre ersten Erfahrungen auf 100.000 € schweren Servern sammeln

 

[icemanspirit]

Kann man schon mit Ja beantworten.
Jeder fängt mit Nvidia an, jeder entwickelt sich mit Nvidia weiter und ein paar von diesen Leuten werden dann die Profi Software weiterentwickeln und für Anwender schreiben.
(..)

Würde ich pauschal vor allem für Machine Learning verneinen. Die Wenigsten fassen diese Eben jemals an sondern nutzen Domänen-spezifische Sprachen die auf einer höheren Abstraktionsebene agieren.

Man kann auf die Hardwareebene runter gehen, aber das ist etwas was nur die Wenigen die wirklich was davon verstehen machen sollten. Wenn man e.g. ein Triton-Kernel selbst schreibt muss man schon ganz genau wissen wie eine GPU funktioniert, der leicht weniger versierte, immer noch Profi in seinem Fach, sollte es vielleicht lieber mit CUTLASS Kerneln belassen welche von der DSL generiert werden.

 

[zeedy]

Wie man sich AMD Grafikkarten schönreden kann, verstehe ich nicht. Bis auf den Preis, finde ich die absolut unattraktiv. Ich bleibe im Team grün. Alleine schon, dass AMD gesagt hatte, sie wollen keine HighEnd-Karten entwickeln, zeigt mir, dass sie nicht wirklich Lust haben.

Ich nutze seit vielen Jahren Radeons und muss sie überhaupt nicht schönreden, es läuft alles problemlos. Aber es geht hier nicht um deine Daddelgrafikkarten. Verstehe nicht warum es immer wieder Leute gibt, die das Bedürfnis haben am Thema vorbei ihren Senf dazuzugeben.

 

[icemanspirit]

(...)

Im Prinzip hat Semianalysis (die beste Semi HW/SW Analysebude der Welt) die ganzen Vorwürfe von geohotz bestätigt
https://semianalysis.com/2024/12/22/mi300x-vs-h100-vs-h200-benchmark-part-1-training/

(..)

Semianalysis redet von Training, AMD fokussiert sich auf Inferenz, was der größere Markt zu sein scheint. Das ist irgendwo ein Äpfel mit Birnen Vergleich wenn Du mich fragst.

 

[Mr.Uhu]

Das hat man auch über das CPU-Business geschrieben. Was daraus geworden ist? Siehe meine Signatur.

Natürlich kann es immernoch anders kommen.
ROCm wird allerdings von relativ wenigen Projekten unterstützt. Go-To ist hier CUDA und Nvidia tut momentan auch alles, um weiter relevant zu bleiben. Blackwell ist schließlich nur schneller, weil größer - außer der KI-part.

Dass man mit AMD Karten theoretisch auch GPGPU Computing machen kann, liest man seit Jahren. Der Support ist nur nicht gut. Die AI MAX PRO APUs können KIs über ihre NPU beschleunigen, aber auch da ist der Support vom Treiber nicht da, wo er sein sollte.
Sie können sich noch retten...auch noch später - aber sie müssen dringend etwas an ihren Treibern und dem Support machen, um relevant zu werden.

 

[blackiwid]

Ja Sorry jemand wo AMD versucht zu helfen und der die dann banned den kann ich schwer ernst nehmen.

Auch das hier Leute sagen "der Treiber sei schlecht" aber wohl es nicht um RocM geht sondern sie pauschal den Treiber schlecht reden, obwohl A RoCM auf den professionellen Karten sehr gut läuft und wenn Leute Geld verdienen mit dieser Technologie dann können sie sich meist diese Karten leisten bzw sie sind auch besser sprich man zahlt mehr kriegt aber auch deutlich mehr Speed. Sonst würde Nvidia ja auch nur Consumerkarten verkaufen.

Also für die Karten ist der Treiber nicht schlecht und für Konsumerkarten ist der Treiber außerhalb dieses Feature das die meisten Privatkunden nicht brauchen auch gut.

Sogar besser bevor Nvidia ihre neue App hat die besser zu sein scheint? War AMD sogar Treiberseitig gerade auch unter Windows weit vorne, kein Registrierzwang / loginzwang, oder gibts den mit der neuen app immer noch?

Ein bisschen mehr differenzieren und kapieren das es hier nicht um den alten Mythos von vor 10 Jahren geht das AMD Treiber generell schlechter seien, der damals vielleicht ne Berechtigung hatte sondern um etwas sehr spezifisches.

Und ich würde soweit gehen zu sagen das das ehre ein Hardwareproblem als ein Softwareproblem ist. Wie schon welche Gesagt haben hat Nvidia für beide Bereiche die selbe Architektur sie brauchen daher nur 1 Treiber der vielleicht pro Karte wenn überhaupt leicht angepasst werden muss oder pro Generation, AMD dagegen hat 2 komplett unterschiedliche Architekturen und müsste daher doppelte Arbeit machen.

Daher ist auch das Argument "aber Nvidia hat doch mehr Geld" und daher können sie es falsch, nein AMD müsste doppelt so viel Arbeit / Geld investieren um alles zu unterstützen bzw eventuell sogar mehr da die alten Karten teils Hardware fehlt die möglichst einfaches/direktes Supporten dieser Features erlaubt und man dann irgendwie mit Hardware X, irgend ne andere Hardware emulieren muss.

Das Problem löst sich mittelfristig fast von alleine, jetzt versucht man nur der Übergang bis dahin ein bisschen zu versüßen indem man einige Konsumerkarten trotz des Aufwands unterstützt.

Die wie auch immer die nächste Gen heißen wird RX 100x0 Karten (vermute werden anders heißen) sind dann UDMA da dann alles auch die gleiche Architektur hat wird sich schon fast automatisch diese Situation massiv verbessern.

 

[relaxed_Guy]

Alleine schon, dass AMD gesagt hatte, sie wollen keine HighEnd-Karten entwickeln

Was sich erstmal ausschließlich auf RDNA4 bezieht.

"Don’t worry. We will have a great strategy for the enthusiasts on the PC side, but we just haven’t disclosed it. We'll be using chiplets, which doesn't impact what I want to do on scale, but it still takes care of enthusiasts. [...] Don't worry, we won’t forget..."

"Machen Sie sich keine Sorgen. Wir werden eine großartige Strategie für die Enthusiasten auf der PC-Seite haben, aber wir haben sie noch nicht veröffentlicht. Wir werden Chiplets verwenden, was sich nicht auf das auswirkt, was ich in der Größenordnung tun möchte, aber es kümmert sich trotzdem um die Enthusiasten. [...] Keine Sorge, wir werden es nicht vergessen..."

Das sagt Jack Huynh im viel zitierten Interview am Ende. Aufgegriffen haben es aber nur sehr Wenige.

 

[Bitcoon]

Die geben AMD keinerlei Chance, nenneswert gegenüber NV zu punkten.

Da sollte AMD dringend aus dem Quark kommen.
Sonst hat Nvidia überhaupt gar keine Konkurrenz mehr.
Und das wollen wir auf keinen Fall.

 

[relaxed_Guy]

Hotz stellt sich aufgrund seiner Arroganz und Selbstüberschätzung selbst ins Abseits was seine Bedeutung in der Branche angeht.

 

[Deinorius]

Es ist immer wieder faszinierend, wie inkompetent gewisse überbezahlte Personen in so riesigen Unternehmen sein können. Das soll keine Verallgemeinerung werden, aber wenn man anfängt, auf Twitter solche Diskussionen zu führen und auch noch diese Umfrage zu starten ...

Wie man sich AMD Grafikkarten schönreden kann, verstehe ich nicht.

Wieso schönreden? Im Umkehrschluss kann ich dir auch vorwerfen, Nvidia Grafikkarten schönzureden, wenn du das nicht objektiv betrachten willst.
Im Bereich RTX 4060, RX 7600 ist DLSS das Feature, aber FSR2/3.1 kann auch gut funktionieren und wenn man gewillt ist, bietet die RX 6750 XT sogar noch mehr Leistung zu einem nur geringfügig höheren Preis. Was wäre also die bessere Wahl?
Wer Linux nutzt, kauft vielleicht noch lieber AMD. Unterschiedliche Gründe führen zu differenzierten Käufen.
Sei doch froh, dass nicht alle Nvidia Grafikkarten kaufen. Willst du das etwa? Was wäre das Resultat davon? Glaubst du, dass die Preise oder gar die Produkte dann besser werden?

Alleine schon, dass AMD gesagt hatte, sie wollen keine HighEnd-Karten entwickeln, zeigt mir, dass sie nicht wirklich Lust haben.

Wie naiv muss man sein, um so eine Aussage zu tätigen?
Was ein Unternehmen offiziell von sich gibt, ist etwas anderes, als im Hintergrund wirklich passiert! @UNRUHEHERD hat es schon gut zusammengefasst. Wieso ein Produkt entwickeln, das kaum die erforderlichen Umsätze bringt, aber viel R&D verschlingt? Vielleicht gab es große Probleme bei der Entwicklung und man musste umentscheiden.
Hier kann nur spekuliert werden, aber zu sagen, die haben keine Lust ... Als würde man behaupten, ein Unternehmen habe keine Lust, Profit zu machen. 🤦‍♂️

Wahrscheinlich ist es schon zu spät für AMD, um richtig im KI Business noch zu folgen.

Es ist nie zu spät, solange man ein vernünftiges Produkt mit dem richtigen Preis veröffentlicht. Die bessere Frage wäre, wie sich das KI Business weiterentwickelt. Hardware-Effizienz ist enorm wichtig, aber bei der Software gibt es möglicherweise größere Schritte, die man durchführen könnte.

 

[Mr.Uhu]

Es ist nie zu spät, solange man ein vernünftiges Produkt mit dem richtigen Preis veröffentlicht. Die bessere Frage wäre, wie sich das KI Business weiterentwickelt. Hardware-Effizienz ist enorm wichtig, aber bei der Software gibt es möglicherweise größere Schritte, die man durchführen könnte.

Ja, das war zu kritisch ausgedrückt.
Sich im Markt zu platzieren wird allerdings schwieriger und schwieriger. Wahrscheinlich sind die GPUs von AMD im Computing Bereich auf Serverseite durchaus eine Option, für Consumer nicht wirklich - oder man muss wissen welche Karte man kauft, ob diese auch weiterhin Treiberupdates erhält scheint dann allerdings auch wieder ein Problem zu sein.

Auf Hardware-Effizienzebene sehe ich da eben auch das Problem, dass die vorhandenen Hardwarebeschleuniger nicht genutzt werden können oder nur unzureichend genutzt werden können.
Verschwendung, auch wenn die CPUs in den APUs für Laptops sehr gut sind, sollten die 55 TOPS der NPU auch in jedem Fall nutzbar sein. Nicht nur mit DirectML...oder welche API man auch immer gerade nutzt.

 

[rentex]

Wie man sich AMD Grafikkarten schönreden kann, verstehe ich nicht. Bis auf den Preis, finde ich die absolut unattraktiv. Ich bleibe im Team grün. Alleine schon, dass AMD gesagt hatte, sie wollen keine HighEnd-Karten entwickeln, zeigt mir, dass sie nicht wirklich Lust haben. Zum Glück liefern sie, was CPUs angeht.,

Keine Lust? Das hatte wirtschaftlich/technische Gründe und eine absolut richtige Unternehmensentscheidung.

 

[Firefly2023]

Das hatte wirtschaftlich/technische Gründe und eine absolut richtige Unternehmensentscheidung.

Da ist es wieder. Das Schönreden. Schaut man sich die kommende Generation an, da kommt man gerade mal an ne 4080 heran. Schon bissel arm.

 

[rentex]

@Firefly2023 😂 Schon gut.

 

[Simon#G]

Das Problem löst sich mittelfristig fast von alleine,

Dieses Problem besteht seit anno 2007 als Nvidia mit CUDA vorgemacht hat wie GPGPU richtig geht. Seither kämpft AMD mit den Basics, während Nvidia mit jeder CUDA Generation den Abstand vergrößert. Das Problem löst sich also nicht von alleine mit einer neuen Architektur. Terrascale war damals nicht das Problem, genausowenig wie GCN oder R/CDNA ein Problem waren.

Es sind bei AMD immer die Tools, die Dokumentation und die Treiber. Mit andern Worten das Ökosystem.

jetzt versucht man nur der Übergang bis dahin ein bisschen zu versüßen indem man einige Konsumerkarten trotz des Aufwands unterstützt.

Consumerkarten sind langfristig extrem wichtig. Nahezu jeder Entwickler fängt mal mit einer Consumerkarte an. Wenn es da nicht läuft, wird AMD nicht in der Industrie fußfassen.

 

[DevPandi]

aber jetzt noch GCN in der Liste für den Support zu fragen...wozu???? Gerade GCN sind schon die Treiber praktisch eingestellt!

GCN ist vom Aufbau näher an CDNA als RDNA. Nur sieht man zwischen CDNA, RDNA und GCN immer noch die Verwandtschaft. So grundlegend verschieden sind die Architekturen nicht.

Man muss an der Stelle aber festhalten, dass ein Hauptproblem von ROCm nicht die fehlende Unterstützung von GCN, RDNA oder CDNA ist, sondern dass die Unterstützung relativ selektiv ist:

ROCm bietet Support für GCN, RDNA2 und RDNA 3, nur eben nicht für jede Grafikkarte der jeweiligen Architektur. Man muss hier am Ende im Software-Stack rum "pfuschen" und bekommt es zum laufen, aber nicht Out-of-the-Box.

Man kann eigentlich nur hoffen das AMD auch in der GPU-Sparte mal so einen "Ryzen-Moment" hat. UDNA?

Nein, den werden Sie mit UDNA ganz sicher nicht erleben. Dass AMD RDNA und CDNA zusammen führen wird, war bereits 2019 bei RDNA ein Thema und wurde damals bereits von AMD bestätigt.

Wahrscheinlich wird AMD - weil sie entsprechende Erfahrungen nun auch mit RDNA im HPC-Bereich haben - die gut funktionierende Teile von RDNA und von CDNA - Matrix-Kerne z.B. - zusammen führen.

CUDA ist die Nvidia only version von OpenCL.

Also genau genommen ist OpenCL die "offene" Version von CUDA. CUDA war vorher da.

 

[nille02]

Weil AMD die Architekturen viel stärker zwischen dem Profibereich und dem Consumerbereich gespalten hat.

Irgendwie wird vergessen das bei AMD CDNA und RDNA komplett verschiedene Architekturen sind und somit auch für RDNA die komplette Softwareöko implementiert und optimiert werden muss.

Die Argumente kann ich nicht ganz nachvollziehen. Sicher hat AMD zwei Unterschiedliche Architekturen für GPUs aber auch die Consumer GPUs können weitestgehend alles was man braucht. Das CDNA anders Optimiert ist und auch mehr kann spielt da erst mal weniger eine Rolle, das macht das ganze nur schneller auf den Karten.

Wenn ich mit CUDA anfangen will kann ich mir auch die billigste Nvidia Karte der letzten 10 Jahre kaufen die ich finden kann und kann dort los legen. Ist das ganze schnell? Vermutlich nicht aber ich kann in die Software einsteigen und wenn alles gut läuft direkt auch die High End GPUs gehen.

Bei AMD habe ich das nicht. Ich bekomme OpenCL was mehr oder minder Kaputt ist wenn man Entwicklern von Blender befragt. Wie schon festgestellt ist RoCm auf wenige GPUs limitiert und mein letzter stand war auch das es Linux Only ist. Damit lockt man niemanden hinter der Heizung hervor.

 

[blackiwid]

Seither kämpft AMD mit den Basics, während Nvidia mit jeder CUDA Generation den Abstand vergrößert.

Das stimmt so nicht, wie man z.B. an Blender sieht wo AMD jetzt gleich schnell funtzt bei vergleichbar schnellen Karten wie Nvidia wo es lange nicht ging und gar nicht hardwarebeschleunigt wurde.

Und ich weiß nicht was die History meine Argumentation widerlegen soll, mein Argument das sie 2 verschiedene Architekturen für Gamer und Professionals hatten und das sich das mit UDMA ändern wird und dadurch nur noch 1 Architektur man haben wird für alles.

Wird das alle Probleme komplett lösen von alleine natürlich nicht, sowas ist immer multifactural, aber es geht in der News ja ganz Konkret um EIN problem, das nicht alle Consumerkarten supported werden.

Dieses Problem wird sich damit fast von alleine Lösen wenn alle Karten im Grunde nach gleich sind nur andere Anzahl von Shader und Ram haben, dann sollte es extrem einfach sein alle Karten zu unterstützen.

Das die Treiber hier und da schlechter supported sind meist nicht auf CUDA basis ebene sondern in Frameworks, weil Nvidia überall massiv Leute mit Hardware besticht bzw denen ihre Arbeit macht in Opensource Frameworks etc, das ist ne andere Frage.

Und ich finde auch dieses "gleich gut" komische Idee, wenn man 99% so gut ist aber 50% kostet ist das oft für die meisten Kunden besser, alse "gleich gut" muss gar nicht sein, wichtig ist das die wichtigesten Sachen gut funzen.

Und ja im K.I. bereich ist oft VRAM Mangel ein entscheidendes Problem, und bei Nvidia zahlt man oft doppelten Preis für gleich viel VRAM wie ne AMD Karte, daher mag es softwaremäsig bei AMD Probleme geben, aber dafür ist die Hardware interessanter.

Wenn also dieser "schlechte" oder ich würde es eher "nicht perfekte aber doch gute" Support auf ALLE KARTEN kommt ist das ein entscheidender Unterschied der AMD weiter puschen sollte.

Zumal ja jetzt auch ohne das schon AMD massiv Karten in K.I. verkauft Intel würde viel tun um mit AMD dort zu tauschen.

Ich mein bei Autos redet ja auch keiner So, "ohh die billigere Marke" unterstützt nicht alle Features perfekt, ok dann sollen jetzt 100% bei Porsche kaufen weil nur das beste ist gut genug für alle... ja AMD ist billiger daher müssen sie kein 1:1 replacement für Nvidia sein, sonst wäre ja jeder bescheuert wenn er noch Nvidia kauft wenn AMD billiger ist und immer 100% genausogut in jeglichem Belang...

Offenbar ist AMD durchaus in Gewisser weise selbst heute schon interessant, sonst würde so ein offener AMD Hater (ich denk das ist faire beschreibung wenn man offizielle AMD Mitarbeiter im eigenen Forum bannt), trotzdem nonstop dran arbeitet die zu unterstützen.

Offenbar hat AMD hier massives potenzial sie könnten eben massiv billigere Hardware z.B. verkaufen die von der Hardware das selbe wie deutlich teurere Nvidia Hardware machen könnte und teils auch kann, soweit ich weis verkauft Tinycorp schon AMD hardware.

https://www.tweaktown.com/news/9711...m-amd-gpu-starts-at-15k-nvidia-25k/index.html

Ich mein 991 TFLOPS vs 738 für 1500 statt 2500 um das mal per Dollar um zu rechnen sind das 0,40 TFLOPS / Dollar bei Nvidia und 0,49 TFLOPS / Dollar das sind immerhin 25% mehr Pro Euro wenn man es noch pro Watt rechnet da ich glaub das beide ungefähr gleich viel verbrauchen mag das in Amerika wo Strom nichts kostet egal sein aber hier auch nen Unterschied machen.

Aber man sieht schon das so komische boxen mit 6 Consumerkarten nicht der normale Konsumermarkt ist, das ist irgendwie Leute die eigentlich Geld verdienen wollen aber statt sich ne richtige Lösung zu suchen die dafür gemacht ist, auf irgend ein Frankenstein Produkt aus Consumerteilen suchen.

Naja wie auch immer, es gibt einen Grund warum die Leute sich aufregen, wäre AMD nicht zumindest theoretisch von der Hardware her teils deutlich besser (Preisleistung), würden die Leute einfach die Schnauze halten und Nvidia kaufen und sich gar nicht mehr für AMD interessieren.

Es ist daher eigentlich ein gutes Zeuchen das Leute sich aufregen weil das ein Zeichen ist das mehr Leute versuchen AMD irgendwie zum laufen zu bringen. In der Zeit vor RocM hat sich schlicht niemand für AMD interessiert und Nvidia hatte ein 100% Monopol 100% aller Käufe in dem Bereich waren Nvidia und niemand hat sich über AMD Treiber aufgeregt weil 0% dieser Menschen ne AMD Hardware gekauft haben.

 

[aLanaMiau]

Wann kam nochmal der Consumer Support für ROCm? Vor knapp einem Jahr? 🪦

Ich denke der Zug ist für AMD abgefahren. Selbst wenn die Software gleichwertig wäre, würden trotzdem 99.9% der professionellen Entwicklungen nicht plötzlich auf CUDA verzichten und auf AMD setzen. Die gigantischen Serverstrukturen lassen sich auch nicht "mal eben" austauschen. Das Monopol und die Abhängigkeit ist extrem, das Risiko und die Kosten sind für Experimente viel zu hoch. Dafür wurde seit Jahren das ganze Thema von AMD zu stiefmütterlich behandelt - versteh nicht warum in dem Fehlschlag jetzt noch mehr Geld verbrannt werden soll.

Die Vorteile von CUDA überwiegen so sehr, dass kaum jemand eine 2k Euro GPU kaufen würde wenn man mit der nichts Produktives anfangen kann. Selbst wenn die "Gaming-Karten" eine gute Leistung erreichen würden, wäre der Teil der Gamer die sich so teure Karten nur zum Spielen kaufen verschwindend gering. AMDs Fokus auf Mittelklasse und APUs ist die absolut richtige Entscheidung.

 

[Malefiz123]

Wie man sich AMD Grafikkarten schönreden kann, verstehe ich nicht. Bis auf den Preis, finde ich die absolut unattraktiv. Ich bleibe im Team grün. Alleine schon, dass AMD gesagt hatte, sie wollen keine HighEnd-Karten entwickeln, zeigt mir, dass sie nicht wirklich Lust haben. Zum Glück liefern sie, was CPUs angeht.,

Als jemand der zuletzt 2x AMD gekauft hat und aktuell auf die 9070(XT) wartet: Preis und Speicherausbau in der Mittelklasse.
Bei Nvidia zahle ich ca 10% Aufschlag für eine GPU mit ähnlicher Leistung (besser im Raytracing, schlechter im Rasterizing) die dafür weniger Speicher mitbringt. Ich war im November schon kurz davon eine 7800XT zu kaufen, als Alternative war die 4070 halt mit 10GB mir zu knapp, da ich aber auch selten aufrüste - aktuell nutze ich noch eine 5700XT. Damals wurde es die statt der preislich vergleichbaren 2060, weil letztere eben nur 6GB RAM hatte.

Fehlender Speicher ist eben etwas, was die Grafikkarte bei längerem Einsatz schnell zur Krücke macht.
Würde ich alle zwei Generationen aufrüsten wäre ich wohl auch sicher Nvidia Kunde. Jetzt warte ich mal Release und Verfügbarkeit der 5070TI ab, ob ich dann noch geduld habe bis zur 9070XT zu warten