News KI-Beschleuniger: MI300-Nachfolger sollen AMD zur 100-fachen Effizienz bringen

[ETI1120]

AMD hat dort GAA bei 3nm eingezeichnet. Bei TSMC kommt das erst bei N2. Heißt das AMD wird auf Samsung setzen? Oder einfach nur eine Ungenauigkeit?

Ich tippe auf eine Ungenauigkeit.

Es gibt das Gerücht dass AMD Sonoma (4 x Zen 5c) bei Samsung fertigen lassen will, aber hier ist die Rede von einem 5 nm Prozess.

Das Gerücht hält sich hartnäckig, aber das waren die Gerüchte zu Warhol auch, der nie existiert hat.

Die Implikationen für die Partnerschaft zwischen AMD und TSMC, wenn AMD mit einem Teil ihrer Fertigung zu Samsung wechselt, wären heftig. Ich glaube nicht, dass AMD sich wegen einer Chromebook-APU sich diesen Ärger einhandelt wird. Aber wir werden es ja sehen.

 

[foofoobar]

Bei AMD ist eines der Probleme, dass die CPU-Kerne auf einem extra Die sitzen und dass deswegen die Kommunikation zwischen zwei Dies aufrecht erhalten werden muss. Jede Komponente die eingeschaltet ist verbraucht Energie, und wenn es nur wegen der Leckströme ist.

Die Desktop-CPUs von AMD sind ja nichts weiter als geschrumpfte Server CPUs und bei Server-CPUs spielt der der Idle-Verbrauch keine besondere Rolle, die Dinger sollen ja nach Möglichkeit 24/7 schaffen.

 

[Blutschlumpf]

Bei AMD ist eines der Probleme, dass die CPU-Kerne auf einem extra Die sitzen und dass deswegen die Kommunikation zwischen zwei Dies aufrecht erhalten werden muss. Jede Komponente die eingeschaltet ist verbraucht Energie, und wenn es nur wegen der Leckströme ist.

Darum hab ich nen 5600G, also single Die.
Verbraucht Region 10W weniger als ne non-G CPU landet aber trotzdem selbst ohne dedizierte GPU bei was um die 30W.

Bei den Wirkungsgraden der Bauteile starren viele auf die tollen Wirkungsgrade im Sweetspot der Netzteile und Spannungswandler. Wenn Du die 10 W mit einem 500 W Netzteil bereitstellen willst, bist Du bei einer Auslastung von 2 %. Den Wirkungsgrad der Netzteile für 2 % Auslastung wird gewöhnlich gar nicht angegeben. Den Grund kannst Du Dir vorstellen.

Weil die 80 Plus specs die Angabe nicht einbeziehen.
Die ATX-Spazifikationen wurden mehrmal überarbeitet, man ergänzt Vorkehrungen für 600W GPUs, aber nichts im unteren Lastbereich.
Interessiert halt schlichtweg keinen, wäre technisch sicher möglich.
Abseits davon ist es auch belanglos ob das dann nur noch meinetwegen 60% hat, die grundsätzliche Region stimmt nicht, wir reden nicht von ein paar Prozent Abweichung vom Soll bzw. machbaren.

Es ist doch einfach, ein vernünftiges Notebook ist für einen wesentlich niedrigere Verbrauch ausgelegt als die Desktop PCs. Damit ist im Idle auch ein wesentlich niedrigerer Verbrauch möglich.

Bedingt, du bekommst ja durchaus auch Notebooks, die über 100W bei Last wegkloppen und trotzdem idle nur 1/10 des Desktop-Verbrauchs haben.

Auch hier haben wir das Problem, dass die Spannungswandler der Grafikkarte bei 10 W mit beschämenden Wirkungsgrad arbeiten.

Was ich meinte ist die Problematik, dass die wenn sie korrekt funktionieren 5-10 Watt idle brauchen, aber in diversen Situationen mit mehreren Monitoren schlichweg eben nicht klarkommen und dann nicht richtig runtertakten und teilweise absurd hohe Verbräuche haben.
Und weder AMD noch NVidia bekommen das zuverlässig hin, Intels idle-Verbrauch ist eh crap.

Im Desktopbetrieb Grafikkarte ausschalten und die iGPU verwenden.

Du meinst ausbauen oder gibt es Tools, die die Karte wirklich komplett abschalten können?
Hab ich jedenfalls noch nicht von gehört.

Aber auch hier sehe ich eher AMD/NV/Intel ne Lösung zu finden.
Entweder sowas a la Maximus oder ganz banal ne 2. Mini-GPU auf jeder größeren Karte, die 3 Monitore im Desktop-Betrieb mit 1W betreiben kann und die Haupt-GPU nur bei Bedarf hochfährt.
Jedes Handy spielt mir Youtube für ein paar Milliwatt ab, kann also nicht so unlösbar sein da noch nen Chip auf die nächste RTX 5000 zu packen, der das auch im Desktop schafft.
Es fehlt auch hier nur am Willen.

 

[foofoobar]

Die Implikationen für die Partnerschaft zwischen AMD und TSMC, wenn AMD mit einem Teil ihrer Fertigung zu Samsung wechselt, wären heftig. Ich glaube nicht, dass AMD sich wegen einer Chromebook-APU sich diesen Ärger einhandelt wird. Aber wir werden es ja sehen.

NV hat doch die vorletzten GPUs bei Samsung fertigen lassen, besondere Implikationen zwischen TSMC und NV sind mir dadurch nicht aufgefallen, und waren nicht die IO-Dies von einigen Zens von GF?

Und TSMC stützt jetzt sogar einen Konkurrenten (Intel) in einer schwierigen Phase anstatt Schläge auszuteilen die jetzt am effektivsten wären.

Ich denke du siehst das einfach nicht pragmatisch genug.

 

[Unnu]

MMn. ne sehr große Seifenblase.
Windows wird seinen Piloten nicht durchsetzen können.
Zumindest werden sie an mir kein Geld mehr verdienen.

Tjo. Dumm nur, dass du mit dieser sehr, sehr alleine stehst.

Diese sog. KI, insbesondere die LLMs werden gerade durchgesetzt. Die brauchen dich da nicht für.
Der Zug ist schon längst abgefahren.

Ich mag LLMs nicht besonders, die sind immer noch viel zu blöd.
Andererseits garantieren mir die ganzen Dösbaddel, die sich mit Verve auf diese stürzen, dass mein Job für die nächsten Jahrzehnte a. erhalten und b. immer besser bezahlt bleibt. 🤣😉

Denn irgendjemand muss dieses Chaos, dass diese Opfer jetzt mit ihrer überhasteten KI-Cyber-Tralala-Fomo anrichten wieder aufräumen.

Wir sind nicht so viele, und junge, junge, wird DAS teuer.

Und ja, selbstverständlich nutze ich ML. Allerdings gezielt und mit entsprechend klaren Regeln. Das läuft super.

Ergänzung (25. Mai 2024)

ich finde es auch irgendwie sinnbildlich warum wir Deutschen im Gegensatz zu den Amis in Sachen Technologie jeden möglichen Zug in den letzten Jahrzehnten verpasst haben.

Ist es. Deutschland reguliert lieber, lässt sich von Bürokratur auch noch das letzte bisschen Innovativen Geist kaputt machen und beschwert sich gerne über die Schlechtigkeit der Welt.
Ja, dann.
Ist nicht nur deine Meinung.
Mir läuft dieser Irrsinn quasi jeden Tag über den Weg.

Keiner will verantwortlich sein, falls es schief geht. Alle sind starr vor Schreck. Ok, fast alle.

 

[bensen]

Die Implikationen für die Partnerschaft zwischen AMD und TSMC, wenn AMD mit einem Teil ihrer Fertigung zu Samsung wechselt, wären heftig.

Warum sollte das so sein? Das war in der Vergangenheit Standard bei AMD und Nvidia. Ist es auch immernoch bei Qualcomm.
Da geht es rein um Geschäfte und nicht um Sentimentalitäten.
5nm, also wohl 4LPP wäre allerdings ziemlich mau. Kein Fortschritt von Mendocino aus. Aber gut, reicht für low-cost wahrscheinlich.

 

[Blutschlumpf]

Diese sog. KI, insbesondere die LLMs werden gerade durchgesetzt. ...

Oder die Blase platzt wie viele andere zuvor auch.
Es wurden schon so viele Dinge gehyped, die sich nicht durchsetzen konnten.
Aktuell ist KI primär ne Spielwiese auf die gerade sehr viele Bock haben und wo unheimlich Kohle reingepumpt wird.
Ob sich da langfristig wirklich ein realer Nutzen draus ergibt steht aber in den Sternen.

Kann sein, dass das die Welt in 5 Jahren radikal verändert hat und du dann mit deinem PC redest.
Oder es bleibt ne Spielerei und in 5 Jahren wird schon lange die übernächste Sau durchs Dorf getrieben.

 

[ETI1120]

Ich denke du siehst das einfach nicht pragmatisch genug.

Du hast dich einfach nicht mit der Materie beschäftigt.

 

[Unnu]

Kann sein, dass das die Welt in 5 Jahren radikal verändert hat und du dann mit deinem PC redest.
Oder es bleibt ne Spielerei und in 5 Jahren wird schon lange die übernächste Sau durchs Dorf getrieben.

Ich tippe auf beides. In den LLMs / ML steckt mittlerweile Zuviel Geld.

 

[PusteBlume0815]

Er setzt die Algorithmen in Hardware besser um.

Im wesentlichen ist das ein ganz gewöhnlicher Vektorrechner. Gibt es auch schon seit den 60'ern.

Da danke ich euch doch mal recht herzlich für eure Erklärungen. Nun ja - vielleicht wird die KI irgendwann mal so "schlau" sich selber seine Schaltkreise zu konstruieren. Ob ich das allerdings möchte ist eine ganz andere Frage.

 

[ETI1120]

Warum sollte das so sein? Das war in der Vergangenheit Standard bei AMD und Nvidia.

Es war bis zum Beginn der FinFET-Ära üblich dass die Masken dem Kunden gehört haben. Die Kunde ließen bei der Fab mit den besten Konditionen fertigen. Notfalls ließ man parallel bei mehreren Fabs fertigen. Aber diese Ära hat mit 28 nm geendet. Die Foundries haben versucht auch noch 20 nm mit Planartransistoren hinzubekommen, aber es war ein mißglückter Versuch.

Seit FinFET (22 nm bei Intel, "14/16 nm" bei den Foundries) ist dies nicht mehr möglich. Die Kunden müssen ihr Chipdesign mit dem PDK der Foundry entwickeln. Wenn sie zu einer anderen Foundry wollen müssen sie für diese Foundry das komplette Chipdesign noch Mal machen. Bei großen SoCs reden wir hier von 9-stelligen Beträgen in USD.

AFAIK hat Apple sich 2015 nochmal den Spaß erlaubt den A9 sowohl bei Samsung als auch bei TSMC fertigen zu lassen. IIRC war der Grund dass TSMC nicht ausreichend Kapazität für Apple hatte.

AMD ist über ATI zum TSMC Kunde geworden. AMD war mit den CPUs sehr lange durch Wafer Supply Agreements an GF gebunden. Erst 2016 hat sich AMD bei GF für den 7 nm Prozess von TSMC freigekauft. AMD war sogar bereit GF für jeden bei TSMC gefertigte Wafer zu bezahlen. Zum Glück für AMD hat GF 7 nm einstellen müssen und somit ist diese Klausel entfallen.

Alles ab 7 nm hat AMD bei TSMC fertigen lassen. Nur der IOD für Zen 2/Zen 3 wurde nochmal bei GF in 14 nm aufgelegt. Quasi das Abschiedsgeschenk.

Bei den meisten Kunden die bei Samsung und TSMC fertigen lassen ist es so, dass sie zuerst Kunden bei Samsung waren und dann mit neuen Produkten zu TSMC gewechselt sind. Solange die alten 14 nm Produkte noch produziert werden, beauftragen sie dafür Samsung.

Qualcomm und Nvidia waren AFAIK die große Ausnahme, weil sie neue Produkte sowohl bei TSMC als auch bei Samsung fertigen ließen. Das können sich nur große Halbleiterhersteller leisten.

Ist es auch immernoch bei Qualcomm.

Aber nicht mehr die Spitzenprodukte. Und für Qualcomm ist Samsung eben auch Kunde.

Nvidia und Qualcomm ergehen sich aktuell in Lobreden auf TSMC. Schauen wir Mal.

Da geht es rein um Geschäfte und nicht um Sentimentalitäten.

Es geht rein um Geschäfte und Geschäftsgeheimnisse.

TSMC will nicht dass über ihre Kunden Know How zu den anderen Fabs abfließt, also müssen AFAIK die Kunden Verträge unterschreiben, dass alle Designer die mit dem PDK von TSMC arbeiten in den nächsten 2 Jahren nicht mit den PDKs anderer Unternehmen arbeiten.

Moderne Halbleiterfertigung in der Spitze funktioniert nur in enger Partnerschaft von Fab und Halbleiterhersteller. Dabei lernen beide die Geschäftsgeheimnisse des Partners kennen. Die enge Zusammenarbeit mit den Kunden und die gemeinsame Entwicklung ist der eigentliche Schlüssel zum Erfolg von TSMC.

TSMC konkurriert nicht mit den eigenen Kunden. TSMC auf der anderen Seite wird Kunden, die auch mit der Konkurrenz zusammenarbeiten nicht so viel offenlegen, wie TSMC Kunden offenlegt, die nur mit ihnen zusammenarbeiten. Und da heute DTCO einen großen Teil der Verbesserungen beinhaltet, bedeutet weniger Optionen bei DTCO zu haben weniger optimierte Produkte herzustellen.

So wie ich höre soll Intel bei TSMC in N3 fertigen lassen. Warum wohl?

5nm, also wohl 4LPP wäre allerdings ziemlich mau. Kein Fortschritt von Mendocino aus. Aber gut, reicht für low-cost wahrscheinlich.

So alle paar Monate behauten ein paar Leute, dass Samsung alles im Griff hätte. Aber dann gibt es wieder Hinweise, dass dem nicht so ist.

Mendoccino wird in N6 gefertigt. Es gibt IMO keinen Grund von N6 auf einen 5 nm Prozess bei Samsung zu wechseln.

 

[icetom]

Für mich ist das WerbeGeplapper und eine nicht news um den Kurs zu pushen. Solche Vorhersagen was in ein paar Jahren sein wird bringen rein gar nichts. Wie viele Leute das hier einfach fressen ist lustig, gleichzeitig wird hier stets fast allen Unternehmen zu viel Marketing vorgeworfen.

 

[ETI1120]

Die Desktop-CPUs von AMD sind ja nichts weiter als geschrumpfte Server CPUs und bei Server-CPUs spielt der der Idle-Verbrauch keine besondere Rolle, die Dinger sollen ja nach Möglichkeit 24/7 schaffen.

Die Desktop und die Server CPUs bestehen aus Chiplets. Bei Zen 2/3 wurde der cIOD aus dem sIOD abgeleitet. Bei Zen 4 sind der cIOD und sIOD eigenständige Designs.

Bei CPUs die aus Chiplets bestehen ist "schrumpfen" eine eigenartige Beschreibung.
Aber spätestens bei Zen 4 ist sie falsch, da die Kernkomponenten andere Designs mit anderer IP sind.

Du hast aber in dem Sinn recht, dass der Verbrauch bei Idle bei AMD bisher nicht weit oben auf der Prioritäten Liste für den Desktop gestanden hat. Das war insofern ärgerlich weil AMD bei Zen 4 zum ersten Mal Notebookchips auf der Basis von Chiplets angeboten hat. Unter Last waren sie durchaus konkurrenzfähig, aber hier war der verbrauch unter geringer Last eben viel zu hoch um längeren Akkubetrieb zu ermöglichen.

Für mich ist das Geplapper und eine nicht news im den Kurs zu puschen. Solche Vorhersagen was in ein paar Jahren sein wird bringen rein gar nichts.

An dem was in ein paar Jahren sein wird wird momentan gearbeitet.

 

[icetom]

"An dem was in ein paar Jahren sein wird wird momentan gearbeitet." das ist ja eine absolut banale und offensichtliche Erkenntnis dass diese Forschung an der Zukunft arbeitet. Du bestätigtst direkt was ich geschrieben habe.

 

[bensen]

Wenn sie zu einer anderen Foundry wollen müssen sie für diese Foundry das komplette Chipdesign noch Mal machen. Bei großen SoCs reden wir hier von 9-stelligen Beträgen in USD.

Welche Relevanz soll das haben? Es ging ja um verschiedene Produkte und nicht um die parallele Fertigung einzelner Dies.

Aber nicht mehr die Spitzenprodukte. Und für Qualcomm ist Samsung eben auch Kunde.

Samsung hat ja auch keine Spitzenfertigung. Wenn Samsung wieder was auf die Kette bekommt, werden sie auch gerne wieder mehr dort fertigen, um die Verhandlungsposition gegenüber TSMC zu stärken.

TSMC will nicht dass über ihre Kunden Know How zu den anderen Fabs abfließt, also müssen AFAIK die Kunden Verträge unterschreiben, dass alle Designer die mit dem PDK von TSMC arbeiten in den nächsten 2 Jahren nicht mit den PDKs anderer Unternehmen arbeiten.

TSMC konkurriert nicht mit den eigenen Kunden. TSMC auf der anderen Seite wird Kunden, die auch mit der Konkurrenz zusammenarbeiten nicht so viel offenlegen, wie TSMC Kunden offenlegt, die nur mit ihnen zusammenarbeiten.

Das bezweifel ich stark. Würde für Qualcomm den Kollaps bedeuten.

So wie ich höre soll Intel bei TSMC in N3 fertigen lassen. Warum wohl?

Auf Verschwörungstheorien gebe ich nicht viel.

Mendoccino wird in N6 gefertigt. Es gibt IMO keinen Grund von N6 auf einen 5 nm Prozess bei Samsung zu wechseln.

Preis. Aber klingt im ganzen nicht wirklich überzeugend.

 

[Nixdorf]

bei Server-CPUs spielt der der Idle-Verbrauch keine besondere Rolle

Das stimmt nicht ganz. Der Idle-Verbrauch definiert die Basisleistungsaufnahme. Der Prozessor hat ein Power-Limit. Server-Prozessoren unterliegen sehr häufig Taktbeschränkungen, die sich aus dem Gesamt-Power-Limit ergeben. Zen 5 für Server erhöht dieses Limit bei einigen SKUs von 400W auf 500W, um den Takt anheben zu können. ServeTheHome hat bei Intel hingegen festgestellt, dass bei Emerald Rapids die Package Power im Idle gegenüber Sapphire Rapids um gut 20W gesunken ist. Beides ist gleichermaßen geeignet, mehr Power-Budget für Lastsituationen bereit zu stellen.

Insofern ist der Idle-Verbrauch sehr wohl relevant, aber nicht, weil die Maschine oft nichts tut, sondern weil sie die zusätzlichen Watt für höhere Takte nutzen kann.

 

[aid0nex]

KI...
MMn. ne sehr große Seifenblase.
Windows wird seinen Piloten nicht durchsetzen können.
Zumindest werden sie an mir kein Geld mehr verdienen.

Zudem kann ich mir kaum vorstellen, dass ihr Vorhaben Vertrauen erweckt.
Im Gegenteil.
Mit persönlich macht es Unmut und Sorge.
So sehr, dass ich nach 10 definitiv kein Windows mehr nutzen werde.
Höchstens für das reine Gaming, aber ich hoffe, dass sich hier die Linux-Welt weiter behaupten wird.

Ich ich ich ich... Ich nutze kein Windows, ich habe Sorgen deswegen, ich zahle dafür nix. Deshalb wird sich das nicht durchsetzen.
Du bist nicht der Nabel der Welt. Ich höre auch kein K-Pop und trotzdem ist der super erfolgreich. Ich habe auch nicht die SPD gewählt und trotzdem ist Olaf Scholz Kanzler. Ich habe kein Kind in die Welt gesetzt, trotzdem gibt es Kinder in den Schulen dieses Landes. Es gibt noch andere Menschen und vor allem jede Menge Firmen, die auf den Hype Train springen und voll auf AI abfahren und dafür eine Menge Geld investieren... Da bist DU letztlich recht egal.

 

[Ned Flanders]

MMn. ne sehr große Seifenblase

KI wird sich genauso wenig durchsetzen wie WinXp es mit seiner klickibunti Oberfläche hat.

 

[ghecko]

AMD wieder mal mit top marketing "bis zu 100x effizizenter"

Gesprochen wie die Redaktion von Userbenchmark.
Nein, das ist kein Kompliment.

 

[PrefoX]

Moin,

ich hoffe das zahlt sich auch entsprechend aus in Zukunft. Gerade die Berichte über den immer weiter zunehmenden Stromverbrauch speziell im Bereich KI, kann schon zum Wettbewerbsvorteil werden, wenn man hier entsprechend Effizient ist.

Wettbewerb tut uns am Ende allen gut!

Naja die effizientesten Rechenzentren laufen ja mit Nvidia GPUs, also hat Team Green auch diesen Vorteil. und die laufen nicht mal mit Blackwell...

Ergänzung (26. Mai 2024)

Wo kommt diese Unsinns-Aussage her? Es geht um Effizienz-Steigerung und nicht um Performance-Steigerung in dem Artikel. Effizienz zu steigern ist viel leichter als Performance.

Und Performance steigt nicht in 10 Jahren 1000-fach. Sie ist >64-fach gestiegen seit 2000 bei CPUs. Das kann man sehen wenn man SpecINT und SpecFLOAT betrachtet. Und das sind 24 Jahre. Die Aussage 1000-fache Rechenleistung in 10 Jahren ist absoluter Unsinn ohne Grundlage. Das geht auch mit GPUs nicht.

doch das geht mit GPUs, ist ja jetzt schon der Fall. allein die Software von Nvidia wurde mit einem update 3.5x schneller letztes Jahr und das was war fast jährlich so. dann kannst du bei GPUs immer breiter gehen, bei CPUs bringt das nicht soviel.