News Nvidia GeForce RTX 4090: Tausende Karten in China zu AI-Beschleunigern umgebaut

[Jiddis]

wo werden die 4090 eigentlich zusammengelötet? in China?

 

[Schmarall]

zweckentfremdet

Bitte was? Ich kann mir eine 4090 kaufen und unters Kopfkissen legen. Oder als Schöpflöffel benutzen. Oder sonst was machen.

Bitte nicht hier auch damit anfangen und latent Framing betreiben.

 

[Krik]

@Schmarall
An wen ging dein Post?

 

[Mensch_lein]

upsa, sorry @Krik

An der Firmware muss man was ändern.

Hmmm... ok, das leuchtet mal ein.

Also wird die Firmware neu geschrieben und somit ist das Urheberrecht makulatur, da nix tangiert wird davon.

Aber gut, ob und ob nicht, wissen wir schlicht nicht.

 

[catch 22]

Urheberrecht spielt auch in China eine Rolle, die Regierung ist da auch bemüht, dass das da auch nicht überhand nimmt, denn das schadet ja dem Ruf des Landes.

Spätestens wenn es um Dinge geht, die für das "chinesische kommunistische heilige & von Weisheit getriebene völlig uneigennützige und einzig und alleine für das Wohl aller Chinesen agierende ZK" ganz oben auf der Agenda steht... und diese Karten dürften ganz weit oben stehen! ... wird das den verantwortlichen da so richtig egal sein. Für den chinesischen Politapparat ist die Wichtigkeit von "irgendwas mit KI" und "alles mit KI" genau so wichtig, wie jedem einzelnen an der Spitze stehenden Politiker, seine ihm persönlich zustehenden Vergünstigungen und Extras. Und für den eher unwahrscheinlichen Fall, dass da sogar wahre und nicht korrupte Eiferer bei sein sollten... denen ist das sogar noch viel wichtiger, als das eigene Wohl.

Nvidia braucht da mit einem erfahrenen Team ein paar Jahre für, bis es fertig ist.

Nvidia und die Boardpartner brauchen "Jahre" (ich würde eher auf bis zu 1 Jahr tippen, bedenkt man, in welchem Zeitabständen die Kartengenerationen kommen können, wie ähnlich sich die unterschiedlichen Generationen sein können, ...) vor allem um die extremen Bereiche auszuloten, zu denen der Chip in Kombination mit dem jeweiligen PCB fähig ist und ein gewisser Anteil dessen betrifft sogar nur das Gaming, um für verschiedene Modelle und Leistungsklassen unzählige Firmware anzupassen.
Letzteres fällt bei den GPU weg und ersteres muss auch nicht so extrem ausgeprägt sein.

Die Programmierung eines Firmware Grundgerüst halte ich für Leute vom Fach nicht für weiter herausfordernd und ich wäre nicht mal überrascht, wenn es das nicht schon irgendwo als Download geben würde. Dann "nur noch" die Parameter der GPU und des PCB entsprechend setzen, ohne dass man auch nur im Ansatz ans Limit ran muss, wie es bei den zuvor unterschiedlichen Modellen der ausgeschlachteten RTX 4090 Karten von verschiedenen Herstellern der Fall war.
Vor allem dürfte davon auszugehen sein, dass dieses verwursten sicherlich schon einige Zeit läuft, womöglich sogar schon, bevor die Sanktionen durch die USA überhaupt beschlossen wurde und mit dem Beschluss, lediglich der Einkauf bis zum Inkrafttreten intensiviert wurde. Entsprechend steckt da sicherlich auch eine gewisse Portion Hirnschmalz und Vorbereitung hinter.

Es kann natürlich auch sein, dass eine möglichst neutrale aber schlicht "raubkopierte" Firmware verwendet wird, die mit den entsprechenden Settings dann stumpf drüber gebügelt wird. Das dürfte wenig Mühe bereiten. Aber da sind wir wieder an dem Punkt, an dem man viel Glück bei dem Rechtsstreit vor einem chinesischen Gericht wünschen darf...

Andererseits, es kann auch tatsächlich sein, dass die Firmware nicht angerührt wird, sie so jungfräulich ist, wie wenn die Grafikkarte bei uns in der noch verschweißten Verpackung im Laden ausgestellt wird und im Betrieb dann von der Betriebssystemseite ein Haufen Vorgaben kommen, so wie es Afterburner und Adrenalin zum Beispiel können, die über die Firmware hinweg die Grafikkarte steuern.
Womit die ganze Diskussion um die Integrität der Firmware Programmierung mehr als hinfällig wäre.

 

[ReactivateMe347]

Krypto war ne Totgeburt und ein Schneeballsystem, KI hingegen kann tatsächlich einen Nutzen haben. Ich denke, KI-Boom ist für GPUs erst dann vorbei, wenn sich NPUs durchsetzen.

 

[GT200b]

Nun ist klar warum Nvidia ein ungewöhnliches Plus in der Gaming Sparte bei den aktuellen Quartalszahlen hatte.

100% korrekt, so ist es. Und wie 3D-Center schon meinte, ich zitiere:

Schon jetzt ist nVidia bei 80% HPC-Anteil klar als HPC-Firma zu kennzeichnen – und wenn man (hypothetisch) morgen das Gaming-Geschäft abstoßen sollte, würde das von den Geschäftszahlen her kaum wirklich auffallen.
https://www.3dcenter.org/news/die-nvidia-geschaeftsergebnisse-im-dritten-quartal-2023

Wir Gamer sind aktuell, man kann fast schon sagen Bittsteller, aber anderseits warum sollte Nvidia die Gamersparte einstampfen, damit wird trotzdem gutes Geld verdient und man verschenkt sicherlich keine 4-6mrd Dollar pro Jahr. Das einzige was passieren könnte, man produziert überhaupt keine Gaming Chips mehr, den Kontingent nutzt man dann freilich für HPC, doch hier ist ja derzeit das Packaging der Flaschenhals.
Soll Nvidia halt wieder Ampere Chips bei Samsung in 8nm fertigen, die sind relativ günstig und ergiebig

 

[eastcoast_pete]

Ich vermute einmal, bei dem Umbau geht es nicht darum, den Kuehler zu wechseln, sondern eine Karte mit mehr RAM zu bauen. AI-Modelle wie GPT-4 brauchen naemlich mehr RAM als eine 4090 bietet, und m.W. haben die speziellen AI-Karten auch mehr RAM.

Das mit mehr RAM kann durchaus auch der Fall sein, der Umbau auf Blower ist allerdings auch wichtig, wenn man viele Karten danach Seite an Seite im Server Rack betreiben will wie zB für KI. Mit dem regulären Kühler wird die warme Luft ja sonst in den Intake des Nachbarn geblasen, der dann runterdrosselt, weil's zu heiß wird.

 

[Cleric]

Für dieses Wissen wie du es nennst hätte ich gerne eine Quelle von dir genannt. Denn allgemein war es so daß FE Karten seit Monaten nicht mehr zu kaufen waren. Für mich ist deine Behauptung nicht mehr wie eine Vermutung/Spekulationen deinerseits.

Ja, sorry. Das ist tatsächlich eine Spekulation.

Denn wo sind die Karten denn hin? Und warum hat die Verfügbarkeit mit der Gerüchteküche um einen Chip-Ban Mitte des Jahres bis zur tatsächlichen Umsetzung korreliert? Aber so oder so, ob NVIDIA nun durch hohe Preise direkt oder über Stückzahlen, über eigene Karten oder nur über Chip-Lieferungen oder über beides profitiert hat, bei der Geschichte sieht man diverse Parallelen zum Mining-Hype.

Man wirds am Ende wieder u.a. wieder an den Partner-Zahlen sehen. PC-Partner z.B. hat in der ersten Jahreshälfte über einen massiven Umsatzeinbruch (-42% bei Gaming-Grafikkarten) im Vergleich zum ohnehin schon schlechten Jahr 2022 geklagt. Ausblick auf die zweite Jahreshälfte kaum besser, Hoffnung auf eine Besserung zum Weihnachtsgeschäft.

Wenn nun nach NVIDIA auch bei ASUS, Gigabyte, PC-Partner etc. plötzlich Umsätze und Margen anspringen, dann kann man ziemlich sicher davon ausgehen, dass das, was wir gerade bei NVIDIAs Gamingsparte gesehen haben, vor allem dank China zustande gekommen ist.

Was am Ende nicht bedeuten soll, dass nicht tatsächlich in Q4 eine Erholung auch durch Gamerkäufe stattfinden wird.

Btw, Gigabyte veröffentlicht monatliche Vergleiche. Und oh Wunder. Bis August sahen die Umsatzzahlen im Vergleich zu 2022 eher durchwachsen aus. Und schwuppdiwupp, ab August, vor allem aber im September ein massiver Umsatzsprung. Das sind natürlich nicht nur 4090er, sondern vor allem Datacenter-Produkte. Aber man kann den China-Effekt vor dem drohenden Ban ziemlich eindeutig aus den Zahlen herauslesen.

 

[blubberbirne]

Genau das ist es ja, die Chips selbst werden in China gefertigt.

das war einmal. Die "verbliebenen" Hersteller habe die Produktion nach Taiwan ausgelagert.

 

[RobKeith]

Will nicht wissen was die mit den Dingern machen.. heftig diese Chinaboys.

Ergänzung (25. November 2023)

Krypto war ne Totgeburt und ein Schneeballsystem, KI hingegen kann tatsächlich einen Nutzen haben. Ich denke, KI-Boom ist für GPUs erst dann vorbei, wenn sich NPUs durchsetzen

Ehhh.. nein!

 

[Faultier]

Die funktionieren aktuell in keinem Land, über sieben Ecken wird es dann doch geliefert.

Aber im stark begrenzten Umfang und zu höheren Preisen. Und man kann durchaus auch was gegen die Schlupflöcher machen.

 

[Naesh]

Scalping 2.0 beginnt ?

Mal 2-3 unters Kopfkissen legen und dann nächstes Jahr für 180% des Wertes verticken?

Ich kenne Leute die zehren aktuell immernoch vom scalping Gewinn von 2019-2021.

Was da teilweise Gewinne eingefahren wurden ist echt nichtmehr feierlich.

 

[DJMadMax]

Es erinnert dabei alles an den Mining-Boom, aber auch der ging irgendwann vorbei. Die Frage ist auch hier nur: Wann?

Das ist leider vollkommen irrelevant, denn die Preise sind und bleiben weiterhin verrückt.

Die letzte noch halbwegs human bepreiste "High End-Gamer-Grafikkarte" war die GTX 1080 Ti für ungefähr ~700 Euro Straßenpreis ihrerzeit.

Seit der RTX 2000er Serie jedoch sind nVidia und spätestens seit der RTX 3000er Serie (parallel dann mit dem 6000er RX-Aufgebot) auch AMD vollends eskaliert.

Was haben wir jetzt? AMD-Karten für "etwas unter 1000 Euro", die aber mangels DLSS zu schwach sind, selbst in niedrigeren Auflösungen in manchen Spielen brauchbare FPS liefern zu können oder alternativ nVidia, wo mindestens 1200 Euro für 16 GB VRAM hingelegt werden müssen.

Es ist ein Traum - allerdings eher ein Fiebertraum, als einer der zu schön ist, um wahr zu sein.

 

[lynx007]

Dafür feier ich die Chinesen. Was die alles machen und was da drüben möglich ist...man muss sich nur die Händler anschauen, was man dort alles bekommt, das ist hier undenkbar. Schade

Weil wir hier einen Rechtsstaat haben und weil die Deutschen sich nach dem letzten Weltkrieg um gute Außenpolitik bemühen.
Würden wir jeden auf den Fuß steigen (müssen) wie es China oder Russland machen, ja da wäre es auch hier profitabel, da notwendig, Chips aus Waschmaschinen oder Kühlschränken zu löten.... . Aber das ist kein Zustand, den man sich wünscht, den diese Sparten entstehen ja aus der Not, nicht daraus, weil günstiger ist "fertige" Endprodukten zu zweckentfremden bzw. zerlegen.

 

[MalWiederIch]

Wie dumm wir Menschen am Ende des Tages doch sind und breit sind für Geld alles zu tun

Dann lieber arm? Wobei auch deine Signatur klingt nicht danach, also hast du dich vermutlich mit eingeschlossen

Wo ist das Problem? Um zu deinem „Wohlstand“ zu kommen musstest du auch „Investitionen“ tätigen - hier nichts anderes, nur dass du dich aus unerfindlichen Gründen aus deiner Situation darüber echauffieren willst …

 

[mae]

diese Sparten entstehen ja aus der Not, nicht daraus, weil günstiger ist "fertige" Endprodukten zu zweckentfremden bzw. zerlegen.

In diesem Fall bin ich mir nicht so sicher. Da koennte es auch sein, dass solche Umbauten ohne die Sanktionen passieren wuerden. Da wird die RTX A6000 um EUR >5000 verkauft und die 4090 um EUR 2300 oder so. Da kann es schon guenstiger sein, eine 4090 zu kaufen, die GPU zu extrahieren, und daraus etwas A6000-artiges zu bauen, vor allem wenn man eine florierende Industrie fuer Herstellung von bestueckten Platinen und relativ guenstige Arbeitskraefte hat. Nvidia hat wohl gemeint, dass sie die Marktsegmentierung alleine durch ihre Vertraege mit ihren Boardpartnern durchsetzen koennen, hat sich dabei aber wohl verrechnet. Bei kuenftigen Chips werden sie wohl die zusaetzlichen Adressleitungen unumkehrbar abschalten (fuse off), wenn sie den Chip als Consumer-Chip ausliefern.

P.S.: Kann natuerlich auch sein, dass es sich nicht auszahlen wuerde, wenn in China genuegend A6000 gekauft werden koennten, und dass nur die Sanktionen den Preis der A6000 hoch genug angehoben haben, dass es sich auszahlt.

 

[AGB-Leser]

Weil wir hier einen Rechtsstaat haben und weil die Deutschen sich nach dem letzten Weltkrieg um gute Außenpolitik bemühen.
Würden wir jeden auf den Fuß steigen (müssen) wie es China oder Russland machen, ja da wäre es auch hier profitabel, da notwendig, Chips aus Waschmaschinen oder Kühlschränken zu löten.... . Aber das ist kein Zustand, den man sich wünscht, den diese Sparten entstehen ja aus der Not, nicht daraus, weil günstiger ist "fertige" Endprodukten zu zweckentfremden bzw. zerlegen.

Und diese Außenpolitik, die versucht es allen recht zu machen, steht uns oft selbst im Weg.

Um deine Aussage kurz zusammen zu fassen: diese Situation entsteht durch Knappheit, was hierzulande auch mal auftreten könnte, dann würden die Leute die Arbeit auch wieder mehr schätzen und Dinge auch öfter reparieren lassen.
Dieses Beispiel in China entsteht auch aus (künstlicher) Knappheit: den Sanktionen. Und da das in China nicht verboten ist, werden die Leute eben kreativ. Ich bin mir sicher, dass sowas in Deutschland nicht passieren wird, da lässt man sich lieber einschränken

 

[Palatas]

Krypto war ne Totgeburt und ein Schneeballsystem, KI hingegen kann tatsächlich einen Nutzen haben. Ich denke, KI-Boom ist für GPUs erst dann vorbei, wenn sich NPUs durchsetzen.

Das sehe ich ganauso, solange für China keine alternative Hardware verfügbar ist, die das ganze aus P/L Sicht besser kann, kann man nur hoffen das es bei der 4090 bleibt und nicht noch andere Gaming GPU's mit aufgekauft werden. Der Bedarf für KI Hardware ist leider enorm.

 

[Krik]

Andererseits, es kann auch tatsächlich sein, dass die Firmware nicht angerührt wird, sie so jungfräulich ist, wie wenn die Grafikkarte bei uns in der noch verschweißten Verpackung im Laden ausgestellt wird und im Betrieb dann von der Betriebssystemseite ein Haufen Vorgaben kommen, so wie es Afterburner und Adrenalin zum Beispiel können, die über die Firmware hinweg die Grafikkarte steuern.

Das macht es aber immer noch nicht legal. Ich bin mir ziemlich sicher, dass Nvidia überall, wo sie ihre Karten verticken, in den Nutzungsverträgen genau aufschlüsselt haben, was erlaubt ist und was nicht. Und wenn ein großer Staat nicht wenigstens überwiegend mit seinen Gesetzen auf das Einhalten dieser Verträge pocht, dann ist das für NV gut.
Sollte ein Staat die Verträge ignorieren, dann wird NV sich recht wahrscheinlich aus diesem Markt zurückziehen. Wenn eine zu große Zahl an Leuten tun und lassen, was sie wollen, ohne sich um Recht und Gesetzt zu scheren, dann ist das kein Markt, auf dem man Geld verdienen kann.

Wobei sich das durch die US-Sanktionen wohl bald von alleine erledigt...