News Blackwell Ultra: Nvidia GB300 kommt auf 288 GB HBM3e und 1,4 kW pro GPU

ZeT schrieb:
Da Energie nicht vernichtet, sondern nur umgewandelt werden kann, und es keinen 100% Wirkungsgrad gibt, wird man immer auch Abwärme erzeugen die dann von der Atmosphäre aufgenommen wird. Wenn die Karte selbst 1,4 kW zieht, dann sind das alleine schon mal mindestens 140W die pro Karte allein in einem Kraftwerk aufgrund des Wirkungsgrads in Form von Wärme an ihr Umfeld abgegeben wird. Was da dann noch an Energieverbrauch in den Rechenzentren bezüglich Kühlung usw hinzu kommt kann man sich ja grob vorstellen.
Noch deutlicher: Chips setzen die Energie 100%ig in Wärme um. Sie sind Heizplatten, die nebenbei rechnen. Pro Chip, der 1,4KW zieht, wird also 1,4KW Abwärme erzeugt und die von dir genannten zusätzlichen Effekte kommen obendrein.
Deshalb gilt ja auch stets, dass die Abwärme von Rechenzentren für etwas anderes (Warmwasserversorgung der Umgebung) mit genutzt werden sollte.
 
Zuletzt bearbeitet: (Satz "Sie sind Heizplatten, die nebenbei rechnen" eingefügt)
  • Gefällt mir
Reaktionen: Zarlak und ZeT
@CDLABSRadonP... Das Endresultat wird immer Wärme sein, da dies die niederste Energieform ist. Daher sollte man vor allem insgesamt eher Energie sparen als nur die Effizienz zu steigern.

Effizienz ist natürlich sehr wichtig, da man mehrere Verbraucher durch einen mit einem insgesamt geringeren Stromverbrauch ersetzen kann. Das würde noch immer zu mehr Performance bri geringerem Verbrauch führen.

Was man nicht tun sollte wäre, die neue Performance voll zu nutzen um noch mehr Energie zu verbrauchen, sei es Crypto oder auch die KI Entwicklung usw.
Ergänzung ()

crazy_tomcat schrieb:
OK und was willst du als Nicht fanboy Alternativ kaufen wenn du wirklich Performance willst/brauchst?
Um mal den Held der Steine zu zitieren:

"Sei kein Fan einer Firma sondern Fan eines Produkts".
 
muvmend schrieb:
Krik hat ja recht. Dank jenen, die diese Preise bezahlen, wird diese Hobby immer teurer und der Fortschritt an Preis/FPS geht flöten
Blödsinn ,das Zeugs wird teurer weil der Aufwand im Highendbereich etwas auf die Beine zu stellen immer Teurer und Aufwändiger wird inklusive an der Menge verbautem Ram.Ansosnten hätte Intel mit seinen Ressourcen längst aufgeholt.Es war schon immer Teurer etwas im Highend Bereich zu kaufen,egal was.Man kriegt ja auch keinen Porsche für Dacia Preise.Wer es nicht stemmen kann fährt halt Golf GTI. Dank Uns die solche Preise bezahlen kommt Bewegung in die Entwicklung und es fallen auch GPUs die es nicht schaffen in den billigeren Bereich.Oder glaubst du das die 4080 extra hergestellt werden? Das sind 4090 abfall
 
crazy_tomcat schrieb:
Dank Uns die solche Preise bezahlen kommt Bewegung in die Entwicklung und es fallen auch GPUs die es nicht schaffen in den billigeren Bereich.Oder glaubst du das die 4080 extra hergestellt werden? Das sind 4090 abfall
Die 4080 / 4080 Super nutzt das AD103-Die, die 4090 das AD102er. Die Aussage ist also sachlich falsch.
Die 3080 und 3090 haben hingehen auf das gleiche Die gesetzt. 2080 und 2080ti nutzten auch unterschiedliche DIEs.
 
crazy_tomcat schrieb:
Blödsinn ,das Zeugs wird teurer weil der Aufwand im Highendbereich etwas auf die Beine zu stellen immer Teurer und Aufwändiger wird inklusive an der Menge verbautem Ram.Ansosnten hätte Intel mit seinen Ressourcen längst aufgeholt.
Naja, das ist auch nur die halbe Wahrheit. Natürlich wurde es teurer wegen modernerer Fertigung und höherem Aufwand, allerdings steigt die Marge bei nVidia seit Jahren kontinuierlich nach oben.

Sprich: die Karten - und auch die Blades hier in der News - müssten nicht so teuer sein. 75% Marge die nVidia momentan einfährt ist schon heftig. Intel hatte zu Letzt 36% (alle Bereiche), AMD bei dGPUs bei 16%. Aber eben, mangels Konkurrenz legitimiert der Markt sowas.
 
  • Gefällt mir
Reaktionen: xpad.c
LamaMitHut schrieb:
Bald dann mit 1TB Arbeitsspeicher pro Karte. Es geht wieder vorwärts.
Solange bei den Zockerkarten weiter geknausert wird :evillol:.
Ergänzung ()

Topas93 schrieb:
Ich bin je gespannt ob das nicht doch mehr unternehmen hervorbringt, zwei Dienstleistungen gleichzeitig vollbringen.
  • Heizung der Nachbarschaft/ Freibads
  • Vermietung von Rechenkapazitäten
Macht Sinn und bringt (ein bisschen) Gewinn. Immer her damit.
 
-Toad- schrieb:
wurde damals auch von Kollegen als Irre bezeichnet als ich mir meine 4090 für 1699€ geholt habe, aber Jährlich für seinen A6 1400€ an Versicherungen hinzublättern ist natürlich nicht Irre, da wird man ganz verdutzt angeschaut wenn man mal dagegen kontert xD
Deutschland eben...da ist das Auto heilig😉
 
  • Gefällt mir
Reaktionen: fox40phil und -Toad-
CDLABSRadonP... schrieb:
Gibt es durchaus und entsprechend bezweifele ich es stark; zumindest, sofern du Gamer bist. Schau dir einfach mal die beiden Datenblätter im Vergleich an:
https://www.techpowerup.com/gpu-specs/geforce-rtx-4090.c3889
https://www.techpowerup.com/gpu-specs/b200-sxm-192-gb.c4210
Die B200 (also der Vorgänger in der PCIe-Variante, spielt aber keine Rolle) hat pro DIE nur 24 ROPs, während eine 4090 176 hat. (der vollständige AD102er-Chip der 4090 hätte sogar 192) Auch hat die B200 keinerlei RT-Einheiten und die praktische TFLOP-FP32er-Performance fällt (bei einem DIE) auch geringer aus als bei einer 4090.

Nein, das Ding taugt nicht sonderlich zum Gamen.
Das ist mir bewusst. Ich meinte schon eine auf Gaming spezialisierte Variante, mit ähnlichen Eckdaten wie der GB300. Z.B. mit HMB auf dem Package etc.
 
daknoll schrieb:
Zumindest in deiner Welt.
In meiner:
In der Nähe von erneuerbaren Quellen bauen… Staudamm, Gezeitenkraftwerk, Geothermie, Solarpark auf den Dächern + Wind… usw usw… möglich wäre so viel!!! In Kombination und mit Akkus als Backup für weniger Input… usw usw… 🤦‍♂️🤦‍♂️😩
 
gedi schrieb:
In den USA werden Atomkraftwerke, exakt aus diesem Grund aus dem Boden gestampft.
nein, das ist nicht korrekt..
mit Stand Dez. 2024 wird derzeit kein EINZIGES Atomkraftwerk in den USA gebaut..
schon gar nicht werden sie "aus dem Boden" gestampft

es gibt Planungen und ansagen von wegen SMR (Small Modular Reactor)
allerdings: soviel man über diese auch liest:
es gibt weder in den USA noch weltweit einen in Betrieb befindlichen Reaktor dieser Art.
Geplant wurden solche bereits in den 1960er-Jahren

und geplant werden sie auch heute wieder.. Dass sie tatsächlich kostengünstiger zu betreiben wären als "normale" Atomkraftwerke ist auch noch fraglich...

eine letzten von der französichen Regierung durchgeführte Studie/Untersuchung, hat gezeigt, dass von 12 geförderten und untersuchten SMR-Projekten (die der Staat eben schon mit Millionen auch schon gefördert hatte und noch 1 Mrd ausschütten wollte) nur 2 irgendwie wirtschaftlich durchführbar wären
(und diese beiden können keinen Storm produzieren sondern nur Wärme für ein Fernwärmenetz)

also es ist mit nichten so, das Atomkraftwerke in den USA "aus dem Boden gestampft" werden..
Ergänzung ()

muvmend schrieb:
Krik hat ja recht. Dank jenen, die diese Preise bezahlen, wird diese Hobby immer teurer und der Fortschritt an Preis/FPS geht flöten
geh.. noch nie konnten wir soviele Spiele in so hoher Qualität mit so günstiger Hardware spielen wie heute

mein erster PC kostet fast 3 Monatsgehälter - und hatte 320x240 Auflösung mit 256 Farben bzw. 640x480 mit 16 Farben..

heute kaufst dir ein Steamdeck für 1/5 oder weniger des Monatsgehaltes und kannst viele Tausende Spiele damit spielen
Ergänzung ()

zum Preis der 4090...
ich finde es eigenlich fast erstaunlich dass es hier keine Grafikkarten gibt die mehr kosten

in anderne Bereichen ist die Schere zwischen günstig und hochpreisig viel größer..

ich kann für 500 ne günstige Kamera mit Kit-Objektiv kaufen
oder für 10.000 Euro ne hochwertige kamera mit gutem Objektiv..
von weiteren hochwertigen Objetiven gar nicht gesprochen..

ich kann mir für 500Euro ein Rad vom Baumarkt holen
oder für 9000Euro nen schönes Rennrad beim Radhändler

ich kann nen 20.000 Euro Dacia fahren oder 200.000 für nen Porsche oder noch absurd höhere Preise für anderes Gerät..

da finde ich den Unterschied zwischen einem günstigen GamingPC (800Euro), einem guten Mittelklasse-GamingPC (2000Euro)
und einem Mörder-Gaming-PC (4000Euro) jetzt eigentlich relativ eng beisammen von den Kosten her

also wenn einer sagt: ich will 20.000 Euro für nen Gaming-PC ausgeben.. dann findet er eigentlich gar nix passendes..
weil ne 40160 gibts ja nicht
und die anderen (teils sehr teuren) GPUs -> bringen für Gaming nix, sind in diesem speziellen bereich langsamer als ne 4090, auch wenn sie 5mal soviel kosten
 
Zuletzt bearbeitet:
Alesis schrieb:
Wenn wir in den nächsten 800 Jahren weiterhin jährlich energetisch um 4% zulegen, sind wir so hell wie die Sonne.
Hier wird es ab Minute 42:15 sehr schön erklärt
Was wohl nicht bedacht wird. Wenn wir so weiter machen, heizt unsere Technosphäre alleine schon unseren Planeten auf. Und das vor 200 Jahren eingetragene CO2 durch uns in unsere Atmosphäre ist immer noch da. Und das heute eingetragene CO2 wird auch noch in 250-1000 Jahren dort sein.
Deswegen ist in der heutigen Zeit eine Kritik nicht zwingend eine Kritik gegenüber eines persönlichen Favoriten, sondern kann auch ganz klar eine Kritik für uns alle persönlich sein.

Obwohl wir vorgestern schon wussten, dass wir heute am Abgrund stehen, wollten wir schon gestern einen Schritt weiter sein.
Die Rechnung übersieht aber einiges. Zum Beispiel dass durch mehr CO2 in der Luft und der Atmosphäre die Baumgrenze wesentlich höher liegt und es auch mehr Niederschläge in vorher Niederschlagsfreien/-armen Gebieten gibt und beides zu wesentlich mehr und schneller wachsenden Vegetation führt.

Oder warum denkst du erscheinen unter den wegeschmolzenen Gletscher in den Alpen Baumstämme und dutzende alter Römersandalen?

Wir befinden uns am Ausklingen einer jahrhundertelang andauernden Kältephase, hervorgerufen durch einen Vulkanausbruch in Mittelamerika.
 
input_iterator schrieb:
Wir haben im HPC Bereich hier mehre Cluster mit GB 200 Karten laufen. Einzelne Karten können direkt von Nvidia nicht erworben werden. Das ganze kommt immer direkt auf die Kundenwünsche zugeschnitten., wenn man mal die speziellen Systemanbieter wie Dell, HPE und wie sie alle heißen, außen vor lässt. Dementsprechend sind auch die Preise immer individuell.
Und vor allem niedriger als das was man laut Preisliste bezahlen soll.

Und dennoch sind die Margen bei nVidia riesig. Das zeigt wie überteuert das Zeug an sich ist.
 
MalWiederIch schrieb:
sinnlose Gejammer über den hohen Stromverbrauch an ohne die Effizienz in Betracht zu ziehen :rolleyes:
Tja, da werden Milliarden bisher in K.I. Rechen-/Datensammelzentren von den größten (vorwiegend amerikanischen) IT-Konzernen investiert, aber beim Endverbraucher kommt bisher auch nach mehreren Jahren nichts wirklich großartig sinnvolles an (LLMs mit ChatGPT als Beispiel soll/darf diese Investitionen bisher rechtfertigen) und was bei den Unternehmen, die K.I. in deren Produktkette einbauen bisher an Mehrwert bleibt, ist auch fragwürdig.

Im Endeffekt sehe ich nur, dass irgendwann die ansonsten nicht mehr leistbaren Investitionen in diesen Moloch K.I., von dem nVidia bisher mit deren GPU-Verkauf überproportional bis fast schon monopolistisch profitiert (aber wer hoch steigt, kann evt. auch tief fallen), an die Verbraucher weiter gereicht werden müssen (wenn man nicht Arbeitsplätze o.ä. in großem Rahmen durch K.I. glaubt ersetzen/einsparen zu können) oder diese - bisher (was das Geschäftsmodell angeht) auf wenig Substanz beruhende - Blase irgendwann platzen dürfte und dann evt. eine Weltwirtschaftskrise droht.

Die Idee hinter K.I. ist ja ganz nett, aber bisher rechnet sich diese überhaupt nicht, egal ob das nun LLMs angeht oder damit beworbene/vermarktete PC Hardware (zumal der CoPilot+ immer noch nicht ausgereift da ist und was wird dieser schon sinnvolles (an Mehrwert) bieten)?

Ich bleibe da skeptisch/abwartend und werde sicherlich keine K.I. CPU/APU Preissteigerungen mittragen wollen, nur um dann großspurig verkünden zu können, dass ich K.I. nutze auf einem Laptop oder Desktop ... mehr Substanz und weniger "bragging rights" wären zur Abwechselung 'mal schön in dieser Welt, die mittlerweile durchzogen ist mit Blendeprodukten und Bockmist-Marketing (für Produkte die man eigentlich nicht braucht), mit dem sich Kunden fangen/verkackeiern lassen.

Und ja, für so einen Mist - den bisher keiner braucht und großartig ausreizen kann - werden dann Milliarden investiert in jede neue Produktgeneration und mangels Effizienz nagt das auch zunehmend am Weltklima (auch wenn die Amis - besonders unter Trump - glauben damit nichts am Hut zu haben und sich von der Entwicklung abkoppeln zu können, bis die nächste Wirbelsturmkatastrophe oder ähnliches einen kurz Realitätscheck verabreicht, der dann aber auch medial wieder schnell vergessen gemacht/begraben wird).

Ob die Grafikkarten und damit entstehenden Rechen-/Datensammelzentren dann deutlich mehr leisten bei gleicher energetischer Effizienz ist relativ egal, denn bei dem trotzdem absolut rasant steigenden Energiehunger (ohne ansatzweise bisher funktionierende Kernfusion) und auf den fragwürdigen Mehrwert bisher bezogen, geht diese existentielle Wette bisher gar nicht auf sondern steigert den Klimadruck.

So ehrlich sollte man dann doch schon sein (ansonsten vielleicht gerne einmal einen Abstecher nach Valencia machen, wo die Leute einen für eine ignorante, wenig nachhaltige Haltung sicherlich nicht feiern werden), dass die aktuelle, wenig nachhaltige Entwicklung im K.I. Bereich die Menschheit weltweit eher in Existenznöte bringt als ein (Geld- und) Technik-Segen (für vorwiegend einige wenige Milliardäre) zu sein, der Lebensqualität und Gemeinwohl global steigert.
 
Zuletzt bearbeitet:
Zurück
Oben