News Blackwell Ultra: Nvidia GB300 kommt auf 288 GB HBM3e und 1,4 kW pro GPU

[stevefrogs]

@nlr Hoffe da kommt noch eine News zum Jetson Orin Nano Super, der könnte für KI-Enthusiasten sehr spannend sein.

 

[Rainbowprincess]

it definitely can run crysis

 

[-MK]

Nope

Thema also wirklich nicht verstanden? 😅

 

[input_iterator]

Wir haben im HPC Bereich hier mehre Cluster mit GB 200 Karten laufen. Einzelne Karten können direkt von Nvidia nicht erworben werden. Das ganze kommt immer direkt auf die Kundenwünsche zugeschnitten., wenn man mal die speziellen Systemanbieter wie Dell, HPE und wie sie alle heißen, außen vor lässt. Dementsprechend sind auch die Preise immer individuell.

 

[CadillacFan77]

Ist auch vollkommen in Ordnung. Dann hast Du andere Vorlieben. Und wenn sie kein bzw. wenig Geld kosten, passt das natürlich absolut! Aber schreib anderen nicht vor, wie sie mit ihrem Geld und ihrer Freizeit umgehen. Da hat jeder eine eigene Gewichtung.

Absolut korrekt. Natürlich darf man die Preise vom Hersteller kritisieren. Aber ob man nun jetzt sowas kauft oder nicht, ist immer noch eine freie Entscheidung.
Natürlich hat die aber Konsequenzen. nVidia kann Preise sowohl im Computing als auch Gaming Markt nunmal ziemlich ausloten, wenn Leute bereit sind dafür zu bezahlen. Damit springen halt ein paar wenige, die sich das irgendwann nicht mehr leisten können über die Klippen. So ist es halt.

Allerdings, kaufen MUSS man gar nichts. Ich könnte mir locker jeden Monat eine 4090 neu kaufen - wäre überhaupt kein Problem. In einigen Monaten sicherlich auch 2 oder 3. Aber ich WILL nicht.

Meine 7900XT reicht für meine Bedürfnisse locker aus und auch die habe ich 2023 für unter unter 800€ gekauft. Ich persönlich hielt die Karte für den besseren Deal als ne 4070 Ti, welche die Alternative im grünen Lager gewesen wäre.

Ich kaufe Hardware nach Bedürfnis und versuche für mich den besten Deal zu finden. Bisher bin ich damit nicht schlecht gefahren.

Ergänzung (Gestern um 17:59)

Wichtigster Abschnitt, denn somit sollte sichergestellt sein, dass LPCAMM tatsächlich mainstream wird.

Wie soll LPCAMM zum Mainstream werden, nur weil es in einer sehr spezialisierten, dedizierten HPC Solution eingesetzt wird?

 

[GutenTag]

Wann kommen die Sanktion gegen die USA, weil sie keinen aktiven Umweltschutz betreiben

 

[Ichthys]

Ich kaufe Hardware nach Bedürfnis und versuche für mich den besten Deal zu finden. Bisher bin ich damit nicht schlecht gefahren.

Absolut korrekt. Ich könnte mir nicht jeden Monat eine leisten, aber ich bin mit meiner Ausstattung zufrieden und gehe mit dir, dass die Preisgestaltung seitens nVidias zumindest kritikwürdig ist.
Ein paar Prozente Gewinnmarge würde nvidia nicht wehtun.

 

[DeusExMachina]

Diese Hardware wird meist für Simulationen eingesetzt. Z. B. bei der Berechnung der Struktur von Proteinen kann man gar nicht genug Rechenpower haben. Tatsächlich wechselt man hier schon auf KI, um die Strukturen in erträglicher Zeit vorherzusagen.

Das ist zwar keine KI aber okay.

Gibt es dazu eigentlich schon Auswertungen wie gut die Trefferqoute ist?

 

[mibbio]

GPU will ich das nicht mehr nennen

Es wird doch auch gar nicht als GPU bezeichnet oder vermaktet. Blackwell und davor Grace Hopper sind haben nichts mit GPUs (also den Rechenchips auf Grafikkarten) zu tun, sondern sind eine komplett eigenständige Produktklasse. Du wirst nie Blackwell in Form einer GPU auf einer Grafikkarte sehen, sondern nur auf diesen Beschleunigerkarten für Simulationen und KI - ähnlich wie RDNA (Grafik/GPU) und CDNA (Simulation/Numberchuncing/KI) bei AMD.

 

[DotNetApp]

@nlr Hoffe da kommt noch eine News zum Jetson Orin Nano Super, der könnte für KI-Enthusiasten sehr spannend sein.

Fand die Hardware ehrlich gesagt eher unbeeindruckend.
Als hab da etwas mehr tops erwartet.

 

[Krik]

@DeusExMachina
Alphafold ist eine KI. Zitat von Wiki:

AlphaFold (2018), AlphaFold 2 und AlphaFold 3 (2024) sind tiefe neuronale Netze aus Transformern

Wenn das keine KI ist, dann sind LLMs auch keine.

Gemäß der englischen Wiki liegt die Genauigkeit bei ca. 90/100 Punkten nach GDT.

 

[-=[CrysiS]=-]

Ich liebe diesen Post!
.... Jedes Mal....

Ich auch, schade das man den nicht einfach als „Gag“ stehen lässt.

 

[Fight for Right]

Nehme 4 schreibs auf den deckel XD

 

[Vexz]

@mcmurphy100
Ich finde es irre, 2k für eine Grafikkarte auszugeben und das normal zu nennen. Das ist es, was die Leute in diesem Forum machen. Warum also nicht mal einen draufsetzen?

Naja, andere Leute geben einen vierstelligen Betrag für ein Smartphone oder eine mechanische Uhr aus, oder einen sechstelligen Betrag für ein Auto. Aus meiner Sicht könnte ich das auch als "irre" bezeichnen, weil das nicht meine Welt ist und mir nie der Gedanke kommen würde, das zu tun. Aber jeder hat so seine Hobbys, für die er bereit ist, sein Geld auszugeben.

 

[cruse]

Bald dann mit 1TB Arbeitsspeicher pro Karte. Es geht wieder vorwärts.

Endlich!

 

[Picard87]

Deshalb ziehen genau das ja aktuell einige US-Firmen für ihre Datacenter in Betracht.

Eben. Amazon, Meta, Microsoft und Co. sind ja de facto schon zu Energieunternehmen geworden.
Weil viel über Stromverbrauch und Effizienz geschrieben wird in den Kommentaren: die grundsätzliche Frage stellt sich aber schon, ob diese Materialschlacht am Ende sinnvoll ist. Wenn ich meine Schüler angucke, dann sitzen die stundenlang vor der KI und lassen sich zur Gaudi irgendwelche Bilder generieren. Ist das sinnvoll? Ist das nachhaltig? Ich denke nicht.

 

[cruse]

288GB VRAM, net übel

Endlich passt CoD in den Vram!

 

[DeusExMachina]

@DeusExMachina
Alphafold ist eine KI. Zitat von Wiki:

Wenn das keine KI ist, dann sind LLMs auch keine.

LLM sind auch keine KI die werden nur so genannt weil sich das gut verkauft (dachte man)

 

[ZeT]

Gleich fängt wieder das sinnlose Gejammer über den hohen Stromverbrauch an ohne die Effizienz in Betracht zu ziehen

Völlig irrelevant. Strom wird trotzdem verbraucht und die Abwärme muss auch irgendwo hin.

 

[MiniM3]

Zwei bitte!
Einfach nur krass