Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsAI-Rechenleistung: Metas neue AI-Cluster nutzen jeweils 24.576 Nvidia H100
Um bei AI führend zu sein, will Meta auch bei der Hardware führend sein: Allein 350.000 Nvidia H100 im Portfolio sind bis Ende 2024 das Ziel. Die gesamte Rechenleistung für AI-Zwecke werde sogar 600.000 dieser Beschleuniger entsprechen, erklärte Zuckerberg im Januar. Zu zwei H100-Clustern hat Meta jetzt Details genannt.
Was da aktuell ein Geld umgesetzt wird ist unfassbar. Freue mich schon auf den nächsten Jahresabschluss von NVidia... Auch wenn die Zahlen aktuell schon unglaublich scheinen, so ist ja kein Ende in Sicht.
Ich habe es auch gerade mal grob überschlagen, alleine für die GPUs dürfte man sich um knapp 1,5 Mrd. $ für die beiden Cluster bewegen. In die Cluster dürfte aber auch eine gewaltige Menge Strom fließen.
Ich sehe schon kommen das sich NV vom Gamingmarkt verabschiedet bzw ein zwei Generationen aussetzt und AMD die Preise aufgrund der Nachfrage mal eben um 1000€ erhöht
Das wäre ja ein "Weltuntergang" für uns Gamer. Dann muss man eben mal die Regler ein wenig bedienen.
Welche Preise potentiell aufrufbar sind, sieht AMD doch jetzt schon. Gibt genug Leute, die sich eine 4080 / 4090 holen und alleine schon an der 1080 Ti Umfrage, wo viele diese Karte nur knappe 2 Jahre hatten, wie schnell einige dann die Top-Karten wechseln...
AMD und Intel arbeiten auch schon unter Hochdruck an KI-Hardware, keine Angst. Aktuell gibt es eigentlich keinen Grund, noch Grafikkarten für Spieler zu entwickeln und herzustellen. Selbst bei den Preisen von 2021 wäre das für Nvidia nur ein lauer Furz in den Bilanzen. Es bleibt aber die leise Angst davor, dass der brutale KI-Hype doch irgendwann ein wenig nachlassen könnte. Deshalb kann es nicht schaden, sich andere Standbeine warmzuhalten. Aber psst, sagt sowas nicht den Aktionären. Hören die nicht gern.
Würde NV den Gamingmarkt verlassen, würde dies ein erhöhtes Risiko darstellen. Wenn man es auf Langezeit sehen würde, momentan ist NV das Maß aller Dinge, sobald aber ARM Chips in Grafiklösungen schneller sind und Gleichwertig bei einem Bruchteil der Stromaufnahme. Bricht der Markt für NV weg und dann ohne Gamingmarkt dazu stehen wäre einfach nur Mist. Klar ist die Prio bei AI, nur glaube ich nicht das der Gamingmarkt von NV aufgegeben wird.
Ich sehe schon kommen das sich NV vom Gamingmarkt verabschiedet bzw ein zwei Generationen aussetzt und AMD die Preise aufgrund der Nachfrage mal eben um 1000€ erhöht
Wird nicht passieren.
Gaming Karten sind der Einstieg in den AI Markt.
Gaming Karten erfordern kein advanced packaging, was das aktuelle Limit für AI Hardware ist. Somit sind Wafer in größeren Kontingenten erhältlich, als man an AI liefern kann.
Wobei sich für Blackwell bereits abzeichnet, dass auch hier die Karten mehr AI Fokus bekommen.
512Bit B202 wird kein Gamer mehr werden (im sinne des Preissegments)
Mal grob überschlagen: In einem DGX H100 sitzen acht H100 GPUs und das System verbraucht insgesamt im Peak 10,2 kW elektrischer Leistung. 49.152 / 8 x 10,2 kW = 62.668,8 kW. Das ist nur der reine Stromverbrauch wenn alle Systeme ohne Netzwerkkomponenten wie Switches und Router und ohne Kühlung unter Vollast laufen. Mit dem Rest dazu dürfte man geschätzt bei ~80.000 kW +-5.000 kW rauskommen.
Zum Vergleich: Diese Leistung erzeugen sechs Offshore-Windräder der 15 MW-Klasse, 14 Onshore-Windräder der 6 MW-Klasse oder eine PV-Freiflächen-Anlage mit 800.000 m² (Quadrat mit ~900 Metern Kantenlänge), natürlich alle unter Vollast.
Warum sollten wir das nicht gerne hören? Jeder der ein bisschen den Markt versteht, sollte wissen dass Nvidia auf kurz oder lang einen Kurseinbruch erleiden wird.
Der Markt für AI-Chips treibt zwar auch die Preise für Gaming-Chips in die Höhe, allerdings könnte das ganze für uns auch langfristig einen nicht zu unterschätzenden positiven Effekt haben:
Falls die enormen Gewinne in diesem Bereich aufgrund von Wettbewerb (auch AMD und Intel wollen etwas vom Kuchen abhaben) in die Weiterentwicklung gesteckt werden, dann könnte es über kurze Zeit zu großen Leistungssprüngen kommen. Auch wenn die Gaming-Produkte lediglich "Abfall" des AI-Marktes sind, könnten diese davon stark profitieren.
Mittelfristig wird vor allem auch KI in Spielen einen immer höheren Stellenwert erreichen.
Man stelle sich vor, in Titeln mit heutiger Grafik würde die gesamte Spielwelt von einer KI "beseelt" werden. Quasi eine KI als "Meister" wie bei Pen&Paper-Spielen früher... Endlich vernünftige Dialoge mit NPCs etc.
Würde mich mehr reizen als nochmal etwas "bessere" Grafik.
Das ist eine Masse Geld.
Aber was bringt mir das als User?
Und womit wird das überhaupt alles gezahlt?
Es ist doch klar, durch unsere persönlichen Daten, die wir diesen KI-Funktionen zufüttern.
Wollen wir das überhaupt? Eher nicht.
Darum werde ich auch solchen Plattformen den Rücken zukehren.
Die Qualität von KI ist ohnehin unterirdisch. Das hat mit Intelligenz nichts zu tun. Das ist eher ungeprüftes nachplappern von Daten und die werden noch nicht einmal von der KI gegengecheckt und auf Validität geprüft.
Ich habe es auch gerade mal grob überschlagen, alleine für die GPUs dürfte man sich um knapp 1,5 Mrd. $ für die beiden Cluster bewegen. In die Cluster dürfte aber auch eine gewaltige Menge Strom fließen.
