Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsNvidia & Supermicro: Wie (AI-)Rechenzentren einen kühlen Kopf bewahren
Ich hatte es schon vor einiger Zeit gepostet, den 4 Sockel 1HE Server, komplett wassergekühlt (inkl. Ram; VRM, Chipsatz, Platten,...):
Und das ist der "alte" Server (2,5kW), die neue Generation dar fich nicht zeigen. Aber schon bei der alten Version hast 2,5kW max./ HE. Bei 48HEs sin das 120kW pro Rack (Auslegeleistung). Und das war schon vor 5 Jahren.
Mit Luft gingen am Ende bis zu 30% des Energiebedarfes nur für die Lüfter drauf! Das muss man sich einmal geben!
Jetzt sind unsere Partner bei bis zu 500kW/ Rack mit Wasserkühlung only.
Genau, und wenn das Mainboard kaputt geht, dann wird einfach gleich der komplette Rechner getauscht, weil es nicht möglich ist, diese Teile vor Ort zu tauschen. Das kenne ich alles schon... macht echt keinen Spaß.
An der Stelle gibt es noch sehr viel Entwicklungsbedarf.
Finde ich gut, nur leider keine Silbe darüber wie NV z. B. die effizient bei den Chips angehen will, oder auch wie man sicherstellt, dass die notwendige Energie auch aus erneuerbaren klimafreundlichen Quellen kommt. #Greenwashing
Denn was bringt es mir, wen ich dank Lüfterverzicht auf dem Papier weniger 15 % Strom verbrauche, aber die Chips jedes Gen doppelt so viel Strom aus der Dose ziehen, und dieser Mehrbedarf aus Kostengründen eben nicht aus Sonne und Wind kommt, und die Gebilde Abwärme billige aber auch ungenutzt wieder in die Atmosphäre "bläst", wen auch ohne Lüfter?
Es fehlt halt wie man gedenkt die Verlustwärme zu senken, und was passiert mit ihr? Und das müsste bei Greenfield-Investment doch auch Thema gewesen sein, oder ging es da wirklich nur ausschließlich um Kühllösung. @Volker
Wie sieht es aus mit Fertigung und Netzteil aus? Plant TMC, Samsung, Enermax auch dort etwas, oder ging es dort ausschließlich um grünere Kühllösungen, lieber @Volker Oder ging es da auschlielich um Wasserkühlung, also diesen Teil der Prozesskett?
PS: gerne mehr solche News, Richtung "Green-investments" <3
Ergänzung ()
eastcoast_pete schrieb:
Irgendwie macht "Kühlung" als Thema bei "Hot Chips" auch viel Sinn - in jeder Hinsicht 😁!
Verstehe ich nicht, geht es bei "Hot Chip" nicht grundsätzlich um Greenfield-Investment? Habe ich das falsch verstanden?
Ich finde diese Entwicklung ja gut und ich träume schon sehr lange auch auf "Wasser" umzusteigen. Aber es ist halt schon wirklich ein Greenfield-INVESTMENT . Gerade bei GPUs, findet man praktisch nichts mehr unterhalb von Highend GPUs. Und auch da zahlt man sich dumm und dämlich.
Ist doch super....damit kann man die Schule, den Kindergarten und die anliegende Sporthalle neben dem Datacenter prima heizen. Wurde bei einem mir bekannten Anbieter schon vor KI so in Hamburg gemacht.
Zu der Entwicklung der Leistungsaufnahme von Racks: Durch die Chipletbauweise wurde und wird es möglich, im Endeffekt früher getrennte Racks zusammenzufassen. Also (um bei den Zahlen aus dem Artikel zu bleiben) statt zehn Racks mit je 12KW Leistungsaufnahme für die Hardware halt ein Rack mit 120KW. Unterm Strich ist das rein positiv, denn der Flächenbedarf schrumpft und die Verluste durch Informationsübertragung sinken ebenfalls. Auch sorgt so etwas eben dafür, dass Flüssigkühlungen umso gewinnbringender eingesetzt werden können, denn der Weg, den die Kühlflüssigkeit zurücklegt, schrumpft nun einmal mit. Wichtig ist halt, wie eh und je, dass die Abwärme der Rechenzentren für Fernwärme oder ähnliches genutzt wird, um kein sinnloses Nebenprodukt zu sein.
Ist doch super....damit kann man die Schule, den Kindergarten und die anliegende Sporthalle neben dem Datacenter prima heizen. Wurde bei einem mir bekannten Anbieter schon vor KI so in Hamburg gemacht.
Aber das war ja leider nicht Thema. Hier ging es ja allein um "Kühllösung" wen ich mich nicht täusche. Was sie beschreiben ist ja sehr wünschenswert, sprich die Wiederverwendung, das Recyclen von Wärmeenergie. Dürfte bei den wenigsten Datenzentren umgesetzt werden, da sowas nachzurüsten auch nicht schön in der Jahresabschlussbilanz aussieht.
Es ist letztlich ein Treffen von und für Chipdesigner - das Vortragsprogramm da liefert immer gute Einblicke in die tatsächlichen Technologien. Da gibt es also wenig Marketing, sondern viel mehr Fokus auf Fakten und das wirkliche Innenleben von Chips.
Ich bin beeindruckt, was für eine Entwicklung, endlich kann PC, Internet, IT wirklich für Fortschritte sorgen.
Vielen Dank für den Artikel @CB und @beckenrandschwi interessantes Bild 👍
Doch es ist "zwingend" umweltbelastend, solange wir nicht global in einer Kreislaufwirtschaft leben! Solange Öl verbrennen irgendwo billiger ist ,auf diesen Erdball, als Solarzellen zu bauen und anzustöpseln hat der Gesamtverbrauch Relevanz! Denn solange wirtschaftliche nutzbare grüner Strom endlich ist, solange ist enormer Stromverbrauch auch "zwingend" Umweltbelastend und Rosininepickerei nur Greenwashing!
Ist nicht als "Offense" gegen Sie gemeint! Aber bitte fallen sie nicht auf die Hochglanz-Schwurbel-Lösungen der Ölindustrie herein. Wie haben schon zu viel co2 in die Atmosphäre geblasen. Seit 50 Jahren sagen die Forsche, "bitte bremsen", 50 Jahren wurde das ignoriert und jetzt sieht man die Wand auf uns zukommen.
Gleichzeitig kommt aber jetzt AI! Und wen wir keine Lösung finden, dass dieser Komplex nahezu 100 % über grünen Strom kommt, haben wir ein gewaltiges Problem! Wir sind keine Dinos. Unser Organismus kann kein 45° ab.
Ergänzung ()
@stefan92x
Ja für den Eintritt! Aber klar, wen man möchte das die Leute Vorort kommen, kostet ja auch alles Geld, kann ich nicht alles Live online stellen. Aber ich finde halt leider überhaupt nichts. Was bedauerlicherweise auch schwach finde bei einer Veranstaltung, wo eine "UNI" der träger sein soll. Aber das ist halt auch USA, und Bildung ein Statussymbol. Aber vielleicht kommt da alles noch später. Ich finde halt gar nichts, was Live oder Mediathek angeht.
Ja für den Eintritt! Aber klar, wen man möchte das die Leute Vorort kommen, kostet ja auch alles Geld, kann ich nicht alles Live online stellen. Aber ich finde halt leider überhaupt nichts
Haha geil
Ich war vor Corona das letzte Mal live da vor Ort. Die machen das online so super, da muss man nun gar nicht mehr hin. Sind halt trotzdem locker 20 Stunden, die man reininvestiert, denn es ist mega viel.
Leider sind viele Medien aber auch so auf Koks, weil sie die eignetlichen Präsentationen dann gar nicht abwarten sondern nur blind ohne nachzudenken die Folien onstellen. Ich höre mir das seit Stunden an und da kommt viel mehr rum, als so einige schreiben. Vor allem schreiben viele Presseleute das anhand der Präsi auch extrem falsch zusammen, da stimmt vieles hinten und vorn einfach nicht bzw ist so krass unvollständig.
Also stay tuned, hier kommt heute auch noch bissel was, aber dann eben richtig
(es ging hier um die Frage, wieso Hoster Stromverbrauch nicht explizit abrechnen) Zum Beispiel weil jemand, der seine Systeme für in erster Linie Storage benutzt vielleicht nicht Lust hat, die ML-Heinis (oder die Crypto-Heinis oder sonstwen) querzufinanzieren.
Ging aber auch gar nicht um die Nutzersicht hier, davon abgesehen.
