News Nvidia & Supermicro: Wie (AI-)Rechenzentren einen kühlen Kopf bewahren

GrumpyCat schrieb:
(es ging hier um die Frage, wieso Hoster Stromverbrauch nicht explizit abrechnen) Zum Beispiel weil jemand, der seine Systeme für in erster Linie Storage benutzt vielleicht nicht Lust hat, die ML-Heinis (oder die Crypto-Heinis oder sonstwen) querzufinanzieren.
Da du aber pro Instanz bezahlst und du für Storage ganz andere Services buchst als für ML wird das über die unterschiedlichen Preise der Instanzen schon abgebildet.
 
  • Gefällt mir
Reaktionen: eastcoast_pete
lynx007 schrieb:
Aber das war ja leider nicht Thema. Hier ging es ja allein um "Kühllösung" wen ich mich nicht täusche. Was sie beschreiben ist ja sehr wünschenswert, sprich die Wiederverwendung, das Recyclen von Wärmeenergie. Dürfte bei den wenigsten Datenzentren umgesetzt werden, da sowas nachzurüsten auch nicht schön in der Jahresabschlussbilanz aussieht.
Man kann nur Wärme von A nach B verschieben und nicht eliminieren. Also muss die Abwärme zum kühlen auch irgendwo hin transportiert werden. Warum einfach in die Umwelt abgeben, wenn große Rechenzentren ganze Schwimmbäder damit beheizen können? Und das geht mit den abgebildeten Wasserkühlungssystemen prima.
 
  • Gefällt mir
Reaktionen: lynx007
eastcoast_pete schrieb:
Die Frage ist allerdings, ob das Gating in Transistoren in Nanometer Strukturgrößen dann auch bei Taktfrequenzen im Gigahertz Bereich weiterhin fehlerfrei bleibt. Inverter müssen, soweit ich weiß, sowas ja eher nicht bewältigen.
Naja, da hast du teilweise schon recht, aber dafür schalten IGBT und SiC erheblich schneller in der Leistungselektronik (nicht Schaltfrequenz!) und haben andere Probleme (Streuinduktivität, Temperaturen, hohe Spannungen von bis zu 1200V, Luft & Kriechstrecken). Da nehmen die sich am Ende nicht viel denke ich. Auch ist in den Applikationen das Verhältnis zu VDS-Spannung zu Gatespannung auch eine andere (15V und 1200V gegenüber 3.3V (oder was auch immer die CPUs heutzutage arbeiten).
Generell ist ein Vergleich schwierig, aber in der Computertechnik habe ich jetzt noch nicht so teure Materialien (Al2O3 & Co) und Prozesse (Silbersintern) zum Kühlen gefunden wie es im Leistungselektronischen Bereich getan wird.
 
lynx007 schrieb:
Aber das war ja leider nicht Thema. Hier ging es ja allein um "Kühllösung" wen ich mich nicht täusche. Was sie beschreiben ist ja sehr wünschenswert, sprich die Wiederverwendung, das Recyclen von Wärmeenergie. Dürfte bei den wenigsten Datenzentren umgesetzt werden, da sowas nachzurüsten auch nicht schön in der Jahresabschlussbilanz aussieht.

Investitionen sehen natürlich schön aus in der Bilanz. Problem wird eher die technische Umsetzung sein, denn um das zu Nutzen muss das Datacenter ja an das Fernwärme Netz angeschlossen sein.
 
GrumpyCat schrieb:
(es ging hier um die Frage, wieso Hoster Stromverbrauch nicht explizit abrechnen) Zum Beispiel weil jemand, der seine Systeme für in erster Linie Storage benutzt vielleicht nicht Lust hat, die ML-Heinis (oder die Crypto-Heinis oder sonstwen) querzufinanzieren.

Ging aber auch gar nicht um die Nutzersicht hier, davon abgesehen.
Wie ich geschrieben habe:
Wenn zu teuer, dann eben woanders hin. Und ein Hoster hat ja auch eine andere Ausstattung als die anderen Anbieter. Gibt vielleicht Rechenzentren, die eine Mischbestückung haben, aber die werden dann eben je nach Serverart halt anders bepreist. Da sehe ich kein Problem
 
Malefiz123 schrieb:
Investitionen sehen natürlich schön aus in der Bilanz. Problem wird eher die technische Umsetzung sein, denn um das zu Nutzen muss das Datacenter ja an das Fernwärme Netz angeschlossen sein.
Nein! Um es als Fernwärme zu nutzen, ja. Aber man kann Abwärme, ja auch zu etwas anderes nutzen. Heizen, Kühlen (was ich lange nicht wusste), elektrischen Strom. Natürlich kann man das nicht überall anflanschen. Schon gar nicht wen es irgendwo in der Pampa steht, was ja oft aus Kostengründen der selten der Fall ist. Aber man kann Energie als Abwärme auch innerhalb des Gebäudes weiter nutzen.

Es geht … wird aber selten bis gar nicht in bestehenden oder alten Gebäuden angewendet. Kostet Geld und sicher auch nicht bei jedem alten Fabrikgebäude umsetzbar. Bringt natürlich nichts, wen durch den Umbau, die Renovierung mehr CO₂ erzeugt wird, als durch Abriss und Neubau.
Ergänzung ()

@Weby Die genauen Details kenne ich nicht. Und lange war mir auch nicht bekannt, das man sogar mit wärme, Hitze sogar Kühlen kann. Aber ja, sie haben recht. Mir ging es auch eher darum, dass das leider diese Details aber oft fehlen. Nur, weil man es könnte, heißt es umgekehrt oft nicht, dass man es auch macht. Was schade ist, gerade bei Neubauten, wo man noch relativ preiswert Systeme integrieren, abstimmen kann, dass wirklich so gut wie keine Energie weggeworfen wird, die man noch nutzen könnte.
 
Zuletzt bearbeitet:
Volker schrieb:
Haha geil :D
Ich war vor Corona das letzte Mal live da vor Ort. Die machen das online so super, da muss man nun gar nicht mehr hin. Sind halt trotzdem locker 20 Stunden, die man reininvestiert, denn es ist mega viel.

Leider sind viele Medien aber auch so auf Koks, weil sie die eignetlichen Präsentationen dann gar nicht abwarten sondern nur blind ohne nachzudenken die Folien onstellen. Ich höre mir das seit Stunden an und da kommt viel mehr rum, als so einige schreiben. Vor allem schreiben viele Presseleute das anhand der Präsi auch extrem falsch zusammen, da stimmt vieles hinten und vorn einfach nicht bzw ist so krass unvollständig.

Also stay tuned, hier kommt heute auch noch bissel was, aber dann eben richtig ;)
@Volker : zunächst einmal Danke für die gute Berichterstattung! Ich finde Hot Chips immer sehr interessant. Ob die Fehler auf anderen Seiten von Koks, zu wenig Schlaf, oder einfach vom Zeitdruck kommen, wird man nicht wissen. Das Problem bei einigen der Seiten, die von der Konferenz "live bloggen" dh ohne einmal Korrektur lesen posten, ist, daß sie eben schneller als andere sein wollen, und deshalb Multitasking machen müssen (eine Präsentation zusammenschreiben und gleichzeitig schon der Nächsten zuhören). Und, anders als zB CPUs oder GPUs, sind wir Menschen eher nicht so gut darin, gleichzeitig verschiedene Aufgaben fehlerfrei auszuführen; zumindest ich muss mich auf eine Aufgabe konzentrieren, wenn ich Fehler vermeiden will😁. Dafür ist unsere Informationsverarbeitung oft deutlich umfangreicher.
Leider ist Hot Chips auch virtuell ziemlich teuer, sonst würde ich mir zumindest ein paar der Präsentationen auch gerne selbst reinziehen.
Was mich auch interessieren würde: ist Apple diesmal mit Vorträgen vertreten? Die schicken zwar eigentlich immer ein paar Leute dahin, aber nur zum Zuhören.
Ergänzung ()

stefan92x schrieb:
Da du aber pro Instanz bezahlst und du für Storage ganz andere Services buchst als für ML wird das über die unterschiedlichen Preise der Instanzen schon abgebildet.
Wobei ich @GrumpyCat hier insoweit zustimme, daß es gut wäre, wenn Hoster in der Abrechnung ausweisen müssten, wie viel Strom die gemieteten Instanzen jeweils verbraucht haben.
Allerdings ist es auch in Deutschland so, daß industrielle Großkunden (dh auch Server Farms) sehr viel weniger pro kWh zahlen als wir Endverbraucher. Aber, ausweisen, wie viel Strom man als Kunde mit verbraucht hat, wär zumindest interessant.
Ergänzung ()

foofoobar schrieb:
Diese Wasserstoffbombe die 8 Lichtminuten von uns entfernt ist brutzelt uns ~1,4kW pro Quadratmeter auf die Birne.

Und thermische Kraftwerke (Wasserkocher) haben einen Wirkungsgrad von ~1/3, im Fall eines "normalen" AKWs sind das also ~2,5GW Abwärme.
Stimme Dir weitgehend zu, allerdings ist unsere Sonne dankens werterweise ja eher ein ziemlich zuverlässiger Fusionsreaktor. Wenn die Sonne nicht stabil wäre, gäbe es uns nicht mehr ☀️.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Volker
Ne, Apple hört viel zu und stellt Fragen. Also wissen wollen die viel, wie andere was machen, selbst preis geben sie aber nie was. Da sind alle anderen offener. Nvidia ist bei Fragen auch immer vorn mit dabei, Intel wiederum fast nie^^

Das ist aber auch das gute an Hot Chips: Die Fragen werden fast immer beantwortet. Auf vielen anderen Events sagen sie da einfach nix mehr oder dürfen nicht. Ganz selten kommt hier mal, dass man das nicht preisgeben darf oder es nicht weiß - das ist sonst ja die Regel :D

Es ist und bleibt eine der besten Veranstaltungen in der Industrie, die nicht nur krass High-Level-Stuff macht, sondern eben auch mal die "Mitte" abholt. Also so, das ich auch noch was verstehe, wenngleich es einige Talks gibt, da kommt dann auch nur noch Bahnhof ^^
 
  • Gefällt mir
Reaktionen: eastcoast_pete und stefan92x
stefan92x schrieb:
Da du aber pro Instanz bezahlst und du für Storage ganz andere Services buchst als für ML wird das über die unterschiedlichen Preise der Instanzen schon abgebildet.
Naja, natürlich gibt es immer Querfinanzierung. Sieht man schon daran, dass etliche Anbieter das Mining von Cryptowährungen verbieten.

Und wie gesagt, wenn der typische Anbieter schon den Traffic deckelt bzw. Traffic bezahlen lässt, verstehe ich nicht ganz, wieso das bei den wesentlich greifbareren Stromkosten nicht auch so ist. Würde auch zum vernünfigen Umgang mit Energie einen Anreiz geben.
 
@AGB-Leser Jetzt bin ich natürlich nicht @Volker , aber ja, die "offizielle" Sprache der Hot Chips Konferenz ist Englisch.
Trotz aller Fortschritte im Bereich KI-unterstützte Simultanübersetzung wäre das -zumindest Stand 2024- wohl auch nur schwerlich mehrsprachig zu machen. Dazu kommt, daß die ganzen Fachworte im Chip Design (zB auch schon die beiden Worte dafür 😀) sowieso aus dem Englischen kommen. Und Simultanübersetzung einer Fachkonferenz durch Fachdolmetscher zu machen ist sehr teuer. Denn die Dolmetscher müssten sich ja auch selbst gut genug in der Materie auskennen, um das Gesagte sinngemäß und simultan zu übersetzen. Und ja, das war jetzt eine lange Antwort auf Deine kurze Frage 😀.
 
@AGB-Leser Wobei Du Dich dann zunächst auch registrieren mußt, was (auch für virtuelle Teilnahme) einiges kostet. Die PDFs ( nicht alle Beiträge sind so dokumentiert) von älteren HotChips (vergangene Jahre) kann man sich manchmal für umsonst runterladen, die von der jeweils aktuellen HotChips leider nicht. Aber, bei den Fachbegriffen wirst Du in vielen Fällen gar keine Übersetzung brauchen, da wir auch im Deutschen die englischen Ausdrücke benutzen. Es wird zB nur wenige geben, die Hot Chips mit "Heißen Halbleitern" eindeutschen werden 😀. Wenn's aber doch jemand tut nachdem er es hier gelesen hat, bitte mich als Quelle angeben 😁.
Aber, ganz im Ernst, ein Europäisches Gegenstück zu Hot Chips (vielleicht im Januar oder Februar) wäre wirklich gut. Schon alleine mit Fraunhofer, IMEC und den diversen Chip Designern (zB auf ARM oder RISC-V Basis) und den durchaus sehr fähigen Unis in EU Ländern hätte man da schon eine gute Basis dafür.
 
Da stimme ich dir zu, aber Innovation aus Europa in so einer Branche kommt still auf den Markt. Asml haben wir ja, Infineon fällt mir noch ein und da wird's einiges geben. Aber Halbleiterindustrie bringt man eher mit USA, Taiwan oder noch China in Verbindung,weniger mit Europa oder gar Deutschland
 
  • Gefällt mir
Reaktionen: eastcoast_pete
Zurück
Oben