News Gigabyte AI TOP: GPUs, Mainboards, SSDs oder Netzteile – AI geht 2024 immer

Ai 🥱
 
Ich will ja nicht ausschließen, dass diese Geräte irgendwo eine Nische haben können, aber intuitiv wirkt es erst einmal zu speziell.

AI-Startups kämen mir als erstes in den Sinn, aber mir stellt sich dort direkt die Frage, ob diese ihren Bedarf tatsächlich schon genau genug kennen, um mit solch einer Lösung glücklich zu werden, oder ob das Anmieten von Ressourcen bei Clouddiensten/Rechenzentren nicht mehr Sinn ergibt (da lässt sich kurzfristig beliebig hoch und runter skalieren).

Wird natürlich stark von den Preisen abhängen, ich habe keine Ahnung davon ab wann sich die Anschaffung einer dieser Sets gegenüber dem Training auf fremder Hardware rentieren würde.
 
NonOptionalName schrieb:
Wird natürlich stark von den Preisen abhängen, ich habe keine Ahnung davon ab wann sich die Anschaffung einer dieser Sets gegenüber dem Training auf fremder Hardware rentieren würde.
Das hängt vor allem von der Nutzung und dem Bedarf ab. Wenn der Bedarf (sehr) stark schwankt, ist Cloud natürlich durch die Skalierbarkeit überlegen.

Wenn man allerdings eine absehbare Entwicklung oder sowieso hohe Grundlast hat, dann ist eigene Hardware meist günstiger. Ganz grob pauschalisiert: sobald die Server zumindest 50% Auslastung und das über längere Zeiträume haben, ist Cloud schnell teurer. Da kann der break even point mit eigener Hardware bereits in Zeiträumen wie 6-12 Monate erreicht sein.
 
Nunja, KI wird sich wohl auf Dauer schon etwas mehr halten wie Krypto/Blockchain oder NFTs, aber aktuell sind eben wieder alle Trittbrettfahrer dabei und klatschen "AI" auf jeden Schrott, z.B. Tefal auf nen Reiskocher, die Teile arbeiten aber schon seit Jahrzehnten nach demselben Prinzip:

Immerhin sind bei diesem Laubbläser von GPU-Kühler keine DVI-Ports mehr im Weg, ich meine das hat ja schon der 1080 Ti FE geholfen...
 
Gigabyte Ai TOP Mainboard

Einige Dinge aufgeklärt:
4 DIMMs werden mit dem Basis-TR unterstützt, 8 DIMMs mit TR Pro. Es gab einige Spekulationen aufgrund der vagen Produktbeschreibung, die zuvor gepostet wurde, dass es tatsächlich 2 DIMMs pro Kanal im Quad-Channel-Modus unterstützen könnte, aber leider nicht der Fall zu sein. Es wird nicht explizit gesagt, dass der normale TR nur 4 der 8 Steckplätze nutzen kann, aber es wird gezeigt, dass nur 4 bestimmte Steckplätze belegt werden können, was dies effektiv bestätigt.

Proof GBT Manual
 
ZurĂĽck
Oben