Kaufberatung: Leistungsstarker PC für lokale KI bzw. AI-Anwendungen

Status
Für weitere Antworten geschlossen.

Quather

Cadet 2nd Year
Registriert
Sep. 2024
Beiträge
26
Moin zusammen,

ich hatte schon einen Thread zum Netzteil für meine geplante KI-Workstation, aber mir wurde geraten, einen neuen Thread für die allgemeine Kaufberatung zu eröffnen. Also, hier bin ich! Ich plane eine leistungsfähige Workstation für lokale KI-Anwendungen und bräuchte mal eure Expertise. Habe mich bisher an einem YouTube Tutorial orientiert, bin mir aber nicht sicher, ob das wirklich optimal ist.

Geplante Anwendung:
  • Lokaler KI-Server für verschiedene KI-Modelle (ähnlich wie hier:
    )
  • Ausführen von Applikationen wie Ollama, Stable Diffusion
  • Eventuell auch Finetuning von LLMs
Bisherige Überlegungen:

Gehäuse: Lian Li O11 Dynamic EVO XL
Mainboard: ASUS X670E-CREATOR PROART WIFI
CPU: AMD Ryzen 9 7950X3D
CPU Kühlung: Lian Li Galahad II Trinity SL-INF 360mm
Speicher: 2x Samsung 990 PRO 2TB
RAM: 128GB (4 x 34GB G.Skill Trident Z5 Neo DDR5-6000 CL30)
Grafikkarten: 2x MSI GeForce RTX 4090 SUPRIM LIQUID X 24G
Netzteil: Corsair AX1600i oder Seasonic Prime TX-1600

Bin mir nicht sicher, ob das Setup so Sinn macht, oder ob ich da völlig falsch rangehe. Vor allem bei den GPUs (Anzahl, Modell, Kühlung) und beim Arbeitsspeicher habe ich noch Fragezeichen. Wäre dankbar für eure Einschätzungen und Vorschläge. Ist die Grundkonfiguration für KI-Workloads geeignet oder sollte ich etwas grundlegend ändern? Wäre eine 2x64GB Konfiguration besser als 4x32GB? Gibt es Bedenken bezüglich der Hybrid-Kühlung der GPUs? Reicht eventuell auch ein NZXT C1500 Netzteil aus oder ist 1600W die bessere Wahl? Jeder Tipp ist willkommen!

Vielen Dank im Voraus für eure Hilfe!
 
Status
Für weitere Antworten geschlossen.
Zurück
Oben