sidewinderpeter
Lt. Commander
- Registriert
- Mai 2008
- Beiträge
- 1.055
Und wo bitte finde ich MoBos mit FP8?
Folge dem Video um zu sehen, wie unsere Website als Web-App auf dem Startbildschirm installiert werden kann.
Anmerkung: Diese Funktion ist in einigen Browsern möglicherweise nicht verfügbar.
Da brauchst du nicht zu warten, das Teil hat ein 256Bit Speicherinterface, ist also unmöglich auf AM5.Grumgum schrieb:dann einfach nochmal 12 Monate abwarten ob es eine AM5-Variante gibt und alle sind glücklich!
Shearer schrieb:wenn man es so liest, wird das nix für den Endverbraucher...
Nichts ist unmöglich. Man kann das Speicherinterface zur Hälfte deaktivieren und es dann für AM5 bringen. Die Speicherbandbreite und damit die GPU-Leistung geht dann auch zur Hälfte runter, aber unmöglich ist es eben nicht.Philste schrieb:Da brauchst du nicht zu warten, das Teil hat ein 256Bit Speicherinterface, ist also unmöglich auf AM5.
Nicht nur LLM, auch allgemeine (wissenschaftliche) Berechnungen können so massiv beschleunigt werden. Bei mir rödelt noch ein Zweisockel-Opteron, da ich sonst nirgendwo 50-100GB große Matrizen parken konnte. Wenn die jetzt per GPU und nicht mehr per CPU durchgenudelt werden dann wäre das ein Traum!SirKhan schrieb:Mit 96 GB VRAM könnte das ein absoluter Traum für lokale LLMs werden. Da sieht selbst die 4090 und 5090 alt aus dagegen
Convert schrieb:Nichts ist unmöglich. Man kann das Speicherinterface zur Hälfte deaktivieren und es dann für AM5 bringen.
kullakehx schrieb:Nicht nur LLM, auch allgemeine (wissenschaftliche) Berechnungen können so massiv beschleunigt werden. Bei mir rödelt noch ein Zweisockel-Opteron, da ich sonst nirgendwo 50-100GB große Matrizen parken könnte.
Ich träume ja, wie @D0m1n4t0r, vom ITX-System. Die beschriebene Opteron-Kiste hat schon ein paar Semester auf dem Buckel. Alles andere war nicht BAföG-tauglich. Gut, das wird Strix Halo auch nicht.mae schrieb:Mit einem AM4-Sockel geht's bis 128GB RAM (und wir haben einige solche Maschinen mit 128GB ECC), mit einem AM5-Sockel derzeit bis 192GB RAM, in Zukunft bis 256GB RAM. Da der Strix Halo wohl mit aufgeloetetem LPDDR5-RAM vertrieben wird, wird es wahrscheinlich keine Varianten mit viel RAM geben; wenn doch, waere das natuerlich toll fuer solche Anwendungen.
Das müsste doch mit Consumer DDR4 Systemen bereits erreichbar sein. Mit 4x32gb DDR4… oder alternativ auch deutlich mehr mit DDR5, dort gibts ja Mittlerweile 48gb Riegel.kullakehx schrieb:Bei mir rödelt noch ein Zweisockel-Opteron, da ich sonst nirgendwo 50-100GB große Matrizen parken könnte.