Lokale KI-Software auf SATA SSD auslagern?

[lostie79]

Hello there,
ich nutze unterschiedliche KI-Apps im Try&Error, manche bleiben, manche gehen, mal was Neues und wieder zurück.
Dann die rieisigen Trainingsmodelle, Outputs und .tmp-Daten könen eine Festplatte ziemlich vollmüllen.
Auch das Installieren über Python, Miniconda, etc ist echt ne Pain in the Ass und ein Wunder das ich das hinbekomme.

Deswegen ist es meine Idee, das ganze Zeuch weg von meiner Windowspartition zu ziehen und auf ne eigene 1TB SSD!
Das hätte auch den Vorteil, das ich die SSD mitnehmen kann, falls der PC mal crashen sollte und alles noch installiert ist.
Geht das überhaupt? Dann hätte ich alles schön fein auf einer eigenen Partition und auch ausserhalb des Backups.

Meinungen? :-)
Thx4Hlp

 

[madmax2010]

ob eigene Partition oder nicht ist egal.
ob sata oder nvme ist egal.
es Dauert ohnehin ein wenig bis das Modell geladen ist. Die kleine lokalen Modelle gehen ohnehin alle recht schnell
Pack es dahin wo es dir bequem ist

Auch das Installieren über Python, Miniconda, etc ist echt ne Pain in the Ass und ein Wunder das ich das hinbekomme.

nutzt du venvs?
nutzt du ollama?

 

[wertzuiop123]

Würde das mal so probieren, falls noch nicht versucht:

1. Installiere deine SSD, formatiere sie und gib ihr einen festen Laufwerksbuchstaben
2. Bei der Installation von Python, Miniconda oder KI-Tools immer den Pfad auf die SSD ändern (z.B. D:\Python oder D:\KI-Tools).
3. Große Modelle und Daten ebenfalls auf die SSD speichern und in den Einstellungen der Tools darauf verweisen (größe dürfte locker reichen)
4. Ändere das TEMP-Verzeichnis in den Windows-Umgebungsvariablen auf die SSD (D:\Temp). Dann müllt nix mehr.
5. Falls etwas hart auf C: verweisen sollte, mit mklink einen symbolischen Link zur SSD erstellen.

 

[Ayo34]

Grundsätzlich ist das kein Problem es auf eine andere Festplatte zu installieren. Ist ja nichts anderes als eine Anwendung oder ein Spiel. Ich habe auch alles auf einer anderen Festplatte und nicht auf C:.

Ob du die Festplatte dann einfach an einen anderen PC anschließen kannst und alles funktioniert wie bisher, bezweifele ich aber zu einem großen Teil.

Schließlich wirst du viele Dinge trotzdem auf C: installiert haben (Python und Co...). Einfacher ist es, wenn du mit "portablen" Varianten arbeitest.

 

[tomgit]

nutzt du venvs?
nutzt du ollama?

Daneben würde ich noch LM Studio und das Huggingface Python Package in den Raum werfen

 

[lostie79]

Also wenn diverse Zusatzapplikationen irgendwas von Windows noch brauchen, keine Ahnung, das Runtime Enviroment, CUDA oder CUDNN oder was weiß ich, dann wäre das auch Ok.

Mir gehts wirklich darum die ganz großen Datenmengen auszulagern...
Alleine Stable Diffusion A1111 war 100GB oder so. Jenachdem natürlich auch wieviele .safetensors oder LoRa etc man abspeichert. Wenn dann noch Flux dazukommt sind es auch nochmal 60GB, dann vielleicht noch FaceFusion, Roop und Fooocus und Ratzfatz hat man 500GB. Und dann ist noch net mal was gerendert...

Deswegen wollte ich mir ne Samsung 870 EVO SSD 1TB holen und soviel es geht darauf installieren.
https://www.amazon.de/dp/B08PC5DKZQ/

Selbst wenn nach einem Umzug auf neuen PC das meiste nicht mehr gehen sollte, wäre zumindest vielleicht die ganzen Trainingsdaten gesichert. Mit Glück schliesst man das wieder an und kann direkt frühlich weiter rendern.

 

[madmax2010]

zu dem Preis gibt's aber auch 2tb nvme SSDs.
die Kioxia g3 plus gab's neulich für 79-89 Euro und die tut auch super im USB case

 

[tomgit]

Du kannst auch mit quantifizierten Modellen arbeiten, die meisten haben nur minimal schlechtere Outputs, sind aber deutlich kleiner