Hardwareanforderung für lokale LLM, Bilder- und Videogenerierung

[konkretor]

Llm auf Linux, dann schau dir Ollama und openwebui an. Das ne gute Kombination

 

[Teckler]

Danke @konkretor für die Bestätigung
Hab die auch schon gefunden.
Ich will zum Start erst mal PDFs durchwühlen lassen und die gefundenen Daten in Tabellenansicht darstellen um in Excel weitervernudeln zu können.
Hättest dazu vielleicht einen Tipp parat?
So wie ich es sehe reicht openwebui als Basis, die Modelle sind dann schnell geladen.

 

[konkretor]

schau doch mal hier vorbei https://github.com/X-PLUG/mPLUG-DocOwl