Ich freu mich auf brauchbare lokale Inferenz von KI-Modellen. Bin kein Freund davon, alles in die Cloud auszulagern.
So ein Agent-Basierter lokaler KI-Assistent in der Hosentasche hätte schon was Aktuell reicht es aufm Handy bei mir nur für das 7B-Llama2 Modell - und dann läuft nebenher nix anderes mehr.
So ein Agent-Basierter lokaler KI-Assistent in der Hosentasche hätte schon was Aktuell reicht es aufm Handy bei mir nur für das 7B-Llama2 Modell - und dann läuft nebenher nix anderes mehr.