News Meta Connect 2024: Llama 3.2 will mit ChatGPTs neuem Sprachmodus konkurrieren

Andy

Tagträumer
Teammitglied
Registriert
Mai 2003
Beiträge
7.938
Die kleinen Modelle sind schon für ollama verfügbbar, die beiden großen leider noch nicht.

11b sollte auf meinem M2 MacBook Air noch solide laufen.
 
Bin gespannt ob die Spracherkennung auch für Ollama kommt, freu mich auf jeden Fall schon darauf die neue Version lokal zu testen.
 
Ich glaube mir ist mittlerweile klar, warum Meta da so viel Geld reinsteckt obwohl das am Ende trotzdem open Source ist. Meta hat ja schon bekannt gegeben kein Geld direkt mit KI verdienen zu wollen.

Aber letztlich brauchen sie das Ding um ihr Metaverse Bevölkern zu können und dafür muss es eben auch sprechen können
 
Ich verwende in "Open WebUI" diverse LLM's und bin schon wirklich von llama3.1 und llama3.2 beeindruckt. Echt verrückt, dass man ein solch "kleines" LLM lokal und so performant ausführen kann. 👍

Gern würde ich auch mal llama3.2 11b testen, aber ich finde es nicht zum Download, bzw. habe ich davon gehört, dass es in der EU nicht downloadbar sei. Weiß da jemand etwas genaueres, bzw. hat jemand einen Tipp, wie man es dennoch testen kann?
 
second.name schrieb:
Ich verwende in "Open WebUI" diverse LLM's und bin schon wirklich von llama3.1 und llama3.2 beeindruckt. Echt verrückt, dass man ein solch "kleines" LLM lokal und so performant ausführen kann. 👍
Performant ist das eine. Aber ob es auch was brauchbares dabei rauskommt, ist das andere. ;)

Ich habe heute mit einem LLM für Bash Scripting ein wenig rumgespielt um zu schauen, was dabei rauskommen wird. Es war zu gebrauchen.
 
Zurück
Oben