oicfar schrieb:
Es ist genau die Art der Diskussion, wenn man behauptet, dass ein Pi 5 den PC für Desktop ersetzen kann.
Nein, absolut nicht. Weil ein RasPi 5 kann den Desktop ersetzen, dieser Jetson wird aber keine praktikable Alternative für Leute darstellen, die LLMs lokal laufen lassen und gute Ergebnisse erzielen wollen.
oicfar schrieb:
Jemand, der schon ein wenig nachdenkt, weiß, wo die Reise hingeht. Und da muss man nicht mit 70B & Co. kommen.
Es spielt für mich auch keine Rolle, ob es 1B oder 3B LLM sein könnte.
Und jemand, der darüber nachdenkt, wird auch vermutlich auf den Entschluss kommen, dass ein 3b Modell bessere Ergebnisse produziert als ein 1b Modell, und das 70b Modell eben noch besser. Und darin liegt auch das Problem bei dem "Vergleich"
oicfar schrieb:
Und die Zielgruppe für solche Hardware ist auch überschaubar.
Ja, die Zielgruppe dafür ist überschaubar, aber über irreführende Vergleiche könnten sich Leute zum Kauf animiert fühlen, die dafür nicht die Zielgruppe sind, weil Vergleiche irreführend produziert wurden und die Ergebnisse nicht dem entsprechen, was eigentlich deren Usecase wäre. Das ist das Problem.
Und dies wird ohnehin angeheizt durch einen gerichteten Bias. Mich würde nicht überraschen, wenn Nvidias Marketing auch darauf abzielt. Weil man eben assoziiert, dass man ein Nvidia-Gerät benötigt, um mit moderner KI etwas anfangen zu können, und somit allemöglichen Personengruppen nach Produkten gieren, welche diesem entsprechend: Nvidia, KI, und irgendwo bezahlbar.
Dass dabei eben Limitationen untern Tisch fallen, wird halt übersehen.
Das hat nichts mit nachdenken oder informieren zu tun. Wenn man nur halbe Informationen geliefert bekommt, kann man sich auch nicht richtig informieren. Und das passiert eben durch solchen halbgaren und entsprechend nichtssagende Vergleiche.
