Danke @Krik sehr knapp an der Schmerzgrenze.
Ich hoffe igendwann hört diese diversität im AI Bereich was die Frameworks, Treiber und Hardware betrifft auf. Total nervig wenn man für 3 verschiedene Projekte verschiedene Hardware darunter benötigt... git mit CUDA läuft schon mal sehr viel, aber ist halt bezöglich Stromaufnahme keine Option für mich. Ich will von 90W runter kommen nicht nochmal 10-20W auf den 4460 mit Coral drauflegen. Ich habe das mal mit einem 3570k und einer 2060 getestet und bei 10-20W mehr konnte ich schon bessere Modelle nutzen, aber nicht viel und noch größere Modelle und man landet super schnell bei nochmals 100w mehr, sprich dann fast 200W für Frigate.
Es schlagen halt insgesamt 10 Kameras auf...
Ursprünglich wollte ich eigentlich richtung Meteor Lake schauen, da dieser auch eine NPU hat und theoretisch (anscheinend wohl noch fehlerhaft, zumindest gibt es einen Thread dazu) diese von OpenVINO auch genutzt wird. Effektiv ist Kompatibilität & (Treiber)Support unter Linux ein großes Thema für mich. Frigate ist ein Muss, Whisper (bisher nur mit Cuda angetestet) wäre halt schön.
Original war auch geplant meinen ZFS-Raid mitzunehmen, aber dann wird es schwer mit der Hardware und man muss wieder Richtung Desktop HW.
Ja und nein. Auf der einen Seite würde ich die NPU gerne mitnehmen in der Hoffnung, dass diese (irgendwann) sauber genutzt wird, was dann auch für einen 8x40 sprechen würde mit einer neueren NPU. Aktuell verwende ich zwar einen Coral für Frigate, aber ich hätte nichts dagegen (wieder zurück) auf OpenVINO zu gehen.ghecko schrieb:Evtl den Vorgänger mit 6900HX für 380€ Barebone. Der ist im Idle noch etwas sparsamer. Die CPU ist leider noch Zen3+, aber für das was du vor hast reicht es allemal:
https://store.minisforum.de/products/um690s
Der 6850U ist mein Daily Driver im Laptop, kann mich nicht beklagen.
Ich hoffe igendwann hört diese diversität im AI Bereich was die Frameworks, Treiber und Hardware betrifft auf. Total nervig wenn man für 3 verschiedene Projekte verschiedene Hardware darunter benötigt... git mit CUDA läuft schon mal sehr viel, aber ist halt bezöglich Stromaufnahme keine Option für mich. Ich will von 90W runter kommen nicht nochmal 10-20W auf den 4460 mit Coral drauflegen. Ich habe das mal mit einem 3570k und einer 2060 getestet und bei 10-20W mehr konnte ich schon bessere Modelle nutzen, aber nicht viel und noch größere Modelle und man landet super schnell bei nochmals 100w mehr, sprich dann fast 200W für Frigate.
Es schlagen halt insgesamt 10 Kameras auf...
Ursprünglich wollte ich eigentlich richtung Meteor Lake schauen, da dieser auch eine NPU hat und theoretisch (anscheinend wohl noch fehlerhaft, zumindest gibt es einen Thread dazu) diese von OpenVINO auch genutzt wird. Effektiv ist Kompatibilität & (Treiber)Support unter Linux ein großes Thema für mich. Frigate ist ein Muss, Whisper (bisher nur mit Cuda angetestet) wäre halt schön.
Original war auch geplant meinen ZFS-Raid mitzunehmen, aber dann wird es schwer mit der Hardware und man muss wieder Richtung Desktop HW.