Google Coral TPU kompatibel

[ipod86]

Hallo,

ich plane mir eine Coral TPU zu holen.
Die USB Variante finde ich allerdings viel zu teuer.

Der CORAL CORAL M.2 ACCELERATOR A+E Key kostet weniger als die Hälfte.

Nun zu meiner Frage.

Ich habe ein ASRock B660.
Im Datenblatt steht, dass es einen "M.2 Key-E für Wi-Fi" hat.

Ist das wirklich nur für Wifi oder kann ich den coral auch dran stecken?

Edit
Hab gtad noch folgendes gefunden:

M.2 Socket (Key E), Unterstützt type 2230 Wi-Fi/BT module and Intel® CNVi (Integrated Wi-Fi/BT)

Dann gebt es wohl denke nicht?

 

[ghecko]

Du kannst die TPU da rein stecken und sie wird laufen. Aber je nachdem wie viel Lanes der Slot bietet kann es sein, das die Dual TPU nicht als Dual erkannt wird.

M.2 Socket (Key E), Unterstützt type 2230 Wi-Fi/BT module

Das bedeutet, das der Slot mit PCIe angebunden ist und "normale" PCIe Geräte funktionieren.
Die TPU hat E-Key, genau wie der Slot und beide haben PCIe.
CNVi ist so ein Intel Sonderding für deren WLAN-Wunderland. Das Protokoll wird nur genutzt, wenn eine solche Karte im Slot steckt.

 

[ipod86]

Danke für die Info.
Dann bestelle ich mir das Teil mal.
Die dual dual war eh nicht geplant.

 

[madmax2010]

ich habe welche und kann dir aus ML perspektive sagen: kauf sie nicht mehr. Vor2-3 Jahren war das anders.
Die Rockchip NPUs haben besseren support, mehr performance, weniger Stromverbrauch.
auf den TPUs kannst du keine LLMs, und kein whisper betreiben.
Auf einem RK3588S schon

Ergänzung (9. Februar 2025)

visual inferencing geht ganz gut auf den alten coral TPUs

 

[ipod86]

visual inferencing

Das ist glaube für die Objekterkennung oder?
Mache es gtad über die CPU und da kostet es mich knappe 15 Watt.

 

[madmax2010]

ja
was hast du denn vor?
welche tools und welche modelle?

 

[ipod86]

Ich nutze AgentDVR als Dvr.
Im Moment nutze ich die Objekterkennung der angeschlossenen Reolink Kamera. Die kann AgendDVR abgreifen.

Jetzt habe ich mir mal codeproject ai installiert. Lässt sich auch in agentdvr integrieren. Das erkennt Objekte wesentlich besser. Im Moment über die CPU.
Allerdings wird auch coral unterstützt, das dürfte wesentlich effizienter sein denke ich.
Mit der CPU braucht das System gute 10 Watt mehr bei einer sekündlichen Abfrage.

 

[madmax2010]

https://www.friendlyelec.com/index.php?route=product/product&product_id=301

braucht knapp halb so viel, kann LLMs, whisper und objekterkennung sehr gut

 

[ipod86]

Nur wie bekomme ich das in AgentDVR eingebunden? Das läuft auf proxmox in einem lcx.

Das scheint ja ein eigener Minipc zu sein.

 

[SaxnPaule]

@madmax2010 Hast du auf dem Teil mal Whisper mit OpenWakeWord in Kombination mit Home-Assistant getestet?