Saiba schrieb:z.B. Einleitend für Laien wie es im Groben funktioniert und vor allem welche Komponenten / Lösungen von welchen Herstellern auf dem Markt benötigt sind / werden.
Im einfachsten Fall… Matrix A * Vektor x. 😉
Ich bin mir sicher, dass es dazu einen gut geschriebenen Wikipedia-Artikel gibt.
Gute Bücher, die es Laien erklären, welche zumindest die Mathematik bis zur 11/12 Klasse kennen, gibt es einige. (Schau mal bei Oreily oder mitp-Verlag vorbei)
Und dass die Mathematik hinter der Inferenz so simple ist, führt auch zur Antwort deiner Frage nach den Komponenten… eine NPU kann sehr viele + und * mit geringer Genauigkeit ausführen… eine komplizierte Logik wie bei CPU-Kernen braucht es nicht.
Zuletzt bearbeitet: