News KI-Konzepte zum MWC: Lenovo packt diskrete NPU in Monitor und USB-Stick

Frage mich grad wie klein hier wohl die Zielgruppe für so etwas sein mag...
 
  • Gefällt mir
Reaktionen: NJay, Qyxes, sikarr und 6 andere
Finde die recht einfache NPU Nachrüstung über den USB Stick ziemlich genial. Natürlich wäre auch eine direktere Nachrüstmöglichkeit über PCIe noch besser für Desktops, aber das ist schon mal ein Anfang.

Gibt es eigentlich inzwischen mehr Anwendungen die eine diskrete NPU aktiv nutzen?
Ich kenne das nur bei Zoom mit der Funktion sich den Hintergrund ausblenden zu lassen.
 
  • Gefällt mir
Reaktionen: Der_Dicke82, crogge, redfng und eine weitere Person
32tops ist schon ziemlich wenig. Sie hätten wenigsten 45-50tops machen können für microsofts copilot verifizierung, das wäre doch bestimmt möglich gewesen.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: CadillacFan77 und TPD-Andy
Northstar2710 schrieb:
32tops ist schon ziemlich wenig.
Aua, ne Spass.
Ich hab n Coral TPU am laufen das ML/TensorFlow 4TOPS bietet.

Reicht aber für CodeProject.AI in BlueIris integriert völlig aus.
 
  • Gefällt mir
Reaktionen: TPD-Andy
Ich kenn mich nicht besonders damit aus, aber 32 TOPS klingt nach verdammt wenig. Die aktuelle 5090 hat 3352 TOPS und selbst die alte 4090 hat 1321 TOPS. Was kann man denn mit so wenig Leistung machen? Im Text steht was von LLMs, aber wie soll das gehen? Meine 4090 braucht mehrere 100 ms bis eine Antwort kommt. Mit nur 32 TOPS dauert das doch bestimmt mehrere Sekunden. Damit wäre es aber unbenutzbar und sogar langsamer als wenn man Copilot in der Cloud nutzt.
 
Haben die NPUs eigentlich eine Standard-API wie DirectX für 3D-Anwendungen oder bringt jeder wieder was spezifisches wie CUDA mit?
Sonst ist so eine Hardware-Erweiterung ja ziemlich wenig nutzbar.
Von Microsoft gibts zwar DirectML, aber sowas wird in den News jedenfalls nicht erwähnt.
 
  • Gefällt mir
Reaktionen: TPD-Andy
Kann dieses Ai echt nicht mehr lesen, hören was auch immer. Wozu braucht man einen Ai TV?
... Höchstens als Realtime Werbeblocker 🤷‍♂️🤦‍♂️
 
  • Gefällt mir
Reaktionen: tritratrullala und TPD-Andy
Also das mit dem USB Stick ist eigentlich wahnsinnig genial, da jedes moderne Gerät so einen Anschluss hat. Die frage ist, ob das Geschwindigkeitstechnisch überhaupt ausreicht, da ist die Karte vermutlich besser.

Generell ist aber aktuell noch die Frage offen, welche wesentlichen Vorteile so eine NPU denn bringt.
 
  • Gefällt mir
Reaktionen: TPD-Andy
Sinnvoller am Desktop pc wäre es solche NpU Chips wie CpU Chips auf Mainboards stecken zu können und einen Kühler darauf zusätzlich.
So könnte man die auch aufrüsten bei bedarf.
 
Welche Software könnte das dann verwenden? Wäre es ausreichend für Microsoft CoPilot oder andere MS-Anwendungen?
 
Da gehen sie den gleichen Weg wie früher mit 3D- und Physik-Beschleunigerkarten. Ist eher eine Übergangslösung. Wobei schon n bissel spät...
 
  • Gefällt mir
Reaktionen: sikarr
Northstar2710 schrieb:
Sie hätten wenigsten 45-50tops machen können für microsofts copilot verifizierung, das wäre doch bestimmt möglich gewesen.
Die CoPilot-Zertifizierung gibts nur für Komplett-Computer u.a. mit einer NPU, die in der CPU integriert ist. Daneben gibts dann noch andere Anforderungen meine ich.
 
Roesi schrieb:
So könnte man die auch aufrüsten bei bedarf
lenovo bietet diese npu auch als m2 modul an für laptops.
 
Im Desktop als Steckkarte macht es für mich wenig Sinn, da die meisten Grafikkarten da deutlich stärker sind und das nebenbei erledigen, ansonsten kann man ja eine zweite Grafikkarte stecken.
In meinem Laptop habe ich eine NPU, bisher weiß ich nicht was ich damit soll.
Im Taskmanager ist die NPU als weiteres Gerät vorhanden, mit der Auslastung von 0%
 
  • Gefällt mir
Reaktionen: sikarr
Interessantes Konzept, das wohl aber auch nur eine kurzfristige Lösung sein wird, denn auch interne Grafiklösungen werden üblicherweise immer besser.

Mich erinnert das ganze an die 90er, wo ich zwar selbst noch keine Hand an interne Technik gelegt habe, die Menschen aber PCs teils um Co-Prozessoren erweitert haben.

Ich hätte ehrlich gesagt so etwas erst wieder bei Quantencomputern erwartet, sofern diese es irgendwann mal in den Heimbereich schaffen.
Jetzt haben wir es halt bei A.I... was solls :D
 
  • Gefällt mir
Reaktionen: IgorGlock und sikarr
Randnotiz schrieb:
Mich erinnert das ganze an die 90er, wo ich zwar selbst noch keine Hand an interne Technik gelegt habe, die Menschen aber PCs teils um Co-Prozessoren erweitert haben.
Das waren die 80er. Der 486er hatte die FPU integriert und kam '89 raus. Diskrete FPUs gab es nur bis zum 386er.
 
  • Gefällt mir
Reaktionen: IgorGlock, sikarr und Randnotiz
Mal sehen wann die ersten Cheats für CS, Valorant, CoD und Co. entwickelt werden die autark darauf laufen.
MSI musste ja damals seinen Monitor auch zurück ziehen, weil man in League of Legends damit Cheaten konnte :daumen:

 
  • Gefällt mir
Reaktionen: IgorGlock
adfsrg schrieb:
Das waren die 80er.
Ach ja, stimmt... ich brauche noch einen Kaffee 😅

In den 90ern gab es den ganzen Spaß trotzdem, mit 3D-Beschleunigern.
 
  • Gefällt mir
Reaktionen: adfsrg
GPT4All kann auch noch nichts anfangen mit NPUs... Finde die Software hängt da leider sehr nach bisher
 
  • Gefällt mir
Reaktionen: IgorGlock
Zurück
Oben