News Was ist ein AI PC?: Next-Gen-AI-PCs müssen 40 TOPS NPU-Leistung bieten

[LamaMitHut]

Ich sehe da eher einen weiteren Beleg für menschliche Dummheit, als ein Beispiel dafür das KI nutzlos ist.

 

[deekey777]

Ein „AI PC“, so wie ihn Microsoft definiert, ist ein PC, der neben einer CPU und einer GPU auch eine Neural Processing Unit (NPU, „KI-Beschleuniger“) bietet, Windows 11 24H2 mit Copilot nutzt und dessen Tastatur den neuen Copilot-Button aufweist. Konkrete Vorgaben für die NPU-Leistung kommen mit der „Next Gen“.

Zur News: Was ist ein AI PC?: Next-Gen-AI-PCs müssen 40 TOPS NPU-Leistung bieten

Wo kommen diese 14 TOPS her?

Qualcomm bietet auf dem Snapdragon 8cx Gen 3 14 TOPS, will später im Jahr mit dem Snapdragon X Elite aber direkt 45 TOPS auf einer NPU anbieten – insgesamt sollen es 75 TOPS sein.

QCOM schreibt:

Snapdragon 8cx Gen 3 with the Qualcomm® AI Engine delivers 29+ TOPS of powerful acceleration, up to 3 times greater4,

https://www.qualcomm.com/products/m...napdragon-8cx-gen-3-compute-platform#Overview

 

[Vigilant]

Meinst du diesen Fortschritt?

Keine Ahnung. Was steht dort?

 

[Benjamin_Blume]

Finde lokale K.I. Berechnungen, wenn sie denn effizient sind, besser als Cloud. Von daher zu begrüßen. Für Desktops wird es sicher irgendwelche PCIe Steckkarten zum Aufrüsten geben. Unter 100 KP Flip Flops kommt da nichts rein 😂

 

[Ouzo]

@Ouzo
Dafür bin ich zu zynisch. Und zu knauserig

mal ne kurze frage, Sparst du fürs Finanzamt damit du mehr Steuern zahlst??

 

[Krik]

Neue Rechner werden nur alle paar Jahre mal gekauft. Ich habe gerade erst zugeschlagen, das muss jetzt erst mal eine Weile halten.

Überflüssiges Geld wird aktuell in Fahrradausstattung investiert. Mal schauen, was ich demnächst für ein geldvernichtendes Hobby entwickle.

 

[Ferax]

Wer wird denn Gegängelt? Gängeln wäre, wenn es eine Pflicht würde. Ich les das nicht raus - außer man möchte halt das Microsoft Zertifikat haben 🙌

Ein Unternehmen mit ca. 70% Marktanteil und nahezu 90% im Unternehmenaumfeld definiert ein Zertifikat für ein stark beworbenes Feature was momentan in aller Munde ist.

Klar du kannst das gerne freiwillig links liegen lassen aber überlege mal genau was das dann für dich als konkurrierendes Unternehmen bedeutet.

 

[MrTony]

Kann mir mal jemand erklären, wass diese Hardwarebeschleunigung bringen soll?
Alle KIs die ich kenne laufen doch auf Servern, wo ich als Nutzer einen API Call mit meiner Anfrage mache. Alle Berechnungen finden doch dann in der Cloud bzw. auf dem Server statt?

Entsprechende Hardwarebeschleunigung wäre also nur relevant, wenn man die KI Modelle auf dem eigenen System ausführt. Das ist doch aber Wahrscheinlich nicht das Ziel, dass jeder in Zukunft sein eigenes LLM auf dem Laptop/Handy hat? Klar für Entwickler kann das teilweise interessant sein, aber auch da wird niemand ernsthafte KI Entwicklung auf Laptop/Handy betreiben...

 

[Vigilant]

Warum nicht?

Hard- und Softwareentwicklung hinsichtlich Leistungsfähigkeit grob in die Zukunft projiziert, lassen lokale KI´s nicht unwahrscheinlich erscheinen, die sich wiederum sehr wahrscheinlich nach außen vernetzen können, aber auch lokal autonom arbeiten.

 

[stefan92x]

Das ist doch aber Wahrscheinlich nicht das Ziel, dass jeder in Zukunft sein eigenes LLM auf dem Laptop/Handy hat?

Ein ausgewachsenes ChatGPT wird sicher nicht auf deinem Rechner lokal laufen, da hast du recht. Für viele Aufgaben reichen deutlich kleinere Modelle aber auch schon aus. Welche das sein werden, und was sich dann durchsetzt, das bleibt aber derzeit wohl wirklich noch eine etwas offene Frage.

 

[Steeeep]

Sind sie nicht.
40Tops in welcher Berechnungs Art?

8bit also 1/4 Genauigkeit ggü. der einfachen Genauigkeit (32bit) welche bei Grafikkarten zum Vergleich genommen wird. Während doppelte Genauigkeit (64bit) der bestimmende Faktor ist bei der 500 Topliste schnellste Computer.

 

[latiose88]

Das Marketing wird's schon richten, irgendwann meint dann jeder potentielle Kunde, ohne Copilot ist man nicht mehr lebensfähig...

tya das wird bei mir niemals der fall sein,weil ich nur was habe wo KI nix helfen wird.Und dieser mist von Coplilot kann ich auch nix anfangen.Was woll dieser Mist denn sein.Das liest sich wie Dreck für mich.Und ja ich bin der wo ALtmodisch lebt.Ich habe noch nicht mal Steam akzeptiert und nutze es auch nicht.Da kann ich auf sowas auch verzichten.Ich verwendete WIndows 7 auch länger als jeder andere User es jemals hier getan hatte.
Ich fahre mit dem Schema auch fort.Windows 10 war also ein notweniges Übel,Freude oder Jubelschreie hat es nicht bei mir ausgelöst,eher so nein der Mist geht nicht,der scheiß will nicht so wie ich das will und so Induvidiell Einstellbar ist Windows 10 auch nicht wie es der User gerne hätte.Neu ist also nicht immer zwangweise was gutes.In dem Fall hier es halt ein Rückschritt als ein voran kommen.
Da kann mir egal Welcher Hersteller ob Microsoft,Sony oder sonst wer mir was erzählen was will,ich glaube nicht alles was die von sich geben.
Ich lasse aber sehr gerne freiwillig welche den Vortritt. Mal sehen wie sich das Entwickeln.Ich mache in Zukunft nur noch die notwenigsten Spünge,also kleine Hüpfer.
Ich hoffe die sind nicht so schlecht wie WIndows 11,weil das bringt bei mir wirklich schlechte Leistung hervor.
Ich erwarte also keine wirklichen Verbesserung.Hoffe das es nicht schlechter wird.DIe Ki wird mir nicht weiter helfen.Es sei denn sie kann die Hardware besser dazu zu bringen diese Optimaler Auszulasten und auch die letzten Quentchen mehr an Leistung aus der CPU herausholen.
Aber dann müsste die KI ja sehr schlau sein.Selbst die beste Ki der Welt ist höchstens auf dem Level eines 1-2 Jahrigen Kindes.
ALso keine hohe IQ kann man so sagen.Wobei eher wohl auf dem Level eines 1 Jährigen Kindes.Wirklich mehr wäre doch verwunderlich kann man so sagen.Da sind ja selbst Hunde und Katzen noch Klüger als diese Ki hier.

So wenig halte ich davon.Meine Erwartung sind nicht vorhanden.Alles andere wäre verwunderlich.Ich frage mich was die ganzen Hersteller und Firmen da so machen.Naja halt abwarten und Tee Trinken ist angesagt.

 

[Krik]

@latiose88
Du klempst. Das macht deinen Text schwieriger zu lesen.

Wenn dir diese Entwicklung nicht gefällt (und das scheint hier der Fall zu sein), probiere doch mal Linux. Für Einsteiger ist Linux Mint geeignet. Keiner zwingt dich, Windows zu verwenden. Tatsächlich kommt man im Privatbereich problemlos ohne aus.

Ich bin der Meinung, dass es noch keine KI gibt, die die Intelligenz eines (egal wie jungen) Kindes hat. Das wäre nämlich eine starke KI und die sehe ich in diesem Jahrhundert nicht kommen. Wir sind nicht mal ansatzweise so weit.

 

[joel]

Also ich finde ja gut wenn noch auf dem Gerät selbst Berechnungen statt finden, aber aktuelle KIs ziehen Infos aus dem Internet und Microsoft ist doch so hinterher beim Thema "Cloud" da Frage ich mich, warum überhaupt so ein Zusatz-Chip im Gerät verwendet werden soll. Ich habe da so den Eindruck das ist alles nicht notwendig, sehe da nur den Anwendungsfall wenn man mal offline ist, aber in Zeiten von 5G, Flats, alle Infos in der Cloud und nicht mehr lokal, irgendwie nicht den Sinn plötzlich wieder beim Endgerät irgendwelche Anforderungen zu stellen, zumal gerade MS doch riesige Serverfarmen hat die alles berechnen können, das wird ja auch schon immer bei Alexa und Co gemacht. Das mit den Performance Gründen mag noch einleuchten, aber man nutzt das doch eh alles nicht offline. Irgendwie verkehrte Welt...

Das riecht wieder mal stark nach Geldmacherei....

Ja, genau so sehe ich das auch!

Bei meinem Schwager fand ich überraschender Weise auf dem Desktop Bing installiert (aktiv). Ich nutze die Suchmaschine und war völlig verblüfft das mir Copilot via ChatGPT antwortete!?
Ich habe ihn gefragt ob er das eingerichtet hat, er sagte: nicht wirklich, er sei nur Empfehlungen gefolgt!
Mein Schwager ist was PCs angeht ein Laie der von ChatGPT keine Ahnung hat, er ist Handwerker und nutzt
den PC wirklich nur als reiner Anwender.
So findet KI völlig unscheinbar in unseren Alltag.

Ich denke auch das man KI als Booster sieht um das PC Geschäft in einen neuen Aufschwung in noch
unvorstellbaren Ausmaß zu beflügeln!
Da erscheint einem die Copilot-Taste gleich in einem ganz anderen Licht, und die NPU obligatorisch.

Schaun wir mal was draus wird.

Ergänzung (2. April 2024)

Ich bin der Meinung, dass es noch keine KI gibt, die die Intelligenz eines (egal wie jungen) Kindes hat. Das wäre nämlich eine starke KI und die sehe ich in diesem Jahrhundert nicht kommen. Wir sind nicht mal ansatzweise so weit.

Bei KI geht es nicht um einen Vergleich mit menschlicher Intelligenz!?

Letzten Endes wird KI ein mächtiges Instrument sein welches den Status eines Helfers hat. Mehr nicht.
Siehe KI, z.B. im medizinischen Breich, was diese zu leisten vermag ist verblüffend!

 

[TerraWin]

Eine gute Grafikkarte bringt es mit halbwegs aktueller CPU wohl auch für den PC Anwender im Hobbybereich!?
Ist ja auch nicht so das man ki ständig braucht, man googelt ja auch nicht ständig.

https://www.computerwoche.de/a/das-bringen-die-neuen-ki-cpus-wirklich,3698277

 

[Alioth]

@TerraWin: Falsch, meine täglichen Anfragen für google und ChatGPT sind im Bereich 20-50, privat.

Wenn man nur ein bisschen Interesse an der Welt, Wissenschaft und Technologie hat, kommt man automatisch sofort auf solche Zahlen oder höhere.

 

[TerraWin]

Verstehe was Du uns sagen willst. Ich google also bin ich.
Wer es nicht tut der…

 

[hans_meiser]

"Finde alle Fotos und Videos auf meinem Rechner inkl. in Archiven und allen Netzwerklaufwerken, und sammel' die alle in einem folder. Dann analysiere Personen, Gebäuden, Ortschaften, und erstelle einen Index der zukünftig automatisch erweitert wird. Gib mir eine Möglichkeit, den Index zu durchsuchen und die Dateien anzuzeigen und zu identifizieren. Erstelle und automatisiere backup der Dateien und Indexe auf mein Google Drive."

Wenn ich so 'ne Sachen vor mich hinmulmen kann und die Kiste macht's, dann bin ich persönlich sehr viel weiter. Mach ma'.

 

[TerraWin]

Klingt für meine Praxis eher konstruiert. Aber natürlich, wenn du es brauchst…
Das wird aber nicht von 20, 30 oder 40 Tops abhängen, sondern davon, ob es überhaupt geht.