News Arrow Lake-S für LGA 1851: Intel Core Ultra 200 kommt mit NPU mit 13 TOPS

[coxon]

Die welt dreht sich nicht nur um dich und ums gaming

SKANDAL!
Kann ich mir ja so gar nicht vorstellen ... lol

" Du brauchst es nicht du willst es aber ".
Man muss auch mal ein bisschen believen.

Jetzt lass mal die Beatles im Dorf. Die letzte HW die ich wirklich wollte, war eine Mecha.
Sonst kaufe ich dann, wenn ich brauche. Mit meinen 40+ bin ich dem Marketing-Gewichse entwachsen.

ich glaub es gibt nicht mal eine halbe Million Nutzer weltweit die für das ganze AI Zeug eine Verwendung haben. Idk wie lange sich diese Blase hält.

Mein Dad nutzt es für die gleichen Zwecke wie du: Ai-Upscaling und Restoration alter Videos. Aus dem Grund hat er sich eine RTX4060 zugelegt (die ich in 20 Jahren wahrscheinlich erben werde^^).

Ich hoffe die Blase hält nicht mehr ganz so lange. Für Office, Organisation, Datenbanken und Foto- & Videografie kann ich mir durchaus vorstellen, dass das alles seinen Nutzen hat, sehe ich an meinem Note 11 Pro 5G wenn ich Essen oder Tiere fotografiere, aber wo ist der Verwendungszweck außerhalb?

 

[oagherk]

Wie sind die TOPS
Anhang anzeigen 1500266
genau zu verstehen? Vor allem bei der NPU. Womit kann man es vergleichen um sich ein Bild machen zu können.

TOPS = Trillion Operations Per Second (Billionen Berechnungen pro Sekunde)

45 TOPS sind für den "Copilot+ PC" von Microsoft erforderlich - dann läuft ein Großteil der KI-Features lokal.

 

[SpartanerTom]

@oicfar Ich glaube die Industrie hat sich bei TOPS Angaben mehr oder weniger auf INT8 Berechnungen eingeschossen (TOPS = trillions of operations per second). Wobei die genaue Bestimmung meiner Meinung nach oft wenig nachvollziehbar ist.

Eine NPU ist letztlich besonders effizient bei den Berechnungen mit dieser niedrigen arithmetischen Genauigkeit (INT8 - 8Bit Integer). Die Differenz in den Spalten kommt daher, dass auch die CPU und die iGPU solche Berechnungen liefern kann. Letzere sind aber natürlich auch für viel höhere arithmetische Genauigkeiten ausgelegt (z.B. 32Bit Gleitkommazahlen - FP32) weshalb die relative Performance niedriger ist als bei der NPU.

Einen genaueren 1 zu 1 Vergleich gibt es meiner Meinung nach nicht.

 

[phanter]

Mein M1 Max benötigt über die GPU-Berechnung 3:50 Min für 10 RAW-Files mit 40 MP in höchster Qualitätsstufe. Über die 11 TOPS NPU berechnet benötigt er nur 2:45 Min bei einem Bruchteil des Stromverbrauchs. Weniger Strom, weniger Hitze, mehr Speed und die GPU bleibt frei für andere Aufgaben, die parallel bearbeitet werden können. Natürlich hätte ich dann gerne eine 30 oder 40 oder 80 TOPS NPU und zwar nicht nur mobil sondern auch stationär. Die Anzahl an Tools mit KI-Komponente hat i

Aber wozu bei stationär? Mobil ergibt das Sinn, aber stationär hat selbst die langsamste Basisvariante der 4060 direkt 240 TOPS. Also wieso auf der NPU laufen lassen wenn ich direkt die viel Leistungsstärkere GPU Nehmen kann?

 

[oicfar]

TOPS = Trillion Operations Per Second (Billionen Berechnungen pro Sekunde)

Die Begriffe sind mir schon klar.

45 TOPS sind für den "Copilot+ PC" von Microsoft erforderlich - dann läuft ein Großteil der KI-Features lokal.

Im Moment fehlt mir noch ein Vergleich zu einer vorhandenen Technologie um die Zahlen besser einordnen zu können.

Wobei die genaue Bestimmung meiner Meinung nach oft wenig nachvollziehbar ist.

Genau.

Einen genaueren 1 zu 1 Vergleich gibt es meiner Meinung nach nicht.

Wird man dann sehen, wenn die ersten Modelle draußen sind.

 

[Makso]

45 TOPS sind für den "Copilot+ PC" von Microsoft erforderlich - dann läuft ein Großteil der KI-Features lokal.

Muss man den .. haben? Wird man nur mehr über die KI / AI arbeiten können?

 

[KlaasKersting]

Ist das gesichert, dass für den Copilot+ Sticker die NPU alleine die TOPs haben muss? Ich dachte es wäre alles zusammen und genau aus dem Grund hätte Intel bei der iGPU XMX wider eingeführt, damit man dir 40+ TOPs dadurch bekommt.

Ja, muss sie.

Die kombinierten Plattform-TOPS sind sowieso nur Marketing-Bullshit, da man einfach CPU, GPU und NPU addiert, diese jedoch real nicht kombiniert genutzt werden können. CPU + GPU geht in manchen Fällen, aber die NPU muss immer separat über eine eigene API angesprochen werden und ist mehr oder weniger eine Blackbox.

Im Notebook wird es noch absurder, wenn man bedenkt, dass selbst in dem theoretischen Fall, dass man 3 verschiedene Workloads gleichzeitig laufen lässt, die TDP das gar nicht hergibt.

CPU, GPU und NPU können nicht alle gleichzeitig auf ihrem maximalen Takt, der für diese theoretische Maximalleistung nötig wäre, betrieben werden.

Wie man es dreht, die Angabe der Plattform-TOPS ergibt real keinen Sinn.

 

[tidus1979]

Mobil ergibt das Sinn, aber stationär hat selbst die langsamste Basisvariante der 4060 direkt 240 TOPS.

Das kriegt sie in den gängigen AI-Tools aber nicht auf die Straße:

https://docs.google.com/spreadsheets/d/1Yx-3n_8D3OreyVwQLA-RVqiQCAgNdXDkxScpXTur1Gs/htmlview#gid=0

Eine 3090 ist in DxO gerade mal knapp doppelt so schnell wie ein M1 Max mit 11 TOPS NPU.

 

[Icke-ffm]

Strix Halo

jaein, ich meine einen neuen IOD für Zen4/5 mit NPU RDNA3.5 eventuell einen Zen5c Kern für den 7xxx und 9xxx der auch den Ide verbrauch senkt und sowohl AM5 FP7/8 und auch FP11 verwendet werden kann am Besten noch 128bit DDR5 sowie 256bit LPDDR5x

 

[Nagilum99]

die Berechnung erfolgt dann aber nicht derart effizient und je nach CPU/GPU eventuell auch langsamer

Effizient lasse ich gelten, was im Desktop aber ein andere Relevanz hat als in Mobilgeräten.
Wenn man sich die Tabelle anschaut, dürfte es für die meisten Anwendungen aktuell aber keine Rolle spielen, ob sie auf der NPU oder GPU laufen.

Sowohl privat als auch beruflich ist der ganze NPU-AI-Krempel aktuell komplett ohne Nutzen und vor allem eins: Produktwerbung. Weil die Schritte nicht ausreichen, muss man jetzt die NPU als riesigen Fortschritt vermarkten, der aber - für die Allgemeinheit - auch auf mittlere Sicht so nutzlos bleiben wird wie z.B. AVX512.

Ergänzung (9. Juli 2024)

jaein, ich meine einen neuen IOD für Zen4/5 mit NPU RDNA3.5 eventuell einen Zen5c Kern für den 7xxx und 9xxx der auch den Ide verbrauch senkt und sowohl AM5 FP7/8 und auch FP11 verwendet werden kann am Besten noch 128bit DDR5 sowie 256bit LPDDR5x

Die 256 Bit wurden schon thematisiert:
Sie machen die Plattform so teuer wie damals die Threadripper mit 4 Kanälen -> Da es den TR schon gibt, ist das keine relevante Marktgruppe.
Warum ein Zen-Kern in den IO-Die wandern soll ist für mich rätselhaft. Was den den hohen Ruhestrom benötigt IST das IOD.
FP7 etc.: Da man inzwischen 12 Zen-Kerne monolithisch verbauen wird, ist die Zukunft der mobilisierten Desktop-Chiplets eher fraglich. Auch hier implodiert die Zielgruppe förmlich, die den Mehrpreis für 16 Kerne zahlen soll.

 

[blackiwid]

Ja AMDs weg gefällt mir besser, sowas macht logischerweise die CPU teurer, die selbe CPU mit so nem extra NPU chip wird immer teurer sein wie ohne.

Nun gibt es 2 varianten die PCs mit Grafikkarten drin werden das schneller auf der GPU machen können, und effizienz ist nebensächlich auf dem Desktop anders wie bei Notebooks.

Aber natürlich gibts auch Leute die nur APUs / IGPs aufm Desktop benutzen wollen weil sie die GPU Power nicht brauchen oder weil sie Nucs benutzen oder sowas, hier bietet AMD mit Strix Halo wahrscheinlich auch ne Option und da hast dann was 50-60 Tops mit Strix Point wird man ja mindestens gleich ziehen, und hast vollwertiges Copilot+.

Der einzige kleine Nachteil ist das Strix Halo noch weile auf sich warten läßt, aber ja diese Lösung zum einen die CPU teurer zu machen zum anderen aber zu wenig TOPs zu liefern das es wirklich stark nützlich sein wird (nach allem was wir jetzt wissen), ist ne loose-loose Geschichte für Intel.

Der Vorteil ist wohl das sie beim Chip Designen Geld sparen konnten in dem man nen Altes Design wiederverwerten konnte oder das man trotzdem die Leute wie bei 720 TV nen HD Ready Aufkleber drauf machen kann, der dann zwar verarsche ist aber funtzt natürlich bei vielen.

 

[stefan92x]

Da man inzwischen 12 Zen-Kerne monolithisch verbauen wird, ist die Zukunft der mobilisierten Desktop-Chiplets eher fraglich

Seh ich gar nicht mal so. Die CPU-Kerne an sich sind zwar nicht das Problem, aber wie man an Strix Halo sieht, kommt man mit großer GPU/NPU auch schon in den Bereich, dass man lieber nicht noch die CPU-Kerne mit im eh schon großen Chip hat. Da kann man ja auch durchaus nur 8 Kerne bauen.

 

[phanter]

Das kriegt sie in den gängigen AI-Tools aber nicht auf die Straße:

https://docs.google.com/spreadsheets/d/1Yx-3n_8D3OreyVwQLA-RVqiQCAgNdXDkxScpXTur1Gs/htmlview#gid=0

Eine 3090 ist in DxO gerade mal knapp doppelt so schnell wie ein M1 Max mit 11 TOPS NPU.

Naja das liegt halt daran dass das ein mehrschrittiger Prozess ist, der teilweise CPU und Speicher limitiert ist. Sieht man sehr gut in der Tabelle dass das auch ordentlich mit der CPU Leistung skaliert. Das würde sich auch nicht bei viel mehr NPU Leistung im Prozessor ändern.
Da sind halt wahrscheinlich 40 TOPS einfach gut genug

Zudem ist DXO halt auch einfach nicht optimiert, da die Bilder sequentiell bearbeitet werden. Da langweilt sich die GPU 95% der Zeit. Du kannst halt wenn du 5 Instanzen von DXO parallel laufen hast wahrscheinlich fast 5x mehr Bilder in der selben Zeit verarbeiten. Da hat die Hardware keine Schuld dran.

 

[Piak]

Das Soc Tile wird ja bekanntlich bei AMD nur jede zweite Generation angefasst, somit ist klar dass dann mit dem nächsten Release neben den 2 GPU Units dort noch eine passende NPU einzieht.

 

[Botcruscher]

Killeranwendungen Katzenbilder... wenn die Software mal existiert.
Bis dahin tote Hardware die keiner braucht.

 

[Icke-ffm]

Die 256 Bit wurden schon thematisiert:
Sie machen die Plattform so teuer wie damals die Threadripper mit 4 Kanälen -> Da es den TR schon gibt, ist das keine relevante Marktgruppe.
Warum ein Zen-Kern in den IO-Die wandern soll ist für mich rätselhaft. Was den den hohen Ruhestrom benötigt IST das IOD.
FP7 etc.: Da man inzwischen 12 Zen-Kerne monolithisch verbauen wird, ist die Zukunft der mobilisierten Desktop-Chiplets eher fraglich. Auch hier implodiert die Zielgruppe förmlich, die den Mehrpreis für 16 Kerne zahlen soll.

256Bit kommen mit FP11 und wenn nur LPDDR5x unterstützt wird ist da sicher kaum Platz den es Kostet, somit könnte AMD eine 16/32 Core CPU auf diesem bringen den es eben nur dort gibt
Ein Zen-Kern reicht zum Surfen, YouTube Tick tok usw locker somit könnte man die CCDs komplett abschalten.
FP7 gibt es aktuell nur mit 8 Kernen, Point gibt es ausschließlich für FP8.
Und ich meine keine Monologischen ich meine IOD und CCDs den IOD zu tauschen ist kein Problem, da AMD ja das Baukasten Prinzip hat.

 

[Sunjy Kamikaze]

Ich hoffe ja auch künftige MMOs die diese NPU power zum Live übersetzen nutzen. Wäre toll wenn ich mit allen Spielern aus aller Welt im Textchat direkt kommuniziren könnte.

 

[Nagilum99]

Seh ich gar nicht mal so. Die CPU-Kerne an sich sind zwar nicht das Problem, aber wie man an Strix Halo sieht, kommt man mit großer GPU/NPU auch schon in den Bereich, dass man lieber nicht noch die CPU-Kerne mit im eh schon großen Chip hat. Da kann man ja auch durchaus nur 8 Kerne bauen.

Was hindert dich daran dort eine dGPU aufzulöten? Dazu braucht es keine HX-Modelle aus dem Desktop.

 

[flappes]

Ich habe immer noch keine Ahnung wozu ich die schiere Menge an neuronaler Rechenpower als Oldskool Gamer brauche.

Verbesserte Wegfindung für NPC, automatisch anpassende Gegner an deine Spielstärke (Single-Player-Spiel oder generell NPC), procedurale Generierung von was auch immer (Level, Designs, ...)... da gibt es schon genug.

Aber das muss halt in den Spieleengines auch erst mal unterstützt werden.

 

[Nagilum99]

256Bit kommen mit FP11 und wenn nur LPDDR5x unterstützt wird ist da sicher kaum Platz den es Kostet, somit könnte AMD eine 16/32 Core CPU auf diesem bringen den es eben nur dort gibt

Du hast das Thema Entwicklungskosten (und dazugehörend ROI) nicht verstanden. Eine solche CPU, die nur dort verbaut wird, ist wirtschaftlich komplett unattraktiv.

Ein Zen-Kern reicht zum Surfen, YouTube Tick tok usw locker somit könnte man die CCDs komplett abschalten.
FP7 gibt es aktuell nur mit 8 Kernen, Point gibt es ausschließlich für FP8.
Und ich meine keine Monologischen ich meine IOD und CCDs den IOD zu tauschen ist kein Problem, da AMD ja das Baukasten Prinzip hat.

Ich dachte das wäre unmissverständlich geschrieben: Die CCDs sind NICHT das Problem, das IOD ist es!
Wenn du jetzt deinen E-Kern ins IOD baust, hast du gewonnen? Genau: Ungefährt NICHTS.
Die Konnektivität ist das, was so viel "säuft", nicht die Zen-Kerne.

Den letzten Satz habe ich nicht verstanden. IOD und CCDs den IOD zu tauschen?!

Ergänzung (9. Juli 2024)

Ich hoffe ja auch künftige MMOs die diese NPU power zum Live übersetzen nutzen. Wäre toll wenn ich mit allen Spielern aus aller Welt im Textchat direkt kommuniziren könnte.

Die NPU wäre wohl eher Anwendung für einen Sprachchat. Ich bezweifle, dass es für einen Textchat eine NPU benötigt.
Google Translate etc. gibt's schon weit länger als NPUs existeren.