News Machine-Learning-Benchmark: Geekbench AI 1.0 ist fertig und läuft auf vielen Plattformen

[Calid]

5800X3D mit 2000 FCLK und 4000MT/s: Dual Rank 32GB Samsung B-Die

ONNX

OpenVINO:

 

[-Razzer-]

14900KS (mit Intel Default settings im BIOS und 0x129 Microcode)

https://browser.geekbench.com/ai/v1/22834
Intel(R) Core(TM) i9-14900KS
5161 Single Precision Score
5072 Half Precision Score
15835 Quantized Score

Mobile CPU:

https://browser.geekbench.com/ai/v1/22868
13th Gen Intel(R) Core(TM) i9-13980HX
4446 Single Precision Score
4690 Half Precision Score
12806 Quantized Score

 

[deekey777]

Und ein Windows Arm-Notebook:

ONNX-QNN
https://browser.geekbench.com/ai/v1/21983

Könntest du den Test auf der CPU laufen lassen?
QNN scheint (zumindest außer Snapdragon X Geräten) viel langsamer zu sein, auch auf Smartphones.

 

[tipmyredhat]

Mit den neuen NPUs bekomme ich dann meine Halluzinationen mit x3 Geschwindigkeit, und kann das mit diesen Tools qualifizieren. In was für einer Zeit wir leben...

 

[Situationskomik]

Könntest du den Test auf der CPU laufen lassen?
QNN scheint (zumindest außer Snapdragon X Geräten) viel langsamer zu sein, auch auf Smartphones.

Habe ich für das Surface Duo 2 und das HP WoA-Notebook nachgetragen im Posting oben...
https://www.computerbase.de/forum/t...-auf-vielen-plattformen.2206589/post-29688748

 

[deekey777]

...


Und ein Windows Arm-Notebook:

ONNX-QNN: 428 - 176 - 190
https://browser.geekbench.com/ai/v1/21983

ONNX-CPU: 411 - 419 - 1130
https://browser.geekbench.com/ai/v1/23149


Und ein Surface Duo2:
Tensorflow - qnn: 317 - 313 - 724
https://browser.geekbench.com/ai/v1/21977

- CPU: 342 - 338 - 656
https://browser.geekbench.com/ai/v1/23186

Also die WoA-Ergebnisse passen auch zu meinem Surface Pro X, aber die des Surface Duo 2 sind sehr seltsam, meine TensorFlow Lite CPU sind 623 - 556 - 1112
https://browser.geekbench.com/ai/v1/21238
Das ergibt null Sinn.

PS: Warum werden die ML- und AI-Ergebnisse eigentlich hochgeladen und zum Account hinzugefügt, werden aber nirgendwo als eigene Ergebnisse angezeigt?

Edit:
Und dann fand ich noch dieses Ergebnis (auch von mir): https://browser.geekbench.com/ai/v1/5611
289
Single Precision Score
285
Half Precision Score
586
Quanti

 

[BlackDevCon]

AMD 5700X3D
3334 Single Precision Score
752 Half Precision Score
3360 Quantized Score
https://browser.geekbench.com/ai/v1/25602

RTX 4060TI
20371 Single Precision Score
32684 Half Precision Score
15732 Quantized Score
https://browser.geekbench.com/ai/v1/25605

 

[Rickmer]

Mich würde schon irgendwie interessieren, wie der Pi 4 und Pi 5 sich schlagen...

Kleiner Test, wie sich der Takt auswirkt:

RTX 4090 UV @ 2550 MHz:

https://browser.geekbench.com/ai/v1/26519

Energieverbrauch:

... what? Keine 100W im Durchschnitt?
(Ich hatte die Werte direkt vor Beginn des Benchmark genullt)


RTX 4090 OC @ 3000 MHz:

https://browser.geekbench.com/ai/v1/26526

Energieverbrauch:

Rund 10% höhere Werte bei 17% mehr Takt und 42% mehr Energieverbrauch. Der Speicher hat im OC-Profil auch +750 MHz, der wird auch nicht limitieren. Meh.

Außerdem sind auch diese Werte unerklärlich 20% niedriger als die von @Sun_set_1 - why???


Dazu im Kontrast:

RTX 4060TI
20371 Single Precision Score
32684 Half Precision Score
15732 Quantized Score
https://browser.geekbench.com/ai/v1/25605

Nichts gegen die 4060Ti, aber ich kann ganz sicher sagen, dass die 4090 mehr als 50%~60% mehr Rechenleistung hat.

Beim Benchmark fehlt nach oben hinaus also einiges an Skalierbarkeit...

 

[AthlonXP]

Geekbench AI 1.1​

https://www.geekbench.com/blog/2024/09/geekbench-ai-11/

 

[TerraWin]

Intel 14700 + 4070 Super
27169
40866
20593

ONNX
DIRECTML
d.h. die Graktikarte did it