News Machine-Learning-Benchmark: Geekbench AI 1.0 ist fertig und läuft auf vielen Plattformen

[nlr]

Die Entwickler des Geekbench zur Ermittlung der CPU-Leistung haben mit ihrem bisherigen Machine-Learning-Benchmark Geekbench ML jetzt die Version 1.0 erreicht und dabei eine Umbenennung zu Geekbench AI vollzogen. Der Benchmark soll auf allen unterstützten Plattformen die gleichen AI-Workloads für CPU, GPU und NPU ausführen.

Zur News: Machine-Learning-Benchmark: Geekbench AI 1.0 ist fertig und läuft auf vielen Plattformen

 

[Sun_set_1]

RTX 4090:
https://browser.geekbench.com/ai/v1/11724

Single Precision: 37355
Half Precision: 50820
Quantized Score: 27817

alt: Screenshot des Ergebnis

iPhone 15 Pro
https://browser.geekbench.com/ai/v1/11758

Single Precision: 3712
Half Precision: 5500
Quantized Score: 4580

alt: Screenshot des Ergebnis

7800X3D CPU
https://browser.geekbench.com/ai/v1/11811
Single Precision: 3845
Half Precision: 878
Quantized Score:: 5236

alt: Screenshot des Ergebnis

7800X3D - ondie GPU
https://browser.geekbench.com/ai/v1/11882
Single Precision: 1836
Half Precision: 2040
Quantized Score:: 1481

alt: Screenshot des Ergebnis

 

[aid0nex]

Eine Mobile CPU bietet die Basis für den Score, der wiederum bei 1.500 Punkten liegt...?! Also die Idee an sich finde ich gut, aber dann nehmt doch eine stark verbreitete Desktop CPU und kalibriert diesen Basis Score bei 1.000 ein, ist doch viel leichter...

edit: Sorry, ist ja eine Desktop CPU... Habe Thinkpad statt Thinkstation gelesen. Mea culpa.

 

[MajorApplePie]

Das ist ja auch bisschen Banane hier, man muss bei dem Score das Framework beachten.
OpenVINO CPU is bei mir vier mal so hoch wie ONNX CPU.

ONNX: https://browser.geekbench.com/ai/v1/11750
OpenVINO: https://browser.geekbench.com/ai/v1/11792

Und bei DirectML dümpelt die 4090 bei unter 200w rum, so sparsam war das Teil noch nie. Ein oder zwei Tests waren mal bei 300w, wäre natürlich möglich dass die Tests zu kurz sind um die Spikes aufzuzeichnen.

 

[Steelnight]

Hier mal ein durchgenudeltes iPhone 11:
https://browser.geekbench.com/ai/v1/11901

 

[DevPandi]

Und bei DirectML dümpelt die 4090 bei unter 200w rum, so sparsam war das Teil noch nie. Ein oder zwei Tests waren mal bei 300w, wäre natürlich möglich dass die Tests zu kurz sind um die Spikes aufzuzeichnen.

Dass die RTX 4090 hier im Bereich von 200 - 300 W läuft, ist nicht ungewöhnlich, sondern sogar relativ normal. Teile des Chips liegen in dem Fall brach, gleichzeitig können die Tensor-Kerne aber auch ihren Takt ausfahren.

 

[MajorApplePie]

@DevPandi Möglich, ich weiß nur das wenn da normale AI workloads drauf laufen die 400+ watt gezogen werden.

 

[EJC]

iPhone 13 Pro liegt bei:

Single Precision Score: 2996
Half Precision Score: 4544
Quantized Score: 3771

ABer bin ja eh raus bei Apple AI

 

[smashbrot]

Hier mal ein durchgenudeltes iPhone 11:
https://browser.geekbench.com/ai/v1/11901

Unglaublich, wie schäbig mein (eigentlich noch sehr gutes) Thinkpad dagegen aussieht.
https://browser.geekbench.com/ai/v1/12139

Edit: mit anderem Framework siehts schon was besser aus: https://browser.geekbench.com/ai/v1/12605

 

[Saint81]

Hier mal (weil ich gerade damit surfe) das aktuelle iPad Pro mit M4:
https://browser.geekbench.com/ai/v1/12618
4407 Single Precision Score
6319 Half Precision Score
5223 Quantized Score

 

[Lan_Party94]

Toll - jetzt wird der Phallus per AI Benchmark verglichen. 🤣

 

[Epix]

https://browser.geekbench.com/ai/v1/12656
7800X3D
4929 Single Precision Score
1063 Half Precision Score
5891 Quantized Score

 

[DoS007]

Das ist ja auch bisschen Banane hier, man muss bei dem Score das Framework beachten.
OpenVINO CPU is bei mir vier mal so hoch wie ONNX CPU.

ONNX: https://browser.geekbench.com/ai/v1/11750
OpenVINO: https://browser.geekbench.com/ai/v1/11792

Unglaublich, wie schäbig mein (eigentlich noch sehr gutes) Thinkpad dagegen aussieht.
https://browser.geekbench.com/ai/v1/12139

Edit: mit anderem Framework siehts schon was besser aus: https://browser.geekbench.com/ai/v1/12605

OpenVINO wird von Intel entwickelt, die werden vermutlich die beste Optimierung für Ihre eigenen CPUs haben. Aber trotzdem heftig, dass der Unterschied so groß ist. Gut zu wissen.

 

[tso]

Nach der Angabe auf der Geekbench-Website (https://browser.geekbench.com/processor-benchmarks) ist das reguläre Geekbench 6 auf einen i7-12700 mit einem Score von 2500 Punkten kalibriert (und nicht auf einen i7-10700 bei 1500 Punkten). Der i7-10700 diente aber der Kalibrierung von Geekbench ML (https://browser.geekbench.com/ml-benchmarks)

Den zugehörigen Satz hatte ich falsch verstanden. „Auf gleiche Weise“ anstatt „gleiche Referenz“.

 

[Calid]

 

[Timmy99K]

https://browser.geekbench.com/ai/v1/13676
AMD 5800X3D
2706 Single Precision Score
696 Half Precision Score
3082 Quantized Score

https://browser.geekbench.com/ai/v1/13690
AMD 7900 XTX
31796 Single Precision Score
35592 Half Precision Score
25064 Quantized Score

 

[koech]

ONNX CPU (Core Ultra 9 185H)

ONNX DirectML (Intel Arc)

OpenVINO CPU (Core Ultra 9 185H)

OpenVINO GPU (Intel Arc)

 

[Fraggil]

https://browser.geekbench.com/ai/v1/13923
RTX 3070
18365 Single Precision Score
28393 Half Precision Score
11925 Quantized Score

https://browser.geekbench.com/ai/v1/13981
AMD Ryzen 3800XT
2091 Single Precision Score
566 Half Precision Score
2092 Quantized Score

iPhone XS
539 Single Precision Score
894 Half Precision Score
735 Quantized Score

 

[t3chn0]

7950X3D
https://browser.geekbench.com/ai/v1/14307

Galaxy S24 Ultra

 

[gruuli]

Ryzen 5800X3D (-15 Curve Optimizer)
4.218 Single Precision
919 Half Precision
3.836 Quantized Score

XFX 7800 XT (Power Target -10)
24.248 Single Precision
28.265 Half Precision
19.547 Quantized Score
(Corsair LPX CL16 3200 RAM 2x16)