Neuer Laptop für Software Dev/Data Science mit CUDA gesucht

[dr. lele]

Es ist soweit, mein XPS 15 aus 2016 (9550) ist so langsam durch. Display, Akku und Touchpad müssten ausgetauscht werden und da habe ich gerade nicht die Zeit um mich drum zu kümmern. Also sollte was neues her.

1. Wofür möchtest du deinen Laptop nutzen? Gewerblicher oder privater Einsatz?
Privater Einsatz. Genutzt wird der Laptop für open source Data Science und Softwareprojekte, hauptsächlich in Python (Pytorch), Go und React. Fokus hierbei ganz klar auf Python/Pytorch.

1.1. Möchtest du den Laptop in erster Linie mobil oder stationär nutzen? Wie mobil soll der Laptop sein? Soll es ein 2in1-Notebook/Convertible sein?
Ungefähr 50/50 mobil und stationär. Er muss nicht extrem leicht und klein sein, bin ich ja auch nicht. Sollte aber gut in 16" Fach im Rucksack passen. Akkulaufzeit wäre mir aber schon wichtig, s.u.

1.2. Wenn du Spiele spielen möchtest: Welche Spiele? Welcher Detailgrad?
Habe ich nicht vor auf dem Laptop. Wenn's geht cool, aber ist kein geplanter Einsatzzweck.

1.3. Musik-/Bild-/Videobearbeitung oder CAD: Welche Software? Professionell oder Hobby?
Nein

2. Wie groß soll das Display sein? Möchtest du einen Touchscreen oder eine besonders hohe Display-Qualität?
Mindestens 14 Zoll, gerne 16:10. Kleiner als 17". Auflösung reicht mir bei der Größe FullHD, zu Hause werden externe Monitore genutzt. Touchscreen brauche ich nicht.
Eine hohe Helligkeit fände ich schon gut. Matt oder Glare bin ich per se nicht festgelegt.

3. Wie lang soll die Akkulaufzeit sein?
Auch bei leichter Last, zB Coding wäre es schön wenn er mindestens 5-6 Stunden durchhält. Super wären 8. Coding bei mir heißt hauptsächlich in der IDE tippen (Pycharm, VS Code), ab und zu den Code ausführen/Docker images bauen und ansonsten viel Googlen. Dabei läuft manchmal auch Musik. Also eher leichte Last mit ab und zu kleinen Spikes. Diese Laufzeiten würden dazu führen, dass ich mit dem Laptop auch mobil produktiv sein könnte ohne immer in Nähe einer Steckdose zu sitzen und das Netzteil auszupacken und das fände ich super.

4. Welches Betriebssystem möchtest du nutzen? Ist eine Lizenz vorhanden? Soll das Notebook schon ein Betriebssystem vorinstalliert haben? Bekommst du Windows über die Uni?
Hauptsächlich Linux (Arch + KDE), aber wahrscheinlich Dual Boot mit Windows für andere Nutzer im Haushalt. Da kümmere ich mich aber selbst drum.

5. Hast du Wünsche bezüglich des Designs, der Verarbeitungsqualität, des Materials oder der Farbe?
Darf gerne schick sein und nicht nach Gaming Notebook aussehen. Ich benutze ihn zwar hauptsächlich privat, trete damit aber auch vor Kunden/Kollegen auf und die shamen mich sonst mit ihren Macs . Habe aber auch kein Problem mit einem anderen Look, Thinkpads o.ä. solange es halbwegs schlicht aussieht und gut verarbeitet ist.
Solide Verarbeitung und eine gute Portauswahl wären noch super. Ich fahre mit dem Laptop relativ regelmäßig durch die Gegend und halte auch mal die eine oder andere Präsentation. Da ist es schön wenn HDMI und USB A an Bord sind und das Gerät nicht nach 2 Jahren auseinanderfällt.

6. Gibt es noch andere besondere Anforderungen, die nicht abgefragt wurden? Große Festplatte? Nummernblock? Tastaturbeleuchtung? Stiftunterstützung? Docking per USB-C/Thunderbolt 3? CD/DVD-Laufwerk? (Bildungs-)Rabatte? Service & Garantie? Wartungsmöglichkeiten? SD-Kartenleser?

• Extrem gerne reparierbar/upgradebar!
• Ansonsten wäre es cool, wenn ich den Laptop mit einem USB-C Kabel an externe Bildschirme, LAN und USB Geräte anschließen könnte, inklusive PD. Mein XPS 15 aus 2016 kriegt das hin. Ist kein absolutes Muss.
• Leise wäre mir wichtig. Mein alter XPS war im Energiesparmodus gerade noch OK, mein T490 von der Arbeit grausam.

7. Wie viel Geld bist du bereit auszugeben? Kommt ein Gebrauchtkauf in Frage?
Um die 1500€. Gebrauchtkauf kommt in Frage, selber aufrüsten auch.

Aktuell im Rennen:

1. XPS 15 9520. Mit Rabatt käme ich für die FHD, 16 GB RAM, 512GB SSD Variante auf 1620€ Leider nur USB-C, also muss man fast immer das Dongle mitnehmen...
2. Tuxedo Infinitybook Pro 14 Gen7 ~1700€. Eher mittelgute Lautsprecher und nicht die leiseste Kühlung. Akkulaufzeit durch hohen Idleverbrauch auch mit 99Wh Akku eher schlechter als beim XPS
3. Macbook Pro 14 - Wenn es das mit CUDA und ohne Lötzinn gäbe wäre es perfekt... Akkulaufzeit, Leistung, leise...
4. Framework, schönes Display, reparierbar, aber auch nicht leise und kein CUDA
5. ???

 

[madmax2010]

am hochwertigsten und langlebigsten wird das xps oder dell precision sein. Sind auch ordentlich reparierbar
Aber ruhig mit 5 Jahren vor Ort Service bestellen und kurz vor ablauf mal akku und Tastatur checken lassen

Aber: ich bin kein Fan von Dezidierten GPUs in Laptops. Sie haben kaum vram, werden warm und brauchen viel Strom.

Bei Lambdalabs und Co gibt es viele GPU Instanzen fuer alle Anforderungen zur miete.

ab und zu den Code ausführen/Docker images

https://registry.terraform.io/providers/elct9620/lambdalabs/latest/docs

image dort bauen lassen, modell trainieren lassen, resultate lokal speichern.
Macht die laptop Auswahl deutlich einfacher und der akku ist auch langlebiger

 

[dr. lele]

Danke für den Tipp! Trainiert wird auf dem Laptop auf jeden fall kaum. Dafür nutzen wir auch GPU Instanzen. CUDA auf dem lokalen Entwicklungssystem zu haben ist einfach nur super komfortabel um zu checken ob alles einmal so durchläuft. Meist nutzen wir dann extrem verkleinerte Modelle ähnlicher Architektur für Unit oder Integration Tests. Und da ist es schön nicht kurz ne Instanz hochfahren zu müssen, oder eine vorzuhalten.

Aber: ich bin kein Fan von Dezidierten GPUs in Laptops. Sie haben kaum vram, werden warm und brauchen viel Strom.

Im Alltag sind die ja dank Optimus aus, und gerade die 3000er sollen dann wirklich sehr gut runterfahren. Aber selbst mit meinem alten XPS hab ich damit wenig Problem alle süber die integrierte GPU zu machen außer eben Spiele oder CUDA Kram.

Was wäre dein Favorit ohne CUDA? Lenovo Z13/Z16 lacht mich da an. Potentiell könnte man es da ja sogar mit ROCm hinkriegen lokal was auszuführen.

Da muss ich aber nochmal ganz doll in mich gehen ob ich auf das Gefrickel Lust habe

 

[madmax2010]

Was wäre dein Favorit ohne CUDA? Lenovo Z13/Z16 lacht mich da an.

habe ein XPS13 9310 und 9315, sind beides derzeit meine liebsten laptops. Sehr zufrieden. Leiser als alle Intel Macbooks die ich derzeit habe, sehr lange laufzeit, eine defekte taste wurde bei mir zuhause in unter 30 Stunden getauscht.
Z13 und Z16 würde ich mich mit linux nicht trauen. Musst mindestens im BIOS Pluton deaktivieren, sonst können nur durch Microsoft signierte Bootloader gestartet werden.

Ergänzung (29. April 2023)

Da muss ich aber nochmal ganz doll in mich gehen ob ich auf das Gefrickel Lust habe

Du klingst nach einer lustigen Mischung aus AI/ML und DevOPS.
Was trainierst du denn so oder gehts nur um inference? Mir sind schon 24GB VRAM eigentlich immer zu wenig. Da ist die kurzeit miete nicht wirklich eine option.
Guter Startpunkt:

https://github.com/chiehpower/Gitlab-CI-For-Deep-Learning (sic!)

 

[dr. lele]

Du klingst nach einer lustigen Mischung aus AI/ML und DevOPS.

Haha, das höre ich öfter mal. Ich würde mich eher als Fullstack bezeichnet. Das beste Modell bringt ja nichts wenn es nicht irgendwo läuft Ich hab Wurzeln in der Computergrafik, daher auch die Neigung zu Gefrickel mit Gafikkarten.

Was trainierst du denn so

Hauptsächlich NLP Kram. Wenn man mit BERT usw. zu tun hat, kann man durchaus auch die Dimension reduzieren und das ganze Training mit einer kleinen batch size durchlaufen lassen. Das haben wir in vielen unserer Main Tests so. Das richtige Training wird dann mit Orchestrierungstools gestartet, denen man die Parameter mitgibt.

Beschäftige mich gerade mit Whisper, da geht's tatsächlich fast nur um Inferenz.

Ergänzung (29. April 2023)

habe ein XPS13 9310 und 9315

Schau ich mir nochmal an. Da gefällt mir nicht, dass man nix tauschen kann.

Leiser als alle Intel Macbooks die ich derzeit habe, sehr lange laufzeit,

Die M1s sind da aber eine ganz andere Hausnummer. Die sind mit meiner Arbeitsweise fast durchgehend lautlos und halten ewig.

Ich glaube wenn ich mich gegen CUDA entscheiden sollte, würden die Apple Silicon Macs recht weit oben auf der Liste stehen.

 

[Hans_Dampfer]

Frei konfigurierbar, stabile Leistung, großer Akku, gutes Display, CUDA-Support:
https://bestware.com/de/schenker-vision-14-e22.html

Laut Testbericht ist es aber leider auch nicht der leiseste Vertreter. Wie der Linux-Support bei Schenker aussieht kann ich nicht beurteilen, da müsste man ggf. mal beim Support nachhaken.

 

[dr. lele]

Der ist baugleich mit dem Tuxedo Infinitybook. Ob die wirklich was gemacht haben, damit der Linux Support besser ist weiß ich gar nicht.

 

[Hans_Dampfer]

Das stimmt, allerdings ist es bei Tuxedo (konfiguriert mit 32 GB Ram) über 200€ teurer.

 

[dr. lele]

Es gibt noch 2 potentielle Kandidaten mit dGPU:

Lenovo Yoga Pro 7 14 G8 für 1.479,00 €
[IMG]https://gzhls.at/i/32/71/2933271-m0.webp[/IMG]

Dell Inspiron 14 Plus 7420

Der Dell liefert für ~1200€ auch ganz schön ab. Die Farbe ist allerdings gewöhnungsbedürftig.

Das Yoga soll an sich super sein und mit dem Ryzen wirklich gute Akkulaufzeiten erzielen. Ohne dGPU gäbe es das Teil auch schon für 999€.

 

[dr. lele]

Letztendlich habe ich mich für das Tuxedo InfinityBook Pro 14 Gen 7 mit i7 12700H und 3050 Ti entschieden. Dazu habe ich mir 32 GB RAM von Crucial geholt, eine 980 Pro mit 1 TB von Samsung hatte ich schon.

Kurzer Ersteindruck nach etwa einer Woche:


Gehäuse/Verarbeitung

Das Notebook sieht in echt schicker aus als die Marketingbilder vermitteln. Wie dünn und leicht es ist merkt man wirklich nur wenn man es in der Hand hat.

Das Gehäuse wirkt sehr robust und steif, das Magnesiumchassis erscheint nicht wie Metall, da es nicht so kühl anfühlt. Das kannte ich aber schon von einem alten Sony Vaio und die Stabilität des Gehäuses ist hervorragend. Der Displaydeckel lässt sich nur minimal verformen. Das Öffnen des Deckels mit einem Finger macht Spaß, leider ist die Stabilität des Displayscharniers nicht die Beste. Bei Bewegung wackelt es doch ganz ordentlich. Stört mich aber 0.

Der Boden des Laptops lässt mich nach dem Lösen von 7 Schrauben abnehmen und lässt eine einfach Wartung zu. RAM, SSD und Akku lassen sich sehr leicht ausbauen.


Display:

Das Display ist hervorragend. Durch das 16:10 Format habe ich auch auf dem 14" Display gefühlt genug Platz. Die hohe Auflösung und die gute Helligkeit kann ich auch bei gutem Wetter draußen alles entspannt erkennen. Nur in direkter Sonne sieht man nichts. Leider kann man das Display nur mit 90 Hz betreiben, was dem Stromverbrauch nicht besonders gut tut.


Tastatur und Touchpad:

Die Tastatur ist eine klare 2+. Die Stabilisierung der Tasten ist nicht perfekt, da sind Apple, Dell und Lenovo besser. Die Backspace-Taste verursacht bei der Betätigung zB ein leichtes Klappern. Beim eigentlichen Tippen stört das jedoch überhaupt nicht. Das Layout könnte nur durch den An-/Ausschalter anecken. Der ist aber so eingestellt, dass man ihn minimal länger als gewöhnlich drücken muss. Wer also erstmal statt auf 'Entf' auf den Ausknopf drückt, fährt nicht sofort den Laptop runter. Ich hatte mich nach ein paar Minuten an die Tastatur gewöhnt und komme gewohnt schnell voran beim Tippen. Da hatte mich mit Gaming-Notebooks schon ganz andere Erfahrungen.

Das Touchpad ist groß und funktioniert präzise. Die Geschwindigkeit war mir persönlich etwas zu langsam eingestellt. Der Klick funktioniert nur in der unteren Hälfte gut. Da ich meistens nur auf das Touchpad tippe, auch ok für mich. KDE Plasma Gesten funktionieren. Das Touchpad hat oben links eine kleine LED eingebaut, welche beim doppelten antippen das Touchpad deaktiviert. Ein paar mal ist mir das schon aus Versehen passiert.

Software

Der große Pluspunkt: mit dem Notebook kommt ein USB Stick, welcher Tuxedo's Web Installer enthält. D.h. Stick und LAN eingesteckt, OS ausgewählt und 30 Min später ist alles installiert. TuxedoOS 2 ist ein Ubuntu-derivat mit neuerem Kernel, KDE Plasma und ein paar Tuxedo Zugaben. Das Control Center ist wirklich hervorragend und lässt einen diverse Optionen des Geräts sowie die Lüfterkurve und CPU Package Power einstellen. Einziges Manko war das fehlen des Hybridmodus beim Umschalter zwischen interner und dedizierter Grafik. Konnte man aber einfach in den Nvidia-Settings machen und es hat out of the Box funktioniert.

Man kann Profile auswählen, kopieren und ganz neue anlegen. Zusätzlich kann man für Akku- und Netzbetrieb je ein Standardprofil festlegen, das automatisch beim Anschließen oder Trennen vom Strom aktiviert wird. Ich habe mich für eine Installation mit Verschlüsselung (LUKS) entschieden, was eventuell einen kleinen Einfluss auf Akkulaufzeit und Leistung weiter unten haben könnte.


Kühlung und Lautstärke

Die Lüfter können auf 100% laut werden erreicht diese aber im Standardprofil quasi nie. Man kann den Laptop semi-passiv betreiben und wenn man ein Akku-Profil hat in dem die CPU etwas gedrosselt wird bleiben die Lüfter auch die meiste Zeit aus. Auch auf der niedrigsten Stufe (20%) empfinde ich die Lüfter als sehr angenehm. Schon ein sprudelndes Glas Wasser neben dem Laptop überdeckt sie dann. Soweit sehr gut. Wenn man der CPU aber zu tun gibt und sie auf den vollen 60W laufen lässt dann drehen die Lüfter schon bei recht kurzen Lasten ordentlich hoch. Da mich die Frequenz nicht stört und die Leistung in dem Formfaktor wirklich beachtlich ist, finde ich die Geräuschkulisse angemessen. Wer will, kann es mit einem eigenen Profil immer sehr leise und meist lautlos haben.

Die CPU und GPU bleiben jederzeit bei akzeptablen Temperaturen. Das Gehäuse wird im Bereich der Tastatur nicht unangenehm warm. Die Unterseite könnte bei voller Auslastung für meinen Geschmack noch etwas kühler bleiben. Könnte man mit einem eigenen Lüfterprofil auch erreichen.

Multimedia/Kommunikation

Die Lautsprecher sind deutlich besser als bei einem alten Thinkpad T490 und können ordentlich laut werden. Gegenüber einem modernen XPS oder Macbook sehen sie aber sehr alt aus. Bass kann hier nur erahnt werden. Für mich tun sie ihren Zweck.

Die Webcam ist in Ordnung, mit den Standardeinstellungen waren die Farben sehr rötlich. Der IR-Sensor funktioniert gut mit Howdy, allerdings funktioniert Howdy nicht so gut mit dem Login Screen SDDM. Sicher lösbar, aber ich habe es nicht direkt hinbekommen. Für Authorisierung nach dem Einloggen hat es super funktioniert.

Die Mikros sind eigentlich brauchbar, auf 100% im OS übersteuern sie leider deutlich. Regelt man sie runter ist das für Videoanrufe sehr ok.

Leistung

Völlig überdimensioniert für meinen Einsatzzweck. Im Batteriebetrieb drossele ich die CPU auf ein Minimum (12 Threads statt 20, PL1 14W, PL2 28W) und komme immer noch gut klar.

Ich habe Testweise mal Elden Ring angeschmissen und auf 1080p mit hohen Einstellungen läuft das konstant mit 60 fps. Wenn man die Geekbench6 Resultate mit anderen Notebooks mit der gleichen CPU vergleicht, schneidet das InfinityBook gut ab.

Akkulaufzeit

Der Akku ist riesig, aber der Verbrauch kann es auch sein. Wenn man die CPU, Helligkeit und Hintergrundprogramme auf ein Minimum reduziert kann man (wie ich z.B beim Tippen dieses Textes) auf einen Verbrauch von unter 10W kommen. Das schwankt dann zwischen 7-11W und bedeutet eine Laufzeit von 10-12 Stunden. Wenn man nun aber Code kompiliert, Programme installiert oder sonst irgendwas macht was die CPU wach hält, liegt der Verbrauch auch gerne mal bei um die 20W im Schnitt und nach 5 Stunden ist Schicht im Schacht.

Wenn ich den Laptop in meinem recht strengen Batterieprofil verwende komme ich auf etwa 6-9 Stunden Nutzungszeit. Dabei ist der Bildschirm trotzdem angenehm hell und der Laptop immer noch angenehm schnell (anders als mein XPS 9550 von Dell). Ich bin damit happy.

Im Sleep verbraucht das Gerät etwa 1% Akku pro Stunde. Das ist leider etwas mehr als ich mir erhofft hatte, dafür wacht es wirklich blitzschnell auf.

USB-C Laden

Beim Laden mit einem 100W USB-C Netzteil reduziert die Firmware die Multicore Leistung der CPU um etwa 10%. Nutzt man ein 65W Netzteil wird die CPU massiv gedrosselt. 65W Netzteile sollten man also wirklich nur zum Laden anschließen, da ist selbst die Bedienung des Betriebssystems merklich langsamer.

Im Bild jeweils der höhere Score mit dem mitgelieferten Netzteil, der niedrigere mit einem Lenovo 65W USB-C Netzteil.

Fazit:

Ich kann das InfinityBook Pro 14 Gen 7 für meinen Einsatzzweck wärmstens empfehlen. Wer kein Linux nutzen möchte, oder die Vorarbeit von Tuxedo nicht braucht kann mit dem Schenker Vision 14 E22 je nach Ausstattung ordentlich Geld sparen.