Nvidia Jetson Orin Nano Super: Developer Kit für AI und Robotik ist schneller und günstiger
Nvidia bietet AI- und Robotik-Entwicklern mit dem Jetson Orin Nano Super Developer Kit eine neue All-in-One-Lösung aus Compute- und Carrier-Board mit Kühlung an, die weniger kostet und mehr leistet als der Vorgänger. Dafür hat Nvidia die Taktraten von CPU und GPU (auch rückwirkend) angehoben und die Software weiter optimiert.
Das Jetson Orin Nano Super Developer Kit kostet 249 US-Dollar vor Steuern und hat im Shop von Nvidia bereits den Vorgänger ohne den Zusatz „Super“ abgelöst. Diesen hatte Nvidia zur GTC im Frühjahr 2023 vorgestellt und für 499 US-Dollar respektive 399 US-Dollar mit Bildungsrabatt auf den Markt gebracht. Der Nachfolger kostet im besten Fall somit lediglich noch die Hälfte und bietet eine höhere Leistung.
Komplettsystem für 249 US-Dollar
Robotik- und AI-Entwickler erhalten mit dem Developer Kit von Nvidia eine Komplettlösung fürs Basteln und Entwickeln. Für den produktiven Einsatz bietet Nvidia nämlich auch zahlreiche „nackte“ Jetson-Lösungen an, die zusätzliche Platinen und Kühler benötigen. Mit einem Developer Kit erhält man hingegen eine All-in-One-Lösung, um sofort loslegen zu können.
Das Jetson Orin Nano Super Developer Kit ist in der Orin-Familie angesiedelt, darüber sitzen Orin NX und AGX Orin. Vom Orin NX bietet Nvidia aber nur Compute-Module an und das AGX Orin Developer Kit kostet 2.000 Euro. Das Jetson Orin Nano Developer Kit war bislang somit die günstigste Möglichkeit für ein Entwicklersystem direkt von Nvidia.
Neuer TDP-Modus mit 25 Watt für 70 Prozent mehr Leistung
Den günstigeren Super-Nachfolger gibt Nvidia mit 67 TOPS (INT8 Sparse), 33 TOPS (INT8 Dense) und 17 TFLOPS (FP16) AI-Leistung und somit einer Steigerung um 70 Prozent an. Das Developer Kit (PDF) setzt auf den gleichen Orin-SoC wie der Vorgänger, bietet aber einen neuen TDP-Modus mit bis zu 25 Watt. Nach unten hin lässt sich das System wie bisher auf minimal 7 Watt begrenzen, das Maximum lag zuvor aber bei 15 Watt.
Mehr Takt für CPU und GPU
Die höhere TDP ermöglicht höhere Taktraten. Die CPU behält ihre sechs Kerne des Typs Arm Cortex-A78AE, doch liegen in der Spitze jetzt 1,7 statt 1,5 GHz an. Die Speicherbandbreite des LPDDR5 wurde um 50 Prozent auf 102 GB/s gesteigert. Die GPU auf Basis der Ampere-Architektur stellt weiterhin 1.024 CUDA und 32 Tensor Cores zur Verfügung, im höheren TDP-Modus darf der Takt aber auf bis zu 1,02 GHz statt 635 MHz gehen.
Software-Update macht Super aus bisherigen Orin
Weil es sich eben ausschließlich um einen neuen TDP-Modus handelt und das Komplettsystem im Ganzen betrachtet nicht verändert wurde, kann das bisherige Jetson Orin Nano Developer Kit mittels Software-Update auf das neue JetPack SDK in Version 6.1 zu einem Jetson Orin Nano Super Developer Kit gemacht werden. Auch dort lässt sich die Generative-AI-Leistung in LLMs, VLMs (Visual Language Models) oder bei Vision Transformers (ViTs) unter Verwendung von kleinen und großen Modellen mit bis zu 8 Milliarden Parametern (Llama-3.1-8B) um bis zu 70 Prozent steigern. Auch für die reinen Orin- und Orin-NX-Compute-Module gibt es damit mehr Leistung.