BlueField: Nvidia DPU mit ARM und Ampere soll die CPU entlasten

Mit der Data Processing Unit (DPU) bringt Nvidia eine weitere Komponente in das Datacenter-Umfeld, die in mehreren Aspekten Last von der CPU nehmen soll, damit diese ihren eigentlichen Aufgaben nachkommen kann. Eine DPU ist im Prinzip eine Netzwerkkarte mit zusätzlichem ARM-Prozessor, später aber auch Ampere-GPU.

Im Datacenter ist eine CPU mittlerweile auch für viele kritische Aufgaben im Bereich Netzwerk, Speicherverwaltung und Sicherheit zuständig – wichtige Aufgaben, die zwar nicht vernachlässigt werden dürfen, aber gleichzeitig kostbare Rechenleistung der CPU in Anspruch nehmen, die nicht mehr für die eigentlichen Prozesse zur Verfügung steht.

Die Data Processing Unit (DPU) soll exakt diese zwischenzeitlich immer mehr auf die CPU ausgelagerten Aufgaben in einer neuen Komponente übernehmen und damit unter ansonsten gleichen Bedingungen im Datacenter bis zu 30 Prozent Leistung der CPU zurückführen. Nvidia gibt an, dass die aktuelle DPU mit dem Namen BlueField-2 mit einer einzigen Karte im Datacenter die gleichen Dienste bewerkstelligen könne, für die bisher 125 CPU-Kerne benötigt worden seien.

BlueField-2 ist Netzwerkkarte plus ARM-Prozessor

BlueField ist eine durch die Übernahme von Mellanox hinzugewonnen Technologie, die in der aktuellen Generation bereits als Mellanox BlueField-2 bekannt war und jetzt unter dem Namen des Dachkonzerns Nvidia angeboten wird. BlueField-2 basiert auf der Netzwerkkarte Mellanox ConnectX-6 Dx und bietet mit zweimal 100 Gbit/s oder einmal 200 Gbit/s dieselben Eigenschaften. Acht vollständig programmierbare ARM Cortex-A72 und zwei VLIW-Engines sind für die Entlastung der CPU zuständig. Im Bereich Sicherheit sind das etwa Root of Trust, die Verschlüsselung, das Key-Management und eine Regular-Expression-Engine. Für das beschleunigte Networking werden RDMA/RoCE, GPU Direct und SDN/NFV auf der DPU abgewickelt. Und für beschleunigten Storage stehen unter anderem NVMe-oF (over Fabrics), Elastic Block Storage (etwa bei Amazon) und Kompression zur Auswahl.

1. 

Bild 1 von 3

Die gesamte Verwaltung findet über Nvidia DOCA statt, das für „Data Center Infrastructure-on-a-Chip Architecture“ steht. Über das neu veröffentlichte DOCA SDK für BlueField-DPUs können Entwickler Anwendungen für die verschiedenen Aufgabengebiete einer DPU entwickeln. Im Bereich Software planen VMware, Red Hat, Canonical und Check Point Software Technologies die Unterstützung der DPUs.

DPU-Roadmap bis 2023 veröffentlicht

Das Portfolio der DPUs besteht zum Start im kommenden Jahr zunächst aus dem Nvidia BlueField-2, bei dem es sich um ein Mellanox BlueField-2 unter neuem Namen handelt, sowie dem BlueField-2X, auf dem zusätzlich eine Ampere-GPU sitzt, deren Tensor-Kerne der 3. Generation für KI-Aufgaben und die Echtzeit-Analyse etwa von abnormalem Traffic im Netzwerk verwendet werden können. Welche Ampere-GPU im Detail zum Einsatz kommt, wollte Nvidia zur Ankündigung noch nicht verraten, bekannt ist aber deren KI-Leistung von 60 TOPS (Tensor Operations Per Second).

Nvidia ließ sich aber bereits in die Karten schauen, was für die kommenden Jahr im Bereich DPU geplant ist. 2022 soll BlueField-3 mit mehr Leistung des ARM-Prozessors und 400 Gbit/s NIC auf den Markt kommen, darüber will Nvidia BlueField-3X mit zusätzlicher GPU und 75 TOPS platzieren. Für 2023 ist die Zusammenführung von ARM-Prozessor und GPU in einem Chip unter dem Namen BlueField-4 geplant, der 1.000 SPECINT und 400 TOPS liefern soll und nicht mehr mit eigenem „X“-Ableger geplant ist. Die DOCA-Plattform soll über alle Generationen beibehalten werden.

ComputerBase hat Informationen zu diesem Artikel von Nvidia unter NDA erhalten. Die einzige Vorgabe war der frühest mögliche Veröffentlichungszeitpunkt.