Hot Chips 33: Samsung zeigt HBM-PIM und riesige Speichermodule

Samsung forciert die Entwicklung von HBM- und DIMM-PIM und zeigt Konzepte für die Zukunft, die viel Leistung bei geringem Energiebedarf versprechen. Nach einem Testlauf in Zusammenarbeit mit Xilinx-Beschleunigerlösungen sollen den vielen Theorien nun echte Taten folgen.

Processing-In-Memory (PIM) ist Samsungs Ansatz, Flaschenhälse beim Speicher in Systemen zu umgehen. So wie Intel beispielsweise Optane hier als eine mögliche Lösung sieht, zeigt auch Samsung die bekannte Pyramide, wenngleich mit etwas anderen Speicherlösungen für die Zukunft. Neben klassischen DRAM soll den neuen Lösungen ein breites Feld zur Verfügung stehen, denn sie sollen nicht nur als teure HBM-PIM-Variante erscheinen, sondern auch als DIMM-PIM und LP5-PIM.

1. 

Bild 1 von 14

Um die Audienz erst einmal von den Möglichkeiten zu überzeugen, ging Samsung mit einem Beispiel voran. Für Testzwecke wurde eine Xilinx Alveo U280 umgebaut. HBM wurde gegen HBM-PIM getauscht und das System war nun in der Lage, neben dem klassischen Speichermodus als zweite Möglichkeit über ganz normale DRAM-Befehle auch FP16-Operationen auszuführen. Die zuvor theoretisch ermittelten Werte wurden im Test letztlich fast genau getroffen. Dabei war das System sogar einen Tick schneller als gedacht (2,1x wurde angestrebt), dafür der Energiebedarf etwas höher (über 70 Prozent Absenkung sollte es sein): Die Systemleistung konnte im Test um den Faktor 2,49 gesteigert, der Energiebedarf um 62 Prozent reduziert werden.

1. 

Bild 1 von 3

Die Chips direkt ab Werk dafür auszulegen ist ein Ansatz, um die breite Masse zu erreichen, muss jedoch weiter gedacht werden. Hier zielt Samsung auf den klassischen DRAM-Markt sowie das Geschäft mit LPDDR. Prototypen eines auffällig hohen DRAM-Riegels mit zusätzlichen Buffer-Chips, Acceleration DIMM (AXDIMM) genannt, zeigen in ersten Testläufen in AI-Anwendungen eine doppelt so hohe Leistung bei rund 40 Prozent geringerem Energiebedarf. Der große Vorteil ist das klassische DIMM-Formats: ein einfacher Austausch ohne Änderungen am System soll problemlos funktionieren. Genau diesen Ansatz verfolgt beispielsweise auch Intel mit Optane Memory.

1. 

Bild 1 von 4

Bei LPDDR5-PIM, der traditionell wieder direkt mit Platinen verlötet ist, steigt die Energieeinsparung bei verdoppelter Leistung wieder auf über 60 Prozent an. Bis solche Lösungen aber im Markt präsent sein könnten, dürften noch viele Monate vergehen. Für das erste Halbjahr 2022 plant Samsung erst einmal eine Art Standardisierung der Gegebenheiten um diese später auch mit entsprechendem Support in einem breiten Ökosystem veröffentlichen zu können.

1. 

Bild 1 von 2