SOCAMM: LPDDR5X-basierte RAM-Riegel für hohe Kapazität und Bandbreite

Zur GTC 2025 bringen die Speicherhersteller auch erste SOCAMM-Riegel mit. Nvidia wird sie in Zukunft auch im HPC-Segment einsetzen, denn die Erfahrungen, die das Unternehmen mit LPDDR5 bei Grace Hopper bereits gemacht hat, kamen sehr gut an. SOCAMM verbindet nun LPDDR5X mit modularem Aufbau und ist klassisch wechselbar.

SOCAMM steht für Small Outline Compression Attached Memory Module. Es ist ein Standard für Speichermodule, die mit energiesparenden DRAM-Chips bestückt werden und vornehmlich erst einmal das AI-Umfeld adressieren. Die Basis für SOCAMM sind die Erfahrungen, die mit CAMM/CAMM2 bereits gemacht wurden, erste Systeme sind kommerziell verfügbar, aber noch extrem rar gesät. Bei SOCAMM wird jedoch noch mehr auf ein kleines Profil mit gleichzeitig energiesparendem und schnellen Speicher geachtet.

Heraus kommt so ein Modul, welches 90 mm lang ist, aber nur 14 mm hoch. Gegenüber dem im Einsatzgebiet oft anzutreffenden RDIMM ist dies eine Platzersparnis von Zweidrittel, beschreibt es Micron. Die Verwendung von LPDDR5X-Speicherchips lässt zudem auch die Leistungsaufnahme im Verhältnis zur Kapazität auf nur noch ein Drittel eines vergleichbaren RDIMM-Modul-Setups absinken. Wie erklärte Nvidias Chef leicht scherzhaft in der Nacht: Die „gesparten“ Watt solle man stattdessen in mehr GPUs investieren.

Dabei sollen keine größeren Abstriche bei dem Speicherausbau gemacht werden. Durch vier verbaute LPDDR5X-8533-Chips lassen sich wahlweise 32, 64 oder auch schon 128 GByte realisieren. Für letzteres werden 16 Lagen DRAM in einem Chip gestapelt, die jeweils entsprechend 2 GByte fassen. Dadurch werden 32-GByte-Chips ermöglicht, vier davon entsprechen letztlich dem Vollausbau.

Noch nicht losgeworden ist man auch bei SOCAMM die drei Schrauben. Bereits im letzten Jahr gab es eine entsprechende Präsentation mit Hinblick auf CAMM mit LPDDR/DDR6, die Überlegungen zeigte, wie diesem Schrauben-Problem begegnet werden könnte.

Auf der Nvidia GTC 2025 wurde unter anderem die neue DGX Station damit bestückt. Die SOCAMM-Module sind dabei so unscheinbar, dass sie auf den ersten Blick kaum auszumachen sind. Es sind jedoch zwei rechts und zwei links neben der Nvidia-Grace-CPU verbaut, erkennbar dann auch, wenn man es weiß, an den jeweils drei Schrauben pro Modul.

Das Einsatzfeld für solche Speicherriegel dürfte durchaus wachsen. Ein Kandidat dafür wäre beispielsweise auch AMD Strix Halo beziehungsweise dann vielleicht ein Nachfolger. Noch setzt diese Lösung auf fest verlötete LPDDR5X-Chips, die auch bei AMD das beste aus den Welten versprechen.

ComputerBase hat Informationen zu diesem Artikel von Nvidia im Rahmen einer Veranstaltung des Herstellers in San Jose, Kalifornien erhalten. Die Kosten für An-, Abreise und fünf Hotelübernachtungen wurden vom Unternehmen getragen. Eine Einflussnahme des Herstellers oder eine Verpflichtung zur Berichterstattung bestand nicht.