Mir geht es auch so, dass ich den Ansatz es nur für Grafikkarten zu nutzen befremdlich finde.
Aktuell dümpeln CPUs mit DDR4 immer noch bei sehr kleinen Speicherbandbreiten umher. Dabei müssen hier die Teile gepuffert werden die eine Grafikkarte in ihren oft kleineren Speicher nicht puffern kann. Die höchste DDR4 Bandbreite die mir bekannt ist sind 102GB/s vom
Intel Xeon E7-8890 v3.
Mit HBM könnte man auch den Arbeitsspeicher mächtig voran bringen. Wegen der nähe zum Chip wäre auch eine Art HBM als L4 Cache durchaus denkbar. Ich meine 16GB HBM2 mit 4096-Bit und ~600GB/s sind besser als 16GB DDR4 XY OC Speicher mit 40-50GB/s.
Man kann den Speicher danach ja immer noch mit langsamen DDR4 für große Aufgaben puffern. APUs würden von einem solchen Vorgehen ab aller meisten Profit haben. Alle Grafikdaten könnten in den HBM und der weniger performante Kram kann in einen DDR3/DDR4 RAM gelagert werden.
Bin gespannt, welche Produkte damit mittelfristig möglich werden. Es dürften alle Anwendungen die auf schnellen, großen Speicher angewiesen sind erheblich profitieren.