News IPU statt DPU: FPGAs/CPUs mit SmartNIC von Intel fürs Datacenter

[Volker]

In einer Infrastructure Processing Unit (IPU) sieht Intel die teilweise Zukunft im Datacenter. Speziell auf die Bedürfnisse von Cloud-Anbietern oder Kommunikations-Dienstleistern abgestimmt, können die großen Kunden ein Wörtchen mitreden, was genau diese Lösung bieten soll. Grundlage dafür ist ein Multi-Chip-Design.

Zur News: IPU statt DPU: FPGAs/CPUs mit SmartNIC von Intel fürs Datacenter

 

[konkretor]

Sehr spannendes Thema, bin gespannt wie sich das in der Performance niederschlägt.

 

[PS828]

Solche Unterstützungschips machen wirklich einen großen Unterschied bei solch großen systemen. Am Ende macht jeder Teil was er am besten kann.

 

[latiose88]

Wäre vielleicht im server und den größeren cpus vielleicht ja auch ne interessante lösung mit dem zusatzchip und deren besseren auslastung wer weis. Lassen wir uns einfsch überraschen wie es weiter gehen wird. Klingt jedenfalls vielversprechend.

 

[foofoobar]

AMD aka Xilinx hat sowas schon im Angebot, das liefert interessante Ergebnisse:


https://www.xilinx.com/publications/results/onload-memcached-performance-results.pdf

https://www.xilinx.com/publications/results/onload-nginx-plus-benchmark-results.pdf

https://www.xilinx.com/publications/onload/sf-onload-couchbase-cookbook.pdf

https://www.xilinx.com/publications/results/onload-redis-benchmark-results.pdf

https://blocksandfiles.com/2018/08/25/solarflare-demos-nvme-over-tcp-at-warp-speed/


Die Technik dahinter, im wesentlich linkt man seine Bestandsapplikationen per LD_PRELOAD gegen eine neue Lib:


https://discover.exertisenterprise....re_Introduction_to_OpenOnload_White_Paper.pdf

http://www.smallake.kr/wp-content/uploads/2015/12/SF-104474-CD-20_Onload_User_Guide.pdf


Passend dazu sucht AMD Kernel-Entwickler mit dem Schwerpunkt Netzwerk.

 

[Piktogramm]

@foofoobar
Nette Dinge, aber wenn man da genauer hinschaut sind das ausgesuchte Fälle, wo der Kram funktioniert. Beim Beispiel von Nginx, da geht es um HTTP, was dank der Verbreitung von HTTP Version >=2 quasi ausgestorben ist (sein sollte). Müsste Nginx noch einen TLS Handshake abwickeln, wäre das mit Abstand der kritischste Punkt und die Differenzen zwischen System mit Offloading und System ohne Offloading würde deutlich kleiner.
IPv6 kann das System anscheinend auch nicht, das ist auch etwas merkwürdig und verleitet mich zu einer Vermutung. Dass "Onload" den größten Gewinn bei TCP Verbindungen aus typischem TCP-Offloading bezieht und nicht so sehr daraus, dass das Ganze den (Linux) Kernel umgeht. Deswegen sparen die sich auch die Implementierung von IPv6. Wobei TCP-Offloading etwas ist, was bessere Netzwerkchips eh können.

 

[foofoobar]

@foofoobar
Nette Dinge, aber wenn man da genauer hinschaut sind das ausgesuchte Fälle, wo der Kram funktioniert. Beim Beispiel von Nginx, da geht es um HTTP, was dank der Verbreitung von HTTP Version >=2 quasi ausgestorben ist (sein sollte). Müsste Nginx noch einen TLS Handshake abwickeln, wäre das mit Abstand der kritischste Punkt und die Differenzen zwischen System mit Offloading und System ohne Offloading würde deutlich kleiner.

Weswegen ich auch "interessante Ergebnisse" formuliert habe. Und niedrige Latenzen und weniger Context Switches können durchaus einen großen Unterschied machen. Potenzial für weitere Anwendungen sehe ich auch, für beschleunigtes NVMeOF sehe ich durchaus Potenzial im SAN Bereich zu wildern.
Und die Technikpapers sind von 2015.