Derzeit gibt es von Habana Labs zwei KI-Beschleuniger, den Gaudi für Training und den Goya für Inferencing, beide Chips werden beim taiwanischen Auftragsfertiger TSMC im 16-nm-Verfahren hergestellt.
Der Gaudi nutzt sogenannte Tensor Processing Cores (TPCs), genauer VLIW-Vektoreinheiten, und ist mit 32 GByte HMB2-Speicher ausgestattet um möglichst viele Daten lokal vorhalten zu können, verbunden wird er per PCIe Gen4 x16. Der Gaudi kann mit typischen Formaten wie FP32, INT8, INT8 und BF16 umgehen - vorerst ist er nur als Sample verfügbar.
Der Goya wiederum ist als PCIe-Gen4-x16-Steckkarte mit 200 Watt thermischer Verlustleistung bereits verfügbar. Hier kommen ebenfalls TPCs zum Einsatz, die jedoch kein BF16 beherrschen. Als Inferencing-Beschleuniger reichen dem Goya seine 16 GByte DDR4-Speicher mit 128-Bit-Interface.
) Chips zu haben. Da wird sie Luft immer dünner und ein echter Ausweg aus der aktuellen Lage ist nicht wirklich in Sicht. Also lieber noch schnell die Marke retten und sich auf ein Geschäftsfeld fokussieren wo man nicht vom winzigem Konkurrenten vorgeführt wird.
?
