DC娱乐网

假设 NVIDIA 手里只有 1000GB HBM。 如果每张 GPU 装 400GB,只够做 2.5 张卡,如果每张只装 200GB,就能做 5 张卡。 所以 NVIDIA 考虑降低单卡 HBM,主要还是HBM 太紧缺、太贵,供应跟不上 NVIDIA 的 GPU 出货速度。 下图展示了每颗 AI 加速器配多少 HBM 高带宽内存 AMD MI455X:432GB NVIDIA Rub ​

假设 NVIDIA 手里只有 1000GB HBM。

如果每张 GPU 装 400GB,只够做 2.5 张卡,如果每张只装 200GB,就能做 5 张卡。

所以 NVIDIA 考虑降低单卡 HBM,主要还是HBM 太紧缺、太贵,供应跟不上 NVIDIA 的 GPU 出货速度。

下图展示了每颗 AI 加速器配多少 HBM 高带宽内存

AMD MI455X:432GBNVIDIA Rubin:288GBNVIDIA Rubin Ultra:原本想上更大的配置,但现在评估 192~288GBGoogle Ironwood:192GB