DeepSeek这次开源的组件里,有一个叫DeepEP的通信库。官方给的数据是,互联带宽实测达到了Dispatch 375 GB/s、Combine 347 GB/s,接近硬件上限。
哎,这个数据是什么意思呢?我用大白话解释一下。
AI训练不是一颗芯片在干活,是几万颗芯片一起干。芯片之间要不停交换数据。如果通信速度跟不上,芯片就得干等着,再多芯片堆在一起也没用。
所以通信效率直接决定了大规模训练能不能跑起来。
“接近硬件上限”的意思是:芯片理论上有这个能力,但以前软件发挥不出来。现在这套通信库把芯片的潜力压榨到了极限。数据在芯片之间跑得飞快,大家不用互相等。
DeepSeek和某为团队一起,基于昇腾950的128卡超节点方案做了深度调优。两边工程师配合,把通信链路一层层优化到了接近理论极限。
说白了,芯片之间的“路”修好了,“车”就能跑起来了。

