华为昇腾910C完成训练国产算力硬气了,华为昇腾910C集群把一点六万亿参数大模型后训练硬啃了下来,打破了国产芯片只能做推理的刻板印象
纯国产千卡集群跑了1500步零报错,跨卡通信和显存拆分全搞定,虽说不是原始预训练,但含金量懂行的都懂
虽说单卡和生态跟顶尖还有差距,但自主可控的工业路径算是跑通了,接下来还要冲超长上下文,这路是越走越宽了

华为昇腾910C完成训练国产算力硬气了,华为昇腾910C集群把一点六万亿参数大模型后训练硬啃了下来,打破了国产芯片只能做推理的刻板印象
纯国产千卡集群跑了1500步零报错,跨卡通信和显存拆分全搞定,虽说不是原始预训练,但含金量懂行的都懂
虽说单卡和生态跟顶尖还有差距,但自主可控的工业路径算是跑通了,接下来还要冲超长上下文,这路是越走越宽了
