DC娱乐网

AI超节点爆发,算力大发展 AI算力大爆发,超节点成为产业刚需,未来国产算力正

AI超节点爆发,算力大发展

AI算力大爆发,超节点成为产业刚需,未来国产算力正式迈入“十万卡”时代。

1、AI超节点爆发:超大带宽、超低时延

超节点,是通过高速互联技术将成百上千颗AI加速芯片紧密耦合,使其如同一台超级计算机般协同工作,具备统一内存编址、超大带宽、超低时延三大核心特征。

传统集群是一堆独立服务器用普通以太网连接,跨机通信延迟高,芯片之间不能直接访问对方显存。规模越大,算力利用率越低。

而超节点是柜内或跨柜的芯片直连,共享内存,芯片之间可以直接读写显存,大幅消除 “通信墙”,适合万亿参数大模型训练、超长上下文推理。

2、三大推力,超节点成为产业刚需

一是大模型升级倒逼算力通信革新。现在亿Kimi K3为代表的大模型参数破万亿,涉及超长上下文推理,需海量通信,传统集群通信延迟,算力利用率不足30%。超节点架构可将算力利用率提升至70%-90%,超节点的低时延互联,已成为降低单Token使用成本的关键。

二是单芯片性能提升有瓶颈。先进制程迭代成本高、速度放缓,仅依靠升级单卡算力的发展模式已触顶。行业逻辑不再局限于单芯片比拼,核心竞争点转向系统集成能力、互联传输效率、整机解决方案的综合力。

三是超节点是国产算力差异化追赶路径。国产AI芯片单卡绝对性能仍存在差距,用超节点开展系统架构优化,通过集群协同模式弥补单卡性能短板,实现国产AI自主可控。未来大型AI集群,将更多转向超节点集群交付。

3、世界人工智能大会国产厂商推出超节点方案,未来是“十万卡”时代

华为昇腾首次展出Atlas 950超节点真机,支持1024卡全域互联,为业内最大规模、斩获大会SAIL荣誉奖;百度推出天池256超节点;阿里云发布灵骏真武M890,对外提供公有云超节点算力;壁仞、摩尔线程、沐曦、燧原多款超节点产品集中亮相。中科曙光展出全国产十万卡AI超集群曙光8000。

未来算力竞争格局是:从单卡性能转向超节点技术实力。未来我国AI基础设施建设迈入 “十万卡时代”。

2024年9月预测“信心牛=政策牛+科技牛+水牛”。今年1月我从美国考察回来提醒:AI不是风口,是海啸,远超三十年前的IT互联网革命,AI的背后是算力。

相信AI科技的前途是光明的,我国发展新质生产力的战略是坚定不移的,对未来充满信心。AI浪潮是第四次科技革命,是长期趋势。

市场有风险,投资需谨慎。以上仅为研究观点,并非投资建议。不要加杠杆,坚持长期主义。

23日晚7点,视频号“任泽平宏观”直播。