AI算力赛道洗牌,比拼重点彻底换道!
在CNCC会场听完中科曙光的分享,能明显感受到算力行业风向已经发生质变。过去行业聊A算力基建,大家开口闭口比拼GPU数量。现在随着大模型、智能体落地,行业已经告别野蛮堆卡时代,系统协同能力成为新的胜负手。
中科曙光李斌在现场提到,集群正向十万卡、百万卡规模演进,大规模高通量推理,才是适配Token时代的核心方向。规模上来之后,网络复杂度、数据流转、故障风险全部成倍放大,只靠单一硬件突破很难发挥全部性能。
中科曙光给出了硬核的解法,现场展示了整套面向Token经济的智算方案。scaleX40无线缆超节点减少故障,让集群更稳;全新发布的FabricView平台与scaleFabric高速网络配套,将高速互连与网络运行管理相结合。PD分离拆分推理流程灵活分配资源,ParaCache构建L4KVCache池,大大减轻显存压力,Token吞吐性能提升15~25倍,64K上下文并发数提升16倍。
硬件只是底座,真正的难点在于软硬协同调优,把硬件峰值转化为稳定可用的AI服务能力。个人判断,未来AI算力竞争,算存网软件一体化的全栈工程能力,才是拉开差距的核心。
