【中科曙光发布Token加速技术体系,IBGDA技术国内首次规模落地】大模型竞争进入深水区,Token效率正成为衡量AI系统实力的新标尺。中科曙光近日发布Token加速技术体系。该体系以scaleFabric原生无损RDMA为核心网络传输底座,构建算-存-传三级紧耦合的Token加速超级通道。其中,支持GPU直通网络的IBGDA技术实现在国内的首次规模化落地。scaleFabric通过构建“算存传”三级紧耦合的Token加速通道,在网络层面和计算、存储紧密协同,加速token吞吐效率,实现 Token在大模型训练、推理到存储复用全链路的高速流转。目前,scaleFabric已经完成与DeepEP等通信框架的适配,进一步完善了scaleFabric面向大模型的软件生态,推动IBGDA融入现有应用环境,加快相关技术走向业务应用。随着IBGDA进入规模化部署阶段,基于scaleFabric的Token加速技术体系有望进一步提升多卡之间的数据交换效率,为国产智算基础设施通过系统优化提升整体性能提供有力支撑。(记者 刘亮)
