DC娱乐网

毫秒级决胜!海光算力体系守住AI通话实时底线 海光信息联合飞虎互动、网易有道推

毫秒级决胜!海光算力体系守住AI通话实时底线

海光信息联合飞虎互动、网易有道推出的Flybot大模型电话机器人一体机联合解决方案在圈内反响挺大,研究了一通,个人感觉技术上有个很实在的亮点:它不是简单塞一张AI卡就完事,而是用CPU+DCU协同算力扛住了一通电话背后的全部链路。

拆解一下你就知道这事多复杂——用户说话进来,ASR实时语音识别,大模型要在一两秒内理解意图、调动Agent做业务决策,再把结果通过TTS合成语音播出去。同时,Agent还得跟企业CRM、工单系统对接,完成信息查询、诊断排障甚至履约流转。整条链路几百毫秒内必须跑完,因为电话里延迟超过2秒,对方就可能挂断。

为什么需要海光CPU+DCU协同?CPU处理器负责系统调度和数据预处理,相当于总指挥;DCU覆盖全精度计算,转为AI训练、高性能等计算密集型任务设计;而且兼容全球主流AI生态架构,已Day0适配400余款主流大模型。实测推理延迟较同类国产方案显著降低——这对电话场景至关重要,机器人反应够快,客户才愿意继续聊下去。CPU管调度、DCU管计算,各司其职,才能让大模型在电话里既听得懂、说得顺,还能把事儿办了。

海光信息 CPU