清华“赤兔”推理引擎开源,打破AI算力硬件垄断 中国科技崛起彰显底层创新实力,
清华“赤兔”推理引擎开源,打破AI算力硬件垄断
中国科技崛起彰显底层创新实力,在AI算力核心软件领域,清华大学攻克关键技术,打破海外硬件垄断格局
清华高性能计算研究所联合清程极智,正式开源大模型推理引擎“赤兔Chitu”,全球首次实现非英伟达Hopper架构GPU与国产芯片上原生运行FP8精度模型,彻底摆脱对特定硬件的依赖
赤兔引擎采用动态调度与异构协同技术,推理吞吐量提升2.5倍,时延降低40%,兼容昇腾、海光、寒武纪等国产算力芯片,推动国产硬件规模化接入AI生态
长期以来,AI推理引擎被海外企业垄断,成为制约中国AI发展的卡脖子环节
赤兔的开源,不仅填补国内技术空白,更构建起“国产芯片+国产引擎”的完整算力底座,降低数据中心建设成本,保障国家AI基础设施安全
阅读:2
点赞:0