高通Hexagon NPU技术解析：为下一代AI智能体赋能

发布背景与核心特性

• 9月11日消息，高通在其官网介绍了全新一代NPU，即Hexagon NPU，这款NPU专为下一代AI智能体打造。

• 据悉，高通第六代骁龙8至尊版系列引入了全新的Hexagon NPU和两项关键特性，包括全新Element Accelerator和更大的共享内存系统。

Element Accelerator功能

• Element Accelerator专为赋能当今生成式AI和智能体AI的Transformer工作负载而打造。

• 结合向量计算单元和标量计算单元，它能够加速大模型中最关键的运算，帮助智能体更快地响应、更高效地推理，并在保证移动端能效的前提下，提供更丰富的体验。

共享内存扩展

• 同样重要的是，Hexagon NPU大幅扩展了大容量共享内存。

• 通过让多模型状态、上下文信息和KV-cache数据存储在更靠近加速器的位置，该平台能够缓解内存瓶颈，让智能体在处理更长上下文、调用更多工具以及执行更多并发任务时，始终保持流畅响应。

协同架构与模型适配

• 上述技术创新共同定义了新一代Hexagon NPU的角色，即直接在终端侧运行更多智能体AI体验。

• Element Accelerator、向量与标量扩展单元和更大的共享内存，组成一套协同架构，助力NPU加速Transformer工作负载、处理控制逻辑复杂的智能体任务。

• 并将更多上下文数据保留在靠近计算单元的位置。

• 值得注意的是，Hexagon NPU同样面向下一代模型架构而打造。

混合专家模型合作

• 高通表示，公司正与领先的内存和模型厂商合作，引入混合专家模型（Mixture-of-Experts，MoE）构建新一代终端侧AI架构。

• 这意味着一个300亿参数的MoE模型在保持数百亿参数可用的同时，在NPU上每次生成一个词元仅需激活约30亿个被路由选中的参数。

• 与每次推理都需要更大部分网络参与的密集模型不同，MoE会根据输入动态选择专用专家网络，从而减少实际计算负载和内存带宽需求。

• 结合智能的专家模块闪存到内存加载管理机制与缓存技术，这种方法能够以低功耗和低内存需求的方式实现更大模型级别的AI体验，为智能手机带来响应迅速且注重隐私保护的生成式AI。

• 混合专家模型通过选择性激活专用专家网络，能够提升效率和质量，无需每次请求都调用整个模型。高通