DC娱乐网

AI 越聪明,芯片越「搬不动」 Roy K. 等发表 Lead Article,

AI 越聪明,芯片越「搬不动」
Roy K. 等发表 Lead Article,以自主无人机导航为贯穿案例,系统梳理突破内存墙的三条路径。

🧱 问题定义
冯·诺依曼架构计算与存储分离,权重与激活在存储层级间反复搬运。原文口径是数据搬运占据「能耗与时延的大部分」——注意,全文并未给出统一倍数。
规模侧量级:过去 4 年 NLP 模型规模增长约 5000 倍(ELMo 94M / 2018 → Megatron-Turing NLG 530B / 2022)。
⚙️ 路径一:存内计算(CIM)
按 SRAM / DRAM / Flash / eNVM 分层讨论,模拟与数字两条实现路线并行。
关键瓶颈是 ADC:在 SRAM 模拟 CIM 中,ADC 单独消耗约 60% 能耗、占据近 80% 面积(PUMA 案例中全精度 ADC 占面积 >80%、能耗 >50%)。
有个反差值得记:eNVM-CIM 的系统级数据密度 0.49–1.31 Mbit/mm²,反而低于数字 NVM 系统的 1.92–2.80 Mbit/mm²。单点能效(76.5 TOPS/W @INT8、30.6 mm²、4 MB 片上 NVM)与系统密度,不是同一件事。
🧠 路径二:事件驱动与 SNN
光流估计任务上的可核查结果:
· Adaptive-SpikeNet:0.27M 参数(vs 13M),性能相近时能耗约低 10×;同规模下误差约低 20%
· Spike-FlowNet(SNN–ANN 混合):能耗低 1.21×
· Fusion-FlowNet(传感器融合,7.55M 参数):误差低 40%,能耗降 1.87×
边界:以上均为任务特定结果,不能外推为「SNN 普遍更省电」。脉冲不可直接求导、深层信号衰减仍是训练难点,密集视觉任务上 ANN 仍占优——作者主张混合而非替代。
🎲 路径三:随机硬件
利用算法本身的误差容忍度。SOT-MTJ 以势垒高度调控行为:>40 kBT 时保持时间约 7 年(可作非易失存储);<15 kBT 时由热噪声主导随机翻转、切换时间在毫秒量级,可模拟 STDP。
代价:需跨器件、温度、工艺批次验证学习稳定性;过度随机直接损伤精度。