三星展示下一代3D内存架构,AI芯片正在从平面走向立体
三星在 FMS 2026 大会上展示了下一代 3D 内存架构 zHBM 和 zNAND-O,同时首次公开超过 400 层的 V10 BV-NAND。三项技术看似分别属于 HBM、NAND 和闪存制造,背后指向的其实是同一个问题:当 AI 芯片的计算能力越来越强,怎样才能让数据更快、更省电地抵达计算核心。
今天的 AI 加速器就像一个计算速度极快、数据需求极大的大脑。GPU 可以在极短时间内完成海量运算,但如果模型参数和训练数据无法及时送达,再强的计算单元也会陷入等待。过去几年,行业不断增加 GPU 数量,提高制程和算力,内存带宽、数据搬运功耗以及封装面积却逐渐成为新的限制。AI 系统消耗的大量能源,其实花在了芯片之间来回移动数据上。
zHBM 正是三星针对这一瓶颈提出的新架构。当前主流 HBM 通常放置在 AI 加速器周围,通过硅中介层和先进封装实现高速连接。三星提出的 zHBM 将 HBM 直接垂直堆叠在 AI 加速器上方,让计算核心和内存从平面相邻走向立体融合。数据无需在封装内部长距离横向传输,可以通过密集的垂直互连直接抵达计算单元。
这个变化看起来只是把内存从旁边搬到了上方,实际改变了 AI 芯片的组织方式。平面封装受到面积、线路长度和信号完整性的限制,垂直堆叠可以在更小空间内建立更多连接,同时缩短数据路径。三星预计,采用下一代接口的 zHBM 系统,性能可达到 HBM5 的约 8 倍,能效提升约 3 倍,热阻降低一半以上。借助下一代晶圆键合技术,其内存密度还有望超过 HBM5 的 10 倍。
这些数字目前仍属于面向未来架构的设计目标,真正重要的地方,在于三星试图重新定义计算与内存之间的关系。随着大模型参数继续增长,依靠增加 GPU 和 HBM 数量来扩展算力,会带来更高的互连成本、功耗和系统复杂度。假如单颗 AI 加速器能够直接获得容量更大、带宽更高的垂直内存,过去需要多个芯片协同完成的任务,未来有机会集中到更少的芯片中。
zHBM 还有一个容易被忽略的设计。三星允许客户在内存与 AI 加速器之间的中间层集成定制 IP。这一层可以承担数据压缩、缓存管理、模型调度、访问控制,甚至部分计算任务。未来的 AI 芯片有可能形成计算层、数据管理层和内存层共同协作的结构,数据在进入计算核心之前,就已经完成整理、筛选和调度。
这意味着内存的角色正在发生变化。它不再只是被动存放数据的容器,而会逐渐参与整个计算过程。对于 AI 系统来说,真正重要的指标也不再局限于每秒能够完成多少次运算,还包括数据能够以多快的速度被调用,以及搬运这些数据需要消耗多少能源。
三星展示的 zNAND-O 则面向边缘 AI。未来的大模型不会全部运行在云端,手机、电脑、汽车和机器人都会在本地处理越来越复杂的任务。此时,设备需要的不只是容量巨大的存储空间,还需要更快的模型加载速度、更低的访问延迟和更高的空间效率。
zNAND-O 基于三星 V-NAND 技术开发,并规划四层和八层堆叠版本。通过三维结构和高速互连,它希望填补传统 NAND 与高速内存之间的性能空白。手机调用本地模型、汽车读取感知数据、机器人实时完成决策,都需要从存储中快速提取大量信息。NAND 的速度每提升一步,都会直接影响终端 AI 的响应能力和功耗表现。
同时亮相的 V10 BV-NAND,则代表三星继续向更高密度闪存推进。它拥有超过 400 层的存储结构,并首次引入全新的 Bonding V-NAND 架构。三星表示,其存储密度相比 V9 提升约 58%,读写和输入输出性能也得到增强。
当 NAND 层数超过数百层,继续在同一块晶圆上制造越来越高的结构,会面临刻蚀、应力、形变和良率等一系列难题。晶圆键合提供了新的解决路径。存储单元和外围控制电路可以分别制造,再通过高精度键合组合在一起。不同部分能够采用更适合自己的工艺,同时释放更多面积用于提高存储密度。
从 zHBM 到 zNAND-O,再到 V10 BV-NAND,三星展示的是一套完整的 AI 数据架构。zHBM 负责向计算核心高速提供数据,zNAND-O 负责提升边缘设备调用模型的速度,V10 BV-NAND 则承担更高密度的大容量存储。晶圆代工和先进封装负责把这些技术整合进同一套系统。
这也是三星强调“一站式交钥匙方案”的原因。三星同时拥有 DRAM、NAND、晶圆代工和先进封装能力,可以从内存、逻辑芯片制造一直覆盖到最终封装。在当前高度分工的 AI 半导体产业中,这种垂直整合能力具有特殊价值,因为算力、带宽、功耗和散热需要在设计初期就进行协同优化。
当然,zHBM 目前仍处于概念展示阶段。垂直堆叠还要面对散热、良率、成本和生态适配等挑战。AI 加速器本身就是高热源,在其上方继续堆叠高容量内存,对材料、互连、封装和散热设计都提出了极高要求。
不过,三星传递的方向已经十分清晰。随着先进制程逐渐逼近物理和经济极限,半导体性能的提升将越来越依赖三维集成。计算、内存和存储会从彼此分离的器件,逐渐变成一个垂直协同的整体。
未来决定 AI 芯片上限的,不只是多少个计算核心,也包括数据距离计算核心究竟有多近。三星这次展示的核心,就是试图把这段距离压缩到极限。