如今AI算力与日俱增,但是一直存在诸多制约,其中很严重的一点就是“内存墙”,也就是内存带宽提升的速度远远跟不上算力需求,即便是HBM高带宽内存也经常力不从心,而且HBM的发热越来越严重。
高通在投资者日上公开了新的高带宽计算近内存架构“HBC”,尝试突破内存墙,从而让特定AI负载实现性能的线性提升。
HBC内存架构其实并不复杂:它将AI加速器从SoC系统芯片中单独拿出来,堆叠在LPDDR内存堆栈之下,彼此通过TSV硅通孔直连。
这么做可以将延迟降低到SRAM级别,还能获得堆叠内存的高密度、大容量,又避开了HBM内存复杂的封装工艺、高昂的设计成本、巨大的功耗发热,比如不需要硅中介层。
当然了,绝对带宽、容量肯定不如HBM,高通也没有公布具体数值,只是说单位功耗带宽是HBM的5-7倍,容量是片上SRAM的200倍以上。有点东西

