3月25日，由于SK海力士部分工程出现问题，英伟达所需12层HBM3E内存，将由三星独家供货，SK海力士出局！
3月22日，韩美半导体宣布已收到SK海力士215亿韩元（约1610万美元）的人工智能半导体HBM第三代超级型号“DUAL TC BONDER GRIFFIN”设备订单。
近期，SK海力士副社长Kim Ki-tae表示，2024年公司HBM售罄，已开始为2025年做准备。美光科技CEO Sanjay Mehrotra也对外透露，用于开发复杂AI应用的HBM2024年已全部售罄，2025年的大部分供应已分配完毕。
随着人工智能赛道持续爆发，AI芯片需求日益暴涨。在这一浪潮中，芯片巨头英伟达业绩持续飙升，不但造就了GPU的繁荣，更使得作为关键器件的HBM热度高居不下，价格“逆势暴涨，供不应求，竞争愈演愈烈。
正因如此，业界专家表示在人工智能计算系统领域，目前没有其它内存芯片可以取代HBM，Timothy Prickett Morgan更是指出“谁掌控了HBM，就掌握了AI训练”。
HBM存储AI时代
无可取代价格疯狂飙升
HBM一款新型CPU/GPU内存芯片，以其独特的高带宽内存设计，完美契合了大模型时代对高算力和大存储的迫切需求。在众多存储芯片中，HBM被公认为“最适用于AI训练、推理的存储芯片”。
图片来源：SK海力士官网
HBM通过使用先进的封装方法（如TSV硅通孔技术）垂直堆叠多个DRAM，与GPU通过中介层互联封装在一起，在较小的物理空间里实现高容量、高带宽、低延时与低功耗，已成为数据中心新一代内存解决方案。
数据来源：AMD、东方证券研究所
其中HBM在带宽、功耗、封装体积方面具备明显优势。
按照不同应用场景，JEDEC将DRAM分为三个类型：标准DDR、移动DDR以及图形DDR。其中图形DDR涵盖GDDR和HBM，相较于标准DDR4、DDR5，以GDDR和HBM为代表的图形DDR拥有更高的带宽，且HBM在实现更大带宽的同时也具备更小的功耗和封装尺寸。
数据来源：与非网、东方证券研究所
主流数据中心GPU均采用HBM技术，英伟达V100、A100、H100系列与AMD MI100、MI200、MI300系列均应用HBM内存，HBM在数据中心GPU中逐渐占据核心地位。
数据来源：与非网、奎芯科技、东方证券研究所
HBM每一次更新迭代都会伴随着处理速度的提高。目前HBM产品以HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代）的顺序开发，最新HBM3E是HBM3的扩展版本。
数据来源：山西证券
据Yole Group于2月8日发布，2024年HBM芯片平均售价为传统DRAM内存芯片的五倍。2023年至2028年，HBM供应的年复合增长率将达到45%，而HBM价格预计在相当长一段时间内将保持高位。
寡头垄断
HBM3e市场彻底被引爆
目前，HBM市场格局集中，SK海力士占据主导地位。据Trendforce数据，2023年SK海力士市占率预计为53%，三星市占率38%，美光市占率9%。
数据来源:TrendForce，信达证券研发中心
2024年2月26日，美光宣布已开始批量生产HBM3E解决方案，其中24GB 8-High HBM3E将成为NVIDIA H200 Tensor Core GPU的一部分，将于 2024 年第二季度开始发货，36GB 12-High HBM3E样品将提供超过1.2 TB/s的性能；
2024年2月27日，三星发布首款36GB HBM3E 12H DRAM，为三星目前为止容量最大的HBM产品，前已开始向客户提供HBM3E 12H样品，预计于今年下半年开始大规模量产；
2024年1月中旬，SK海力士正式结束HBM3E的开发工作，并顺利完成英伟达历时半年的性能评估，计划于3月开始大规模生产HBM3E产品，将用于英伟达下一代Blackwell系列的AI芯片旗舰产品B100上，英伟达则计划于2024年第二季度末或第三季度初推出该系列产品。
图表来源：全球半导体观察制表
据TrendForce集邦咨询预计，以规格而言，HBM主流将在2024年移转至HBM3与HBM3E，而HBM412hi有望于2026年推出，HBM416hi产品预计2027年问世。
厂商涌入HBM赛道
国产HBM有望突破
随着HBM关注度不断扩大，国内众多大算力芯片创业公司纷纷采用HBM，满足日益增长的计算需求。然而随着国内HBM用量不断提升，业界普遍对HBM供应的“卡脖子”问题表示担忧，因此解决HBM供应问题，确保产业链的自主可控，成为当前亟待解决的重要课题。
目前国产HBM主要面临以下的困难：
制程差距，三星/海力士HBM采用领先制程1b工艺（12~10nm），而国内DRAM制程尚停留在19nm，且受美国禁令限制，18nm以下技术全面被封锁。即使寻求海外代工，如台湾力晶其主流工艺为25nm，21/19nm正在推进，与三星/海力士仍有几代的差距。
封装差距，目前标准HBM主要采用台积电的CoWoS 2.5D封装技术，产能紧张。国内企业在积极追赶相关工艺，但整体与海外仍存在一定差距。
如今，在市场需求推动下，HBM领域主要供应商SK海力士、三星和美光科技等国际大厂纷纷加大产能扩张力度，而部分国内厂商也正打入海外存储/HBM供应链，国产HBM正处于0到1的突破期。
目前国内涉及HBM产业链的公司主要包括雅克科技、中微公司、和拓荆科技等公司。
HBM工艺，拓荆科技为国内主要的ALD供应商之一，公司PEALD产品用于沉积SiO2、SiN等介质薄膜，在客户端验证中都取得了令人满意的结果；
TSV技术（硅通孔技术），中微公司为TSV设备的主要供应商，硅通孔技术是实现2.5D和3D先进封装的关键；
武汉新芯就HBM封装技术招标，拟实现月产能超过3000片12英寸晶圆；
2023年8月，华邦电介绍其类HBM高带宽产品CUBEx，采用1~4层TSVDRAM堆叠，I/O速度500M~2Gbps，总带宽最高可达1024GB/s，颗粒容量为0.5~4GB，功耗低至不足1pJ/bit，比常规HBM拥有更高带宽的CUBEx可用于AR、VR、可穿戴等领域。
数据来源：华邦电，中信建投
以下为HBM产业链梳理：
在生成式AI大模型等前沿领域的强劲驱动下，HBM产业正迅速崭露头角。这一积极的市场信号吸引了众多企业和投资者的目光，大家纷纷瞄准HBM领域积极布局，希望能够在这个新兴市场中分得一杯羹。
一场关于HBM市场的争夺战已经悄然打响，各方都在积极寻求创新突破，以期迅速抓住市场新机遇，实现自身的跨越式发展。
