您的当前位置:首页 > 标签 > 近存计算AI应用
中泰证券:AI系列之存储近存计算3D DRAM,AI应用星辰大海(64页).pdf
近存计算AI应用:HBM带宽1.2TB/s,WOW 3D堆叠DRAM功耗降91%|中泰证券
中泰证券研报显示近存计算3D DRAM成AI芯片标配,HBM带宽1.2TB/s,WOW 3D堆叠DRAM功耗仅传统DRAM的9%,端侧AI催生新需求。
 2026-07-30
 券商
 64页
2张图表
数据来源:
中泰证券:AI系列之存储近存计算3D DRAM,AI应用星辰大海(64页) 查看报告
中泰证券报告深入分析近存计算3D DRAM在AI场景中的应用价值。存储带宽已成为制约算力芯片性能的核心瓶颈。HBM通过TSV+Microbump实现3D堆叠,提供1024bit位宽、1.2TB/s带宽,已成为AI训练芯片标配。WOW 3D堆叠DRAM采用混合键合工艺,IO数量达131072个(HBM仅1024个),带宽8656GB/s,功耗仅为传统DRAM的9%。端侧部署本地大模型是趋势,DeepSeek降本促进端侧AI渗透,WOW 3D堆叠DRAM高带宽、低功耗特性契合手机/PC/汽车/机器人等场景。AI应用正从云端向端侧延伸,近存计算3D DRAM需求持续扩大。

HBM——AI训练芯片标配,2025年市场超300亿美元

HBM定位在片上缓存LLC和传统DDR之间,弥补带宽缺口。HBM使用TSV和Microbump实现多层DRAM Die 3D堆叠,通过2.5D CoWoS封装与GPU集成,提供1024bit总线位宽。HBM1→HBM3E持续迭代:带宽从128GB/s提升至1.2TB/s,堆叠层数从4层增至12层,单颗容量从1GB增至36GB。HBM4规划16层堆叠,带宽1.5-2.56TB/s,容量48-64GB。

美光预计2024年HBM市场160亿美元,2025年超300亿美元,2030年超1000亿美元。竞争格局方面,2023年海力士55%、三星41%、美光3%,寡头效应强于DRAM整体(三星/海力士/美光合计96%)。云端训练卡全部使用HBM(H100/B200用HBM3E),部分推理卡也用HBM。端侧AI模型轻量化趋势下(DeepSeek蒸馏后小模型1.5B/7B/14B等),HBM在端侧的应用空间正在打开。

WOW 3D堆叠DRAM——带宽8656GB/s,功耗仅9%

WOW 3D堆叠DRAM属于近存计算,DRAM与逻辑芯片采用3D堆叠(晶圆对晶圆混合键合)。紫光国芯SeDRAM:混合键合pitch 3um,IO数量131072个(HBM3仅1024个),IO速度541Mbps(HBM3 7168Mbps),带宽8656GB/s,功耗仅为传统DRAM的9%。每GB带宽135GB/s(HBM3仅4.7GB/s)。

性能优势来自多方面:去掉PHY减少时延和功耗;IO速度慢降低功耗;3D封装传输路径短;混合键合直接铜互连电阻更小。WOW 3D堆叠DRAM是高度定制化产品(DRAM面积、堆叠层数可定制),1颗计算芯片配套1颗DRAM(1:1),容量拓展性不如HBM(1:N)。紫光国芯2020年量产SeDRAM,爱普存储2021年发布VHM方案,芯盟科技2022年宣布HITOC方案。矿机市场率先落地,中科声龙茉莉X4芯片采用3D堆叠DRAM,65MH/s处理能力仅功耗23W(显卡150W以上)。

端侧AI——WOW 3D堆叠DRAM的新增长极

端侧部署本地大模型是趋势,兼具高隐私性、安全性、可靠性和个性化服务优势。DeepSeek全开源,模型可蒸馏(1.5B/7B/14B/32B/70B小模型),降低了模型部署在手机/PC等端侧的难度。但使用传统存储器仍面临带宽瓶颈,影响用户体验(延时、响应速度)。

WOW 3D堆叠DRAM存储容量可定制,超高带宽、低功耗性能契合端侧场景,潜在应用包括AI手机、AI PC、汽车、机器人等。华邦CUBE方案定位边缘计算(2023年发布),SoC在上、DRAM在下(3D封装,散热更好),带宽32GB/s-256GB/s(最高1TB/s),功耗低于1pJ/bit,基于20nm制程,适用于边缘AI设备。
近存计算3D DRAM性能对比
类型带宽功耗(相对值)IO数量应用场景
HBM3E1.2TB/s53%1024云端训练/推理
WOW 3D堆叠DRAM8656GB/s9%131072端侧AI/矿机
华邦CUBE1TB/s<1pJ/bit4096边缘AI
客服
商务合作
小程序
服务号
折叠