端侧AI的瓶颈不在算力,而在内存。东吴证券研报指出,7B半精度模型仅参数加载入DRAM就超过14GB,而DRAM耗能比SRAM高两个数量级(6400pJ vs 550pJ),比计算操作高约1700倍。苹果当前iPhone DRAM仅8GB,远低于安卓旗舰的24GB,提升空间巨大。苹果正与三星合作研发独立封装LPDDR DRAM,并计划2026年转向WMCM多芯片封装。内存,正在成为端侧AI硬件变革的核心战场。
内存——端侧AI推理能力的核心短板
模型参数加载入DRAM的空间需求远超预期。7B半精度模型参数加载入DRAM需超过14GB,但DRAM需与系统和其它应用共享,单个应用程序不应超过DRAM的10%。微软Phi-3-mini(3.8B参数)在4bits量化下仍需占用1.8GB DRAM。SRAM缓存通常在20MB,仅能容纳一个Transformer块,Flash容量足够但速度较慢。
能耗数据更为震撼。在相同精度下,DRAM耗能6400pJ,比SRAM耗能550pJ高两个数量级(约11.6倍),比32位浮点乘法计算3.7pJ高约1700倍。每10亿参数生成1 token需耗能0.1J,满电iPhone约50KJ,以10Token/s速度仅支持7B模型运行不到2小时。内存读取是主要的耗能项,能耗增加同时带来散热问题突出。
能耗数据更为震撼。在相同精度下,DRAM耗能6400pJ,比SRAM耗能550pJ高两个数量级(约11.6倍),比32位浮点乘法计算3.7pJ高约1700倍。每10亿参数生成1 token需耗能0.1J,满电iPhone约50KJ,以10Token/s速度仅支持7B模型运行不到2小时。内存读取是主要的耗能项,能耗增加同时带来散热问题突出。
安卓与iOS内存利用效率——生态差异显著
相同App在iOS的内存占用远低于安卓。Acrobat Reader iOS占用117MB vs 安卓390MB;Booking.com 73MB vs 330MB;Gmail 190MB vs 259MB;YouTube 176MB vs 282MB;Twitter 100MB vs 366MB。主要原因是安卓为消除硬件差异性,代码运行在虚拟机中需编译为中间语言,而iOS则是原生编写。
游戏内存占用差异较小——因游戏引擎均为原生编写。但在国内安卓生态中,各App为保活留存后台、集成功能等进一步增加了内存占用。这一生态差异意味着:安卓需要在OS层提供统一的AI基础模型以减少重复加载,而iOS在模型压缩之外,需要提高硬件内存以克服单个功能占用大量内存的硬件瓶颈。
游戏内存占用差异较小——因游戏引擎均为原生编写。但在国内安卓生态中,各App为保活留存后台、集成功能等进一步增加了内存占用。这一生态差异意味着:安卓需要在OS层提供统一的AI基础模型以减少重复加载,而iOS在模型压缩之外,需要提高硬件内存以克服单个功能占用大量内存的硬件瓶颈。
苹果硬件积极应变——内存创新集中突破
苹果在内存容量上较安卓差距明显。最新iPhone DRAM仅为8GB,安卓旗舰最高24GB,差距达3倍。苹果A18 Pro NPU算力35 TOPS,高通骁龙8至尊版NPU算力80 TOPS。苹果设备功耗极限潜力虽高但受限于散热无法全部发挥。iPhone 16 Pro Max电池4685mAh,小米15 Pro为6100mAh,苹果增加电池容量的空间巨大。
苹果正从多个维度突破内存瓶颈。第一,与三星合作研发独立封装LPDDR DRAM,改变2010年起沿用至今的堆叠式封装(PoP)方案。PoP技术下内存直接叠在SoC上,端侧AI负载下带宽和散热问题严重。分开封装可增加I/O引脚数量,提高数据传输速率并改善散热性能。第二,尝试在DRAM中应用LPDDR6-PIM(内存内置存储器)技术,数据传输速度和带宽是LPDDR5X的两到三倍。第三,预计2026年从InFO封装改为WMCM封装方式,将CPU、GPU、DRAM、NPU等多芯片灵活排列集成在同一封装中,减少信号延迟和干扰。
苹果正从多个维度突破内存瓶颈。第一,与三星合作研发独立封装LPDDR DRAM,改变2010年起沿用至今的堆叠式封装(PoP)方案。PoP技术下内存直接叠在SoC上,端侧AI负载下带宽和散热问题严重。分开封装可增加I/O引脚数量,提高数据传输速率并改善散热性能。第二,尝试在DRAM中应用LPDDR6-PIM(内存内置存储器)技术,数据传输速度和带宽是LPDDR5X的两到三倍。第三,预计2026年从InFO封装改为WMCM封装方式,将CPU、GPU、DRAM、NPU等多芯片灵活排列集成在同一封装中,减少信号延迟和干扰。
内存架构变革的产业链机遇
端侧AI内存升级将带动多条产业链机会。第一,独立封装DRAM增加I/O引脚数量,对封装基板和测试设备提出更高要求。第二,WMCM多芯片封装推动先进封装设备需求,包括晶圆级封装设备、测试设备和材料供应商。第三,LPDDR6-PIM技术引入计算存储一体化理念,对存储芯片设计提出新要求,国内存储芯片厂商有望受益于存储与计算融合趋势。
内存容量提升也是确定性方向。苹果若将DRAM从8GB提升至12GB或16GB,将直接拉动DRAM芯片采购量。国内消费电子品牌厂商紧随苹果和三星的硬件升级路径,同样面临内存容量和封装技术的升级需求。端侧AI的普及将推动手机、PC、可穿戴设备等终端的内存配置普遍提升,形成对存储芯片和封装产业链的持续性需求拉动。
内存容量提升也是确定性方向。苹果若将DRAM从8GB提升至12GB或16GB,将直接拉动DRAM芯片采购量。国内消费电子品牌厂商紧随苹果和三星的硬件升级路径,同样面临内存容量和封装技术的升级需求。端侧AI的普及将推动手机、PC、可穿戴设备等终端的内存配置普遍提升,形成对存储芯片和封装产业链的持续性需求拉动。
| 芯片型号 | 厂商 | 工艺制程 | NPU算力 | 存储最高容量 | 代表机型 |
|---|---|---|---|---|---|
| 骁龙8至尊版 | 高通 | 3nm | 80 TOPS | 24GB LPDDR5X-5300 | 小米15系列 |
| 天玑9400 | 联发科 | 3nm | - | 24GB LPDDR5X-10667 | vivo X200系列 |
| A18 Pro | 苹果 | 3nm | 35 TOPS | 8GB LPDDR5X-7500 | iPhone 16 Pro |
| A17 Pro | 苹果 | 3nm | 35 TOPS | 8GB LPDDR5-6400 | iPhone 15 Pro |
点击阅读报告原文:
最新报告
中英对照
全文搜索
报告精选
PDF上传翻译
多格式文档互转
入驻&报告售卖
会员权益
机构报告
券商研报
财报库
专题合集
英文报告
数据图表
会议报告
其他资源
新质生产力
DeepSeek
低空经济
大模型
AI Agent
AI Infra
具身智能
自动驾驶
宠物
银发经济
人形机器人
企业出海
算力
微短剧
薪酬
白皮书
创新药
行业分析
个股研究
年报财报
IPO招股书
会议纪要
宏观策略
政策法规
其他
人工智能
信息科技
互联网
消费经济
汽车交通
电商零售
传媒娱乐
医疗健康
投资金融
能源环境
地产建筑
传统产业
英文报告
其它
行业聚焦
芯片产业
热点概念
全球咨询智库
人工智能
500强
新质生产力
会议峰会
新能源汽车
企业年报
互联网
公司研究
行业综观
消费教育
科技通信
医药健康
人力资源
投资金融
汽车产业
物流地产
电子商务
传统产业
传媒营销
其它
十五五规划系列报告合集(共50套打包)
2026年宠物经济/它经济报告合集(共46套打包)
AI、科技与通信
广告、传媒与营销
消费、零售与支付
HR、文化与旅游
金融、保险与投资
能源、环境与工业
医疗制药与大健康
物流、地产与建筑
其他行业
AI ▪ 科技 ▪ 通信
数字化
金融财经
智能制造
电商传媒
地产建筑
医疗医学
能源化工
其他行业

收藏
下载
2026-07-20

AI查数
行业数据
政策法规
商业模式
产业链
竞争格局
市场规模
产业概述
自研数据
其它
2026年
AI读财报
年报
一季报
半年报
三季报
IPO招股书
社会责任报告
A股
IPO申报
港股
美股&全球
新三板
2026-07-30
电子行业
21页
34张图表
0731-84720580
商务合作:really158d
友链申请 (QQ):1737380874
微信扫码登录
手机快捷登录
账号登录