东吴证券研报指出,Token规模指数级增长已成为AI生态闭环点。谷歌全部产品和API每月处理Tokens数从2024年4月的9.7万亿增至2025年4月的480万亿,一年增长近50倍。豆包大模型5月日均处理量突破16.4万亿,较发布时增长超120倍。AI搜索增长10倍、AI编程增长8.4倍、K12教育场景Token消耗增长12倍。Token数向上关联推理算力需求,向下形成AI增量和收入,已成为AI生态闭环点。本文基于东吴证券研究所数据,深入分析Token消耗爆发式增长对推理算力和互连需求的驱动逻辑。
Token规模指数级增长:谷歌50倍、豆包120倍
Token消耗量的爆发式增长是AI应用快速渗透的最直接证据。谷歌方面,2024年4月全部产品和API每月处理Tokens数为9.7万亿,2025年4月达到480万亿,一年增长约50倍。豆包方面,截至2025年5月底日均Tokens使用量超过16.4万亿,较2024年5月刚发布时增长137倍,火山引擎在中国公有云大模型服务调用量方面稳居首位(市场份额46.4%)。深度推理和视觉理解等先进模型的投入使用,驱动了高价值应用场景Token消耗的迅猛增长。从去年12月到今年5月,火山引擎各高价值场景处理Token数发生显著变化:AI搜索增长10倍、AI编程增长8.4倍、K12教育场景Token消耗增长12倍,智能巡检、视频检索等新线下场景也突破日均百亿Token。
Token数成为AI生态闭环点,推理算力需求脱钩CapEx
Token数在整个AI生态中向上关联推理的算力需求,向下形成AI增量和收入,成为AI生态闭环点。此前市场对AI算力需求的判断主要锚定云厂商CapEx增速,但Token规模的指数级增长意味着AI应用正在从“基础设施投资”阶段进入“收入变现”阶段。ChatGPT付费订阅用户突破2000万,月收入达4.15亿美元(年化50亿美元)。当AI应用产生真实收入后,推理算力需求将不再依赖外部资本开支,而由Token消耗带来的内生回报驱动。Sora所需推理算力相比GPT-4等文本模型呈现数量级的提升,输出1分钟视频所需浮点算力约是GPT-4输出1000个tokens的1000倍。高价值Token的快速消耗将持续推高推理算力和互连需求。
P/D分离架构增加网络互连需求
推理场景中P/D分离架构利于整体效率和推理体验提升。P/D将推理过程拆分为两个阶段:Prefill阶段(处理用户初始请求,计算密集型)和Decode阶段(读取缓存后生成后续内容,访存密集型)。P/D分离增加了对高性能硬件和复杂网络的需求,其硬件扩展需求与训练阶段形成了显著差异。通信带宽是推理速度的瓶颈,GPU“卡内通信带宽 > 卡间通信带宽 > 机间通信带宽”,由于“木桶效应”,模型部署时跨的设备越多,受设备间通信带宽的“拖累”就越大。Token消耗量的快速增长将进一步推高对Scale Up网络互连带宽的需求,因为更大的超节点能够更高效地处理高并发Token生成任务。
从算力需求到互连需求的传导逻辑
Token消耗驱动的推理算力需求向互连需求的传导路径清晰。第一步:Token量增长→推理计算量增长;第二步:推理计算量增长→GPU/AISC需求量增长;第三步:GPU/AISC需求量增长+单芯片带宽提升→互连需求增长。英伟达来自云厂的DC收入与五家云厂资本开支比值从23Q1的5%增长至24Q4的28%,反映算力芯片增速已高于资本开支增速。叠加单芯片带宽提升(NVLink从640Gb/s到7200Gb/s),互连需求增速将显著高于算力芯片增速,形成明确的“乘数效应”。
| 指标 | 过去/基准 | 当前 | 增长倍数 |
|---|---|---|---|
| 谷歌月度Tokens | 9.7万亿(2024.4) | 480万亿(2025.4) | ~50倍 |
| 豆包日均Tokens | 发布初期 | 16.4万亿 | 137倍 |
| AI搜索Token消耗 | 基准(2024.12) | 当前 | 10倍 |
| AI编程Token消耗 | 基准(2024.12) | 当前 | 8.4倍 |
| K12教育Token消耗 | 基准(2024.12) | 当前 | 12倍 |
点击阅读报告原文:
最新报告
中英对照
全文搜索
报告精选
PDF上传翻译
多格式文档互转
入驻&报告售卖
会员权益
机构报告
券商研报
财报库
专题合集
英文报告
数据图表
会议报告
其他资源
新质生产力
DeepSeek
低空经济
大模型
AI Agent
AI Infra
具身智能
自动驾驶
宠物
银发经济
人形机器人
企业出海
算力
微短剧
薪酬
白皮书
创新药
行业分析
个股研究
年报财报
IPO招股书
会议纪要
宏观策略
政策法规
其他
人工智能
信息科技
互联网
消费经济
汽车交通
电商零售
传媒娱乐
医疗健康
投资金融
能源环境
地产建筑
传统产业
英文报告
其它
行业聚焦
芯片产业
热点概念
全球咨询智库
人工智能
500强
新质生产力
会议峰会
新能源汽车
企业年报
互联网
公司研究
行业综观
消费教育
科技通信
医药健康
人力资源
投资金融
汽车产业
物流地产
电子商务
传统产业
传媒营销
其它
十五五规划系列报告合集(共54套打包)
2026年宠物经济/它经济报告合集(共46套打包)
AI、科技与通信
广告、传媒与营销
消费、零售与支付
HR、文化与旅游
金融、保险与投资
能源、环境与工业
医疗制药与大健康
物流、地产与建筑
其他行业
AI ▪ 科技 ▪ 通信
数字化
金融财经
智能制造
电商传媒
地产建筑
医疗医学
能源化工
其他行业

收藏
下载
2026-07-20

AI查数
行业数据
政策法规
商业模式
产业链
竞争格局
市场规模
产业概述
自研数据
其它
2026年
AI读财报
年报
一季报
半年报
三季报
IPO招股书
社会责任报告
A股
IPO申报
港股
美股&全球
新三板
2026-07-26
信息技术
30页
1张图表
0731-84720580
商务合作:really158d
微信扫码登录
手机快捷登录
账号登录