您的当前位置:首页 > 标签 > Token算力需求
【东吴证券】AI算力跟踪深度:算力互连复盘与展望——网络互连带宽的增速来自哪里?-250723(30页).pdf
2025Token算力需求:谷歌月度Token增长50倍,豆包增长120倍,推理算力互连需求爆发|东吴证券
东吴证券报告显示,谷歌AI月度Token量从9.7万亿增至480万亿增长50倍,豆包日均突破16.4万亿增长120倍。AI搜索增长10倍、编程增长8.4倍,Token成AI闭环点,推理算力互连需求指数级增长。
 2026-07-26
 信息技术
 30页
1张图表
数据来源:
【东吴证券】AI算力跟踪深度:算力互连复盘与展望——网络互连带宽的增速来自哪里?-250723(30页) 查看报告
东吴证券研报指出,Token规模指数级增长已成为AI生态闭环点。谷歌全部产品和API每月处理Tokens数从2024年4月的9.7万亿增至2025年4月的480万亿,一年增长近50倍。豆包大模型5月日均处理量突破16.4万亿,较发布时增长超120倍。AI搜索增长10倍、AI编程增长8.4倍、K12教育场景Token消耗增长12倍。Token数向上关联推理算力需求,向下形成AI增量和收入,已成为AI生态闭环点。本文基于东吴证券研究所数据,深入分析Token消耗爆发式增长对推理算力和互连需求的驱动逻辑。

Token规模指数级增长:谷歌50倍、豆包120倍

Token消耗量的爆发式增长是AI应用快速渗透的最直接证据。谷歌方面,2024年4月全部产品和API每月处理Tokens数为9.7万亿,2025年4月达到480万亿,一年增长约50倍。豆包方面,截至2025年5月底日均Tokens使用量超过16.4万亿,较2024年5月刚发布时增长137倍,火山引擎在中国公有云大模型服务调用量方面稳居首位(市场份额46.4%)。深度推理和视觉理解等先进模型的投入使用,驱动了高价值应用场景Token消耗的迅猛增长。从去年12月到今年5月,火山引擎各高价值场景处理Token数发生显著变化:AI搜索增长10倍、AI编程增长8.4倍、K12教育场景Token消耗增长12倍,智能巡检、视频检索等新线下场景也突破日均百亿Token。

Token数成为AI生态闭环点,推理算力需求脱钩CapEx

Token数在整个AI生态中向上关联推理的算力需求,向下形成AI增量和收入,成为AI生态闭环点。此前市场对AI算力需求的判断主要锚定云厂商CapEx增速,但Token规模的指数级增长意味着AI应用正在从“基础设施投资”阶段进入“收入变现”阶段。ChatGPT付费订阅用户突破2000万,月收入达4.15亿美元(年化50亿美元)。当AI应用产生真实收入后,推理算力需求将不再依赖外部资本开支,而由Token消耗带来的内生回报驱动。Sora所需推理算力相比GPT-4等文本模型呈现数量级的提升,输出1分钟视频所需浮点算力约是GPT-4输出1000个tokens的1000倍。高价值Token的快速消耗将持续推高推理算力和互连需求。

P/D分离架构增加网络互连需求

推理场景中P/D分离架构利于整体效率和推理体验提升。P/D将推理过程拆分为两个阶段:Prefill阶段(处理用户初始请求,计算密集型)和Decode阶段(读取缓存后生成后续内容,访存密集型)。P/D分离增加了对高性能硬件和复杂网络的需求,其硬件扩展需求与训练阶段形成了显著差异。通信带宽是推理速度的瓶颈,GPU“卡内通信带宽 > 卡间通信带宽 > 机间通信带宽”,由于“木桶效应”,模型部署时跨的设备越多,受设备间通信带宽的“拖累”就越大。Token消耗量的快速增长将进一步推高对Scale Up网络互连带宽的需求,因为更大的超节点能够更高效地处理高并发Token生成任务。

从算力需求到互连需求的传导逻辑

Token消耗驱动的推理算力需求向互连需求的传导路径清晰。第一步:Token量增长→推理计算量增长;第二步:推理计算量增长→GPU/AISC需求量增长;第三步:GPU/AISC需求量增长+单芯片带宽提升→互连需求增长。英伟达来自云厂的DC收入与五家云厂资本开支比值从23Q1的5%增长至24Q4的28%,反映算力芯片增速已高于资本开支增速。叠加单芯片带宽提升(NVLink从640Gb/s到7200Gb/s),互连需求增速将显著高于算力芯片增速,形成明确的“乘数效应”。
Token消耗增长与算力需求
指标过去/基准当前增长倍数
谷歌月度Tokens9.7万亿(2024.4)480万亿(2025.4)~50倍
豆包日均Tokens发布初期16.4万亿137倍
AI搜索Token消耗基准(2024.12)当前10倍
AI编程Token消耗基准(2024.12)当前8.4倍
K12教育Token消耗基准(2024.12)当前12倍
客服
商务合作
小程序
服务号
折叠