当前位置:首页 > 报告详情

【海通国际】电子:谷歌Ironwood构建AI推理工厂,与Blackwell形成差异化竞争-250410(9页).pdf

上传人: AG 编号:743473 2025-04-10 9页 1.20MB

1、 Table_yejiao1 This research report is distributed by Haitong International,a global brand name for the equity research teams of Haitong International Research Limited(“HTIRL”),Haitong Securities India Private Limited(“HSIPL”),Haitong International(Japan)K.K.(“HTIJKK”),Haitong International Securiti

2、es Company Limited(“HTISCL”),and any other members within the Haitong International Securities Group of Companies(“HTISG”),each authorized to engage in securities activities in its respective jurisdiction.Please refer to the appendix for the Analyst Certification,Important Disclosures and Important

3、Disclaimer.Table_yemei1 Flash Analysis Table_summary(Please see APPENDIX 1 for English summary)事件事件:2025 年 4 月 9 日,谷歌在 Cloud Next 大会上正式发布其第七代张量处理单元(TPU v7),代号Ironwood。与前代Trillium 相比,TPU v7 在性能与能效方面提升达两倍,并针对大模型推理任务进行深度优化。点评点评:Ironwood 集群跻身全球最快推理平台,专为集群跻身全球最快推理平台,专为 LLM 与与 MoE 优化。优化。Ironwood 最多可支持 9,2

4、16 颗 TPU 芯片组成集群,峰值算力达 42.5 ExaFLOPS,为当前已知全球最快的 AI 推理平台之一。TPU v7 延续并加强了 SparseCore、HBM 高带宽内存及芯片间光互联(ICI)设计,专为运行大型语言模型(LLM)与专家混合模型(MoE)优化。Google 通过通过 Ironwood 强化强化 AI 芯片布局,借推理优势提升云服务吸引力。芯片布局,借推理优势提升云服务吸引力。谷歌推出 AI 芯片 Ironwood,持续加码与NVIDIA 等竞争对手的芯片竞赛。但不同于英伟达的对外销售策略,Ironwood 仅用于 Google 内部或通过其云服务对客户开放,未向市场

5、直接销售。我们观察到,无论是大模型训练还是 AI 加速卡,当前的发展趋势正逐步向推理侧倾斜,Llama 4 的发布便是典型案例,其核心优化集中在推理性能上。我们认为,Google 正通过“硬件+云服务”的绑定策略在推理领域抢占先机:由于 Ironwood 无法单独采购,客户必须通过 Google Cloud 才能使用其推理能力,这有望显著增强 Google 云服务的吸引力,并在未来推理需求爆发的背景下带动云业务增长。Google TPU 与与 NVIDIA Blackwell 架构的对比分析:推理架构的对比分析:推理 vs 通用通用 AI 加速加速 TPU v7 专注推理,专注推理,Black

6、well 专注通用专注通用 AI 加速加速。尽管 TPU v7 在推理速度上实现突破,但其定位与 NVIDIA 于 2024 年推出的 Blackwell 架构(如 B200、GB200)存在本质差异。TPU v7 以推理为核心任务,仅在 Google Cloud 内部部署,支持 Gemini 等大模型的商业化运行;Blackwell 架构则提供从 FP4 到 FP64 的完整精度支持,兼顾训练与推理,面向通用 AI 应用,并可广泛部署于 AWS、Azure 等商用云平台。TPU v7 打造打造“推理工厂推理工厂”,Blackwell 凭通用性胜出。凭通用性胜出。从算力层面看,TPU v7 集

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
AG
AG

该用户很懒,什么也没介绍

客服
商务合作
小程序
服务号
折叠