随着AI集群规模从万卡向十万卡甚至百万卡扩展,芯片间互连正成为算力性能的关键瓶颈。东吴证券研究所研报系统梳理了主流AI芯片的Scale-up互连技术——英伟达NVLink 5.0达1.8TB/s一骑绝尘,其他厂商大多基于PCIe协议,技术代差明显。本文基于东吴证券研报,深入分析AI芯片互连技术的竞争格局与发展趋势。
NVLink——英伟达的护城河
从纸面性能看,英伟达NVLink所能实现的Scale-up互连能力一骑绝尘。GB200所依赖的NVLink 5.0技术能够实现1.8TB/s的互连速度。NVLink通过高带宽、低延迟的芯片间直连,使多GPU集群能够高效协同工作,是英伟达构建大规模AI算力集群的核心技术。
对比而言,其他厂商的Scale-up互连大多以PCIe协议为基础。PCIe5.0技术单通道双向速率为8GB/s,16通道可达128GB/s,远低于NVLink同代技术。这一差距在多卡互联场景中被进一步放大——NVLink的All-to-All全互联拓扑使NVIDIA GPU集群的通信效率显著优于PCIe交换架构。
对比而言,其他厂商的Scale-up互连大多以PCIe协议为基础。PCIe5.0技术单通道双向速率为8GB/s,16通道可达128GB/s,远低于NVLink同代技术。这一差距在多卡互联场景中被进一步放大——NVLink的All-to-All全互联拓扑使NVIDIA GPU集群的通信效率显著优于PCIe交换架构。
UALink——追赶者的联盟
UALink(Ultra Accelerator Link)是AMD、AWS、谷歌、Meta、微软等行业巨头联合推动的开放互连标准,旨在提供NVLink的替代方案。UALink初代V1.0标准将于2025年Q1发布,目标是为AI加速器提供高带宽、低延迟的Scale-up互连。
然而技术节奏的差距显著。NVLink1.0早在2016年已应用于Pascal架构GPU,积累了近十年的技术迭代和生态建设。UALink作为后发标准,不仅需要解决物理层、链路层、协议层的技术难题,还需构建完整的软件栈和开发者生态,挑战英伟达NVLink的难度较大。
然而技术节奏的差距显著。NVLink1.0早在2016年已应用于Pascal架构GPU,积累了近十年的技术迭代和生态建设。UALink作为后发标准,不仅需要解决物理层、链路层、协议层的技术难题,还需构建完整的软件栈和开发者生态,挑战英伟达NVLink的难度较大。
互连——算力竞争的新维度
AI集群规模正从万卡向十万卡甚至百万卡扩展,互连已成为算力性能的关键瓶颈。大规模模型训练中,芯片间通信开销占比可高达30%-50%,互连性能直接影响集群的有效算力。
英伟达通过NVLink+NVSwitch+CUDA构建了完整的互连生态闭环。NVSwitch实现多GPU间的全互联拓扑,CUDA提供统一编程模型,开发者无需关心底层通信细节。这种“硬件互连+软件生态”的系统级壁垒,是ASIC厂商短期内难以逾越的护城河。
英伟达通过NVLink+NVSwitch+CUDA构建了完整的互连生态闭环。NVSwitch实现多GPU间的全互联拓扑,CUDA提供统一编程模型,开发者无需关心底层通信细节。这种“硬件互连+软件生态”的系统级壁垒,是ASIC厂商短期内难以逾越的护城河。
其他厂商的互连方案
谷歌TPU采用ICI(Inter-Chip Interconnect)自有互连技术,最新TPU v6e ICI Links达800Gb/s。亚马逊Trainium3采用NeuronLink v3(基于PCIe Gen5,1280Gb/s)。Meta MTIAv2采用8x PCIe Gen5。与NVLink相比,这些方案的互连带宽仍有数量级差距。
Groq LPU是一个例外——采用16x PCIe Gen5,但凭借其独特的SRAM存内计算架构(230MB SRAM,80TB/s带宽),对互连带宽的依赖相对较低。整体而言,ASIC厂商在Scale-up互连领域仍处于追赶阶段,短期内难以挑战英伟达的领先地位。
Groq LPU是一个例外——采用16x PCIe Gen5,但凭借其独特的SRAM存内计算架构(230MB SRAM,80TB/s带宽),对互连带宽的依赖相对较低。整体而言,ASIC厂商在Scale-up互连领域仍处于追赶阶段,短期内难以挑战英伟达的领先地位。
| 厂商/芯片 | Scale-up互连技术 | 互连速度 |
|---|---|---|
| 英伟达GB200 | NVLink 5.0 | 1.8TB/s |
| 英伟达H100 | NVLink 4.0 | 900GB/s |
| AMD M300X | Infinity Fabric (PCIe Gen5) | 1024Gb/s |
| 谷歌TPU v6e | ICI Links | 800Gb/s |
| PCIe 5.0(参考) | 16通道 | 128GB/s |
点击阅读报告原文:
最新报告
中英对照
全文搜索
报告精选
PDF上传翻译
多格式文档互转
入驻&报告售卖
会员权益
机构报告
券商研报
财报库
专题合集
英文报告
数据图表
会议报告
其他资源
新质生产力
DeepSeek
低空经济
大模型
AI Agent
AI Infra
具身智能
自动驾驶
宠物
银发经济
人形机器人
企业出海
算力
微短剧
薪酬
白皮书
创新药
行业分析
个股研究
年报财报
IPO招股书
会议纪要
宏观策略
政策法规
其他
人工智能
信息科技
互联网
消费经济
汽车交通
电商零售
传媒娱乐
医疗健康
投资金融
能源环境
地产建筑
传统产业
英文报告
其它
行业聚焦
芯片产业
热点概念
全球咨询智库
人工智能
500强
新质生产力
会议峰会
新能源汽车
企业年报
互联网
公司研究
行业综观
消费教育
科技通信
医药健康
人力资源
投资金融
汽车产业
物流地产
电子商务
传统产业
传媒营销
其它
十五五规划系列报告合集(共50套打包)
2026年宠物经济/它经济报告合集(共46套打包)
AI、科技与通信
广告、传媒与营销
消费、零售与支付
HR、文化与旅游
金融、保险与投资
能源、环境与工业
医疗制药与大健康
物流、地产与建筑
其他行业
AI ▪ 科技 ▪ 通信
数字化
金融财经
智能制造
电商传媒
地产建筑
医疗医学
能源化工
其他行业

收藏
下载
2026-07-20

AI查数
行业数据
政策法规
商业模式
产业链
竞争格局
市场规模
产业概述
自研数据
其它
2026年
AI读财报
年报
一季报
半年报
三季报
IPO招股书
社会责任报告
A股
IPO申报
港股
美股&全球
新三板
2026-07-29
电子行业
15页
1张图表
0731-84720580
商务合作:really158d
友链申请 (QQ):1737380874
微信扫码登录
手机快捷登录
账号登录