当前位置:首页 > 报告详情

超节点:重构智算底座国产AI加速突围——计算机行业超节点OEM系列-260722(44页).pdf

上传人: 哆哆 编号:1281540 2026-07-24 44页 6.85MB

下载:
核心结论速览: 超节点成智算刚需,解决通信与显存双重瓶颈:大模型训练端MoE模型高频All-to-All通信挤占GPU算力;推理端KVCache随上下文膨胀,出现容量大、小包高频、时延敏感、高并发等问题。传统服务器集群算力利用率偏低,催生超节点架构刚需。 Vera Rubin平台全栈架构:7款芯片+5款机架,推理算力较Blackwell提升5倍:英伟达Vera Rubin平台包含Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 CPO以及Groq 3 LPU七款芯片,Rubin与LPU协同可实现35倍性能提升。 国产超节点放量条件逐渐成熟,2026年成规模化商用元年:2025年下半年起芯片、服务器、云厂商密集发布超节点产品。华为Atlas 950/960、中科曙光scaleX640、阿里磐久128、百度天池256等均已落地。中科曙光2026年7月实现中国首个全国产十万卡AI超集群落地。 国产超节点市场规模CAGR预计达341%:国海证券预计2026-2028年国产AI芯片出货量分别达380/759/1290万颗,超节点渗透率从15%提升至55%,对应超节点市场规模889/4151/11089亿元。 技术壁垒抬高,头部OEM厂商份额与毛利率有望双升:超节点在通信时延、算力密度、散热、TCO等方面要求更高,价值重心从标准化硬件组装上移至复杂定制化系统设计。华勤技术超节点产品2026Q2已小批量发货,全年预计超100亿元收入。 Scale-Up互联协议多路线创新:国内华为UB、海光信息Hyswitch、沐曦MetaXLink、阿里ALink等自研互联协议竞相迭代突破,国产高速互联体系加速完善。超节点:重构智算底座的刚需。需求真实:训练与推理的双重瓶颈。训练端——MoE模型带来的通信挑战:稠密模型时代的核心通信模式是张量并行驱动的All-Reduce/Reduce-Scatter,流量模式相对规则。MoE架构引入的专家并行则要求高频All-to-All通信——每个token需要被路由到少量专家,且路由结果高度动态,流量模式呈现不可预测的稀疏多播特征。这不仅推高了总算力需求,还对互联带宽、延迟和动态调度能力提出更高要求。推理端——KVCache的四大痛点: 容量大:KVCache随提示长度呈线性增长,有时达数百万个token。 小包高频:Decode阶段逐Token串行,单次迭代处理Token少,请求频率高。 时延敏感:ITL(Inter-token Latency)直接影响用户体验。 高并发:资源争抢导致吞吐量下降,易产生缓存碎片。算力资源四大瓶颈的评估阈值: 算力MFU<60%:算力未饱和,需提升并行度/BatchSize。 显存占用85%:易触发OOM,需压缩/复用存储。 显存带宽读写量/带宽0.5:访存主导延迟,需算子融合。 通信带宽通信量/带宽0.5:通信制约吞吐,需优化并行策略。(数据来源:英伟达官网、腾讯云官网、国海证券研究所《超节点:重构智算底座,国产AI加速突围》)。优化途径:多技术协同提升算力效率。提高通信带宽:Scale-Up与Scale-Out分工。Scale-Up负责机柜内片间高带宽低时延通信(承载TP/EP强耦合并行,百纳秒级延迟),Scale-Out将PP/DP等相对松耦合通信释放到更大规模集群网络。当前Scale-Up域互联协议可沿两个维度划分: 技术路线:总线类(PCIe/CXL)/以太类/专有互联。 开放程度:封闭私有/准开放/完全开放标准。国内自研互联协议:华为UB(灵衡)、海光信息Hyswitch、沐曦MetaXLink、阿里ALink等竞相迭代突破。GPU P2P通信性能飞跃:PCIe 7.0单卡双向最大带宽512GB/s,NVLink 6.0单卡双向最大带宽3.6TB/s。统一内存寻址:三个层面的协同。地址层围绕HBM、DDR及CXL扩展内存展开统一编址;访问层涉及设备如何读写远端数据(DMA/RDMA的Load/Store/CXL.mem);管理层涉及内存资源分配、隔离和回收。统一内存编址将多设备协作从“显式搬数据”向“按地址访问数据”推进。优化拓扑结构:减少通信跳数,构建无阻塞网络。拓扑设计核心评价指标:网络直径(最坏情况通信延迟)、二分带宽(最坏场景最大数据传输能力)、径向扩展度(最大无阻塞集群规模)、平均最短路径长度(网络延迟整体水平)。Full Mesh拓扑网络直径为1,Spine-leaf拓扑网络直径为3。软件栈优化:释放硬件潜能。以MoE模型Prefill阶段为例,超节点凭借极致互联大幅缩短通信时长,将更多SM算子资源释放给计算任务。根据百度智能云技术站数据,NVL72超节点通过持续软件栈优化,GB200模型训练成本在两个月内降幅超50%,单Token成本从0.468美元降至0.307美元,带来1.5倍TCO优势。实际部署三大评估维度:1. 性能收益转化:不同场景如何实现性能与成本最优平衡。2. 运行稳定性:热管理、信号干扰等工程挑战。3. 部署运维效率:连线配置复杂度、团队快速上手能力。(数据来源:《超节点技术体系白皮书》、英伟达官网、国海证券研究所)。海外标杆:英伟达Vera Rubin全栈平台。7款芯片+5款机架的全栈架构。Vera Rubin平台包含七款芯片:Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 CPO以及Groq 3 LPU。五款机架:Vera Rubin NVL72、Groq 3 LPX、Vera CPU、BlueField-4 STX存储、Spectrum-6 SPX以太网。NVIDIA GPU Roadmap关键参数:| 芯片 | 发布时间 | FP4算力 | 显存 | 显存带宽 | TDP ||||||||| H100 | 2022 | — | 80GB HBM3 | 3.35TB/s | 700W || H200 | 2023 | — | 141GB HBM3E | 4.8TB/s | 700W || B200 | 2024 | 10 PFLOPs | 192GB HBM3E | 8TB/s | 1000W || B300 | 2025 | 15 PFLOPs | 288GB HBM3E | 8TB/s | 1400W || Rubin | 2026 | 35 PFLOPs | 288GB HBM4 | 22TB/s | 2300W || Rubin Ultra | 2027 | 70 PFLOPs | 288GB HBM4 | 53TB/s | 4000W+ |Vera Rubin NVL72系统指标:144个GPU dies、72个逻辑GPU、FP4算力1080 PFLOPs、内存容量21TB、内存带宽1580TB/s。Rubin与LPU协同:35倍性能提升。Rubin满足高吞吐需求,LPU满足低时延需求。将Attention计算放在GPU(处理动态工作负载),FFN计算放在LPU(确定性计算架构、适合静态计算)。Dynamo实现Decode阶段Attention与FFN过程解耦。Vera Rubin NVL72 plus LPX相较于Blackwell,可提供高达35倍tokens和10倍万亿参数模型创收机会。Scale-Up:铜光共存策略。Rubin系列提供Oberon NVL72全铜缆纵向扩展网络。Rubin Ultra NVL576采用CPO纵向扩展,机架间通过两层胖树连接,机架内仍基于铜缆。Feynman系列将首次同时推出铜缆和CPO方案。英伟达策略:尽可能使用铜缆,在必须使用光纤时才采用光纤。STX机架:补齐长上下文推理存储短板。STX配套CMX上下文内存存储平台,支持KVCache快速扩展,解决长上下文和智能体工作负载的存储瓶颈。STX采用基于BF-4的存储方案,明确规定了特定集群所需硬盘、Vera CPU、BF-4 DPU、CX-9网卡和Spectrum-X交换机数量。CPO交换机进入量产阶段。英伟达在GTC2025发布三款CPO Scale-out交换机:Quantum Q3450(InfiniBand)、Spectrum 6810和6800(以太网)。Spectrum-X以太网硅光交换机具备409.6Tb/s带宽,支持百万GPU AI集群,将于2026年下半年推出。(数据来源:Semianalysis、英伟达官网、国海证券研究所)。国产超节点:放量条件成熟,OEM直接受益。各厂商密集发布超节点产品。2025年下半年起芯片、服务器、CSP和ICT厂商密集发布超节点产品:| 厂商 | 产品 | 发布时间 | 互联规模 | 卡间互联带宽 | 液冷 ||||||||| 华为 | CloudMatrix 384/Atlas 950 | 2025 | 384/8192 | ~800GB/s/2000GB/s | 冷板 || 中科曙光 | scaleX640 | 2025 | 640 | ~900GB/s | 浸没 || 浪潮 | 元脑SD200 | 2025 | 64 | — | 冷板 || 阿里 | 磐久AL128 | 2025 | 128 | ~800GB/s | 冷板 || 字节 | 大禹超节点 | 2025 | 64/128 | — | 冷板 || 百度 | 天池256 | 2026 | 256/512 | — | — || 中兴 | 光跃LightSphere X | 2026 | 128 | — | 液冷 |华为Atlas 950/960 SuperPoD。Atlas 950(预计2026Q4上市):采用正交架构实现零线缆电互联,液冷接头浮动盲插设计零漏液。UB-Mesh递归直连拓扑支持单板内/单板间/机架间NPU全互联,以64卡为步长按需扩展,最大8192卡无收敛全互联。FP8算力8E FLOPs、FP4算力16E FLOPs、互联带宽16PB/s。Atlas 960(预计2027Q4上市):15488卡、FP8算力30E FLOPs、FP4算力60E FLOPs、互联带宽34PB/s。中科曙光scaleX640。“一拖二”高密架构,单机柜640卡超高速总线互连,双scaleX640组成1280卡计算单元。液冷散热PUE值低至1.04。2026年7月10日,中国首个全国产十万卡AI超集群——曙光8000(登峰)正式落成。阿里磐久128超节点。单柜支持128个AI计算芯片,集成自研CIPU2.0芯片和EIC/MOC高性能网卡,Pb/s级别Scale-Up带宽和百ns级延迟。平头哥真武M890超节点单实例配备9216GB显存、18.4TB内存,Scale-up 51.2TB/s聚合带宽,单集群12.2万卡。百度天池256卡超节点。基于昆仑芯P800,2026年6月正式上市。吞吐性能较上一代提升25%、推理效率提升50%,适配文心、DeepSeek、GLM、MiniMax等主流模型。昆仑芯在手订单超32万张,已排到年底。(数据来源:各公司官网、国海证券研究所)。市场规模与投资机会。国产超节点市场规模预测。| 指标 | 2025 | 2026E | 2027E | 2028E |||||||| 国产AI芯片出货量(万颗) | 165 | 380 | 759 | 1290 || 出货量YOY | — | 130% | 100% | 70% || 超节点渗透率 | 5% | 15% | 35% | 55% || 超节点出货量(万颗) | 8 | 57 | 266 | 710 || 对应机柜(万台,64卡) | 0.06 | 0.89 | 4.15 | 11.09 || 单柜价格(万元) | 1000 | 1000 | 1000 | 1000 || 市场规模(亿元) | 12 | 889 | 4151 | 11089 |2025-2028E市场规模CAGR达341%。技术壁垒抬高,利好头部OEM。相较传统GPU集群,超节点在通信时延、算力密度、散热、TCO等方面要求更高,产品规格处于非常快速迭代中。NVIDIA Vera Rubin机架包含130万个独立组件、近1300个芯片,整体重量近2吨。超节点时代OEM价值重心从标准化硬件组装上移至复杂定制化系统设计、深度调优和全栈集成服务。头部OEM有望凭借架构设计、热管理、供应链整合、大规模交付能力获得更高产品溢价和市场份额。华勤技术超节点产品2026Q2小批量发货,下半年批量,全年预计超100亿元收入。华为Atlas 950当前订单或已排满,主要客户为互联网云厂商。相关产业链标的。1. 半导体:GPU(海光信息、寒武纪、壁仞科技、沐曦股份)、Switch(澜起科技、盛科通信)、CPU(中国长城、龙芯中科)、存储(长鑫科技)、晶圆制造(中芯国际、华虹宏力)。2. 超节点OEM:浪潮信息、中科曙光、华勤技术、紫光股份、锐捷网络、中兴通讯、联想集团、工业富联。3. 超节点组件:光模块(中际旭创、新易盛、天孚通信)、PCB(沪电股份、胜宏科技)、散热(曙光数创、英维克)、电源(麦格米特)、连接(华丰科技)。4. 算力租赁/云计算:协创数据、润泽科技、智微智能。5. 数据中心IDC:云赛智联、世纪互联、光环新网、数据港。6. 智能制造设备:罗博特科、精智达、博众精工。(数据来源:国海证券研究所)。未来3-5年机会洞察。| 环节 | 核心逻辑 | 2026-2028 CAGR/规模 | 优先级 ||||||| 超节点OEM | 技术壁垒抬高,份额与毛利率双升 | 市场规模341% CAGR | ★★★★★ || 国产AI芯片 | 产能提升+超节点渗透率上升 | 出货量70%-130% YOY | ★★★★★ || 互联芯片(Switch) | Scale-Up互联刚需 | 澜起/盛科等受益 | ★★★★ || 液冷散热 | 超节点功率密度极高 | PUE<1.04需求 | ★★★★ || 光模块/CPO | 柜间互联光进铜退 | CPO交换机量产 | ★★★ |延伸阅读。以上为报告核心趋势分析,如需获取完整报告详细数据及全部案例,请访问下载页下载完整PDF报告。FAQ。Q1:超节点是什么?为什么成为AI算力刚需?A:超节点是将大量AI加速卡通过高速互联(如NVLink)组成的高带宽、低时延、统一内存寻址的紧耦合计算集群。MoE模型训练需要高频All-to-All通信,推理KVCache随上下文膨胀,传统服务器集群算力利用率偏低,超节点通过极致互联提升算力效率。Q2:英伟达Vera Rubin平台的核心升级是什么?A:Vera Rubin包含7款芯片+5款机架,Rubin GPU推理算力较Blackwell提升5倍,Rubin与LPU协同可实现35倍性能提升。STX机架补齐长上下文推理存储短板,CPO交换机进入量产,Scale-Up铜光共存。Q3:国产超节点的发展阶段如何?A:2025年下半年起厂商密集发布超节点产品,2026年成为规模化商用元年。华为Atlas 950(2026Q4)、中科曙光scaleX640、阿里磐久128、百度天池256均已落地。中科曙光2026年7月已实现十万卡级AI超集群落地。Q4:超节点市场规模有多大?A:国海证券预计2025-2028年国产超节点市场规模CAGR达341%,2026/2027/2028年分别达889/4151/11089亿元,对应国产AI芯片超节点渗透率从15%提升至55%。Q5:超节点时代OEM厂商的投资逻辑是什么?A:超节点在通信、散热、系统设计上要求更高,价值重心从标准化硬件组装上移至复杂定制化系统设计,技术壁垒抬高利好头部OEM厂商。华勤技术超节点全年预计超100亿元收入,华为Atlas 950订单已排满。数据来源说明。本页面内容基于国海证券研究所《超节点:重构智算底座,国产AI加速突围——计算机超节点OEM系列》(2026年7月23日)、英伟达官网、Semianalysis、《超节点技术体系白皮书》等数据整理。
word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
1. **超节点需求迫切**:大模型训练受通信/显存瓶颈制约,推理端KV Cache容量大、时延敏感,催生超节点架构刚需,通过高带宽、低时延、统一内存寻址提升算力效率。 2. **海外标杆架构**:英伟达Vera Rubin平台含7款芯片+5款机架,Rubin GPU推理性能较Blackwell提升5倍,与LPU协同达35倍性能,STX机架补齐长上下文存储短板。 3. **国产放量条件成熟**:华为Atlas 950/960、曙光scaleX640(单柜640卡)、阿里磐久128等超节点密集发布,2025-2028年国产超节点市场规模CAGR预计达341%。 4. **技术壁垒利好头部OEM**:超节点集成高速互联、液冷等,技术门槛高,头部厂商(浪潮、曙光、华勤等)份额与毛利率或双提升。
超节点是什么? 国产超节点如何突围? 超节点有何优势?
客服
商务合作
小程序
服务号
折叠