【国盛证券】通信行业周报:Deep Seek的启示,不容忽视的算力前端需求-250215(14页).pdf

编号:739548 PDF 14页 844.22KB 下载积分:VIP专享
下载报告请您先登录!

【国盛证券】通信行业周报:Deep Seek的启示,不容忽视的算力前端需求-250215(14页).pdf

1、证券研究报告|行业周报 请仔细阅读本报告末页声明请仔细阅读本报告末页声明 gszqdatemark 通信通信 Deep Seek 的启示:不容忽视的算力前端需求的启示:不容忽视的算力前端需求 DeepSeek 对算力效率的提升一度让市场对算力的逻辑产生分歧,而随对算力效率的提升一度让市场对算力的逻辑产生分歧,而随着着 DS 用户数的增长,算力紧缺的现实却不容忽视。事实告诉我们,当用用户数的增长,算力紧缺的现实却不容忽视。事实告诉我们,当用户规模爆发后,推理带来的前端需求将让户规模爆发后,推理带来的前端需求将让 AI 算力的蛋糕越变越大。算力的蛋糕越变越大。伴随伴随近期近期 AI Agent 等

2、热点技术快速落地以及各深度学习架构的快速进展,叠等热点技术快速落地以及各深度学习架构的快速进展,叠加海内外各巨头均增加加海内外各巨头均增加 AI 相关投资,相关投资,AI 应用的需求起量已成为必然趋应用的需求起量已成为必然趋势。而势。而 AI 应用起量将带动算力前端需求迅速增长。我们认为,伴随应用起量将带动算力前端需求迅速增长。我们认为,伴随 AI应用增长推动计算集群由十万卡向百万卡规模迈进,其中应用增长推动计算集群由十万卡向百万卡规模迈进,其中 GPU 与光模块与光模块的配比关系将从传统的线性协同预期向超线性依赖方向演进。的配比关系将从传统的线性协同预期向超线性依赖方向演进。【前后端适配:性

3、能与数据需求驱动】【前后端适配:性能与数据需求驱动】以往市场普遍认为计算集群中每块 GPU 通常配备 3 个光模块,主要用于横向互联(GPU-GPU)和 CPU 的连接。而随着未来技术演进以及计算集群规模的大幅扩张,光模块配比将大幅上升,以用于更高的前后端带宽适配:NVLink:一种点对点连接接口,目前最高可实现 8:1 甚至更高的 GPU 对 GPU 直连,计算集群所需的高带宽、低延迟要求越高,GPU-GPU 直连数量越多,导致光模块数量激增。NVSwitch:基于 NVLink 的一种硬件交换机,可支持 16 个甚至更多的 GPU 之间的高带宽通信,实现“每个 GPU 到其他所有 GPU”

4、之间的直接数据传输,GPU 数量越多所需光模块比例越高。更高吞吐的存储前端:更高吞吐的存储前端:数据吞吐量增加拉动存储需求增加,而采用高 IOPS 存储(如 HBM+PCle Gen5/6+CXL)则可能需要更多光连接以避免存储成为瓶颈。外部数据接入优化:外部数据接入优化:模型推理任务对实时数据流、外部数据库或云端数据输入依赖更大,导致前端光模块需求上升。【应用场景:低延迟、高带宽将成主流】【应用场景:低延迟、高带宽将成主流】从模型训练以及推理视角来看,大模型训练阶段虽模型参数巨大,但GPU-GPU 通信是主要瓶颈,传统 3 倍光模块即可满足需求。而在推理而在推理以及应用阶段,计算集群需接入海

5、量外部数据(多模态数据、数据流、以及应用阶段,计算集群需接入海量外部数据(多模态数据、数据流、IoT 设备等),需要更强的前端设备等),需要更强的前端 IO 和数据传输带宽,导致光模块需求大和数据传输带宽,导致光模块需求大增。增。从数据流架构来看,传统 HPC 或 AI 训练的数据基本在本地高带宽存储和 GPU 互联之间传输,对光模块需求较低。而 AI 推理所需的 CDN 式数据访问(分布式数据存储+云计算源,AI 推理中主要解决带宽有限、延迟高问题)则需要高吞吐的光连接。我们认为,伴随未来大量我们认为,伴随未来大量 AI 应用落地,海量的外部数据和应用落地,海量的外部数据和 AI 推理实时推

6、理实时响应的特性将驱动低延迟、高宽带的光互连成为主流响应的特性将驱动低延迟、高宽带的光互连成为主流,光模块在大规模光模块在大规模 AI集群的作用将持续扩大。同时集群的作用将持续扩大。同时 AI 推理和应用侧对高推理和应用侧对高 IO、低时延数据流的、低时延数据流的需求增加,未来随着存算分离、光互连、需求增加,未来随着存算分离、光互连、CXL、分布式计算的发展,光模、分布式计算的发展,光模块需求在块需求在 AI 数据中心中的占比可能持续上升。数据中心中的占比可能持续上升。增持增持(维持维持)行业走势行业走势 作者作者 分析师分析师 宋嘉吉宋嘉吉 执业证书编号:S0680519010002 邮箱:

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(【国盛证券】通信行业周报:Deep Seek的启示,不容忽视的算力前端需求-250215(14页).pdf)为本站 (AG) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
折叠