通信行业AIGC系列之二十:通信网络延续基础算力的摩尔定律?-230615(42页).pdf

编号:129848 PDF  PPTX 42页 4.14MB 下载积分:VIP专享
下载报告请您先登录!

通信行业AIGC系列之二十:通信网络延续基础算力的摩尔定律?-230615(42页).pdf

1、通信网络延续基础算力的摩尔定律?-AIGC系列之二十证券分析师:李国盛A杨海晏A0230518070003黄忠煌A0230519110001林起贤A0230519060002刘洋A0230513050006联系人:李国盛SWS2023.6.15RESEARC#page#SWS口投资案件结论在AI领域,网络的价值在于延续了集群算力的摩尔定律。1)吞吐带宽与连接架构是算力性能不可忽视的决定因素2)芯片层面,高速c2c连接方案(如NVLink、CXL等)的推广,是宏观设备/数据中心层高速网络、光网络等需求爆发的底层逻辑。3)设备层面,单Soc性能提升+芯片“堆量”,不意味着算力集群整体性能的线性提升

2、;而Nvidia、Google、AMD、AWS等算力大厂正应用InfiniBand、OCS等新架构替代通用算力下的以太网,带来增量网络需求原因及逻辑系统复杂度、投资强度、整体性能提升效果三方面看,网络设备与器件(包括交换机、光模块等)在AI系统中的重要性显著提升:NvidiaH100到GH200系统,官方标准配置下800G光模块用量可提升30%-275%,同样256GPU集群的交换机需求从不足50台提升至150台以上谷歌自研TPUV4背后,是矩阵计算、OCS光交换与更激进的光网络设计。3D组网是TPUv4系统最大亮点,网络起重要作用,导入全光交换、WDM等光通信技术后,算力与网络需求同步提升。

3、AMD最新MI300体系和AWS自研Trn训练芯片,同样重视带宽、拓展性的价值2#page#SWS投资案件有别于大众的认识1)当前市场对AI算力、网络、光通信空间的跟踪,主要通过订单预期、需求意向或历史经验的方式直接判断。我们认为,除了对硬件进行拆解、进而直接测算单位算力/单位芯片对应的网络需求之外,网络架构本身对算力体系的深远影响也应重视,通信网络正在延续算力领域的摩尔定律,其价值不亚于算力本身。2)当前市场担心,若假设算力需求总规模不变,则单位芯片或系统性能的大幅提升会导致硬件需求数量的减少。实际上,芯片或系统性能的提升的背后,吞吐带宽与连接架构是不可忽视的关键因素,“网络与算力同行”。且

4、在AI训练、推理需求提升的产业早期,性能成本的优化、架构方案的多样化均利于AI应用的放量,进而带动算力总需求持续提升。风险提示信息技术选代产生新的网络通信方案,可能颠覆已有路径或格局。R#page#主要内容1.网络的价值在于延续了集群算力摩尔定律2.Nvidia:H100到GH200,网络价值随增3.谷歌:TPUV4背后,是OCS与更激进的光网络设计4.AMD、Amazon等:芯片亦持续选代5.结论、相关标的与风险提示ws了#page#BWS1.1芯片层面网络:chip-to-chip场景,从PCIe到高速连接典型PCIe协议下的服务器架构(一)通用/传统场景:PCIe是服务器内部通信的总线标

5、准,制约了电口CPU通信速率的提升。MemoryPCleendpoinRootComplexPCle ens经典的通用服务器内,CPU、图形卡、硬盘驱动器、SSD、Wi-Fi、以太网PClPCle endpoin设备等主要基于PCIe(PCIexpress)PCle endpoint协议相互连接。PCle endpoint相较于4.0版本,PCIe5.0传输速度更PCIe endp高,16带宽(双向)从64GB/s提资料来源:Prodigy,申万宏源研究升到了128GB/s;目前规范制定已送设备I/O带宽每三年翻倍,PCIe目前主流5.0版本,已选代至6.0代至6.0版本,带宽再翻倍。24异构

6、计算的初步创新:在PCIe物理架构和电气接口的基础上,英特尔等牵头成立CXL联盟并最新推出CXL2.0-3.0规范,用于AI、高性能计算等场景中CPU与GPU等的3083互联,通过“内存池化”等方式优20起0化内存调用,进而提升系统整体性Time能。(据ComputeExpressLink官网)资料来源:PCI-SIG,申万宏源研究#page#SWS1.1芯片层面网络:chip-to-chip场景,从PCIe到高速连接我们认为,芯片层高速连接方案的推广,是宏观设备层面高速网络、光网络等需求的底层逻辑。(二)Nvidia代表,已对标PCIe推出NVLink解决异构计算与AI算力网络瓶颈。NVLi

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(通信行业AIGC系列之二十:通信网络延续基础算力的摩尔定律?-230615(42页).pdf)为本站 (竹蜻蜓) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
折叠