《电子行业： 英伟达GH200 vs AMD MI300-230530（17页）.pdf》由会员分享，可在线阅读，更多相关《电子行业： 英伟达GH200 vs AMD MI300-230530（17页）.pdf（17页珍藏版）》请在三个皮匠报告上搜索。

1、 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。1 证券研究报告 电子电子 英伟达英伟达 GH200 vs AMD MI300 华泰研究华泰研究海外科技海外科技 电子电子 增持增持 (维持维持)研究员 何翩翩何翩翩 SAC No.S0570523020002 SFC No.ASI353 +(852)3658 6000 华泰证券华泰证券 2023 年中期投资峰会年中期投资峰会 2023 年 5 月 30 日美国 动态点评动态点评 千呼万唤始出来，千呼万唤始出来，DGX GH200 超级计算系统超级计算系统助力助力新一代大新一代大 AI 模型模型 英伟达在 2023 COMPUTEX

2、 大会上更新了多款 AI 算力产品。当中焦点落在DGX GH200 超级计算系统上。该系统是通过 NVLink 互连技术及 NVLink Switch System，串联 32 台由 8 块 GH200 超级芯片（总计 256 块）合并而成的单一超级计算系统，存储器容量高达 144 TB，大规模的共享内存能解决 AI 大模型训练的关键瓶颈，将为生成式 AI 语言应用、推荐系统和数据分析工作负载的大模型增添动力。英伟达宣布 Google Cloud、Meta 与微软将是其首批用户。先进的加速计算先进的加速计算+网络技术，为吞吐量网络技术，为吞吐量和可扩展性迎来新突破和可扩展性迎来新突破 DGX

3、GH200 集成了英伟达最先进的加速计算和网络技术，为提供最大的吞吐量和可扩展性而设计。NVIDIA NVLink-C2C 将 CPU 与 GPU 相连组成GH200 超级芯片，它们再通过 NVLink Switch System 组成高带宽的多 GPU系统，每个 Grace Hopper 超级芯片还配有一个 NVIDIA ConnectX-7 网络适配器和一个 NVIDIA BlueField-3 NIC。从具体参数上看 DGX GH200 性能优异，DGX GH200 可提供高达 1 exaFLOPS=1000 petaFLOPS 的算力。在 2023年底，结合 Quantum-2 Inf

4、iniBand技术与 4台DGX GH200的 AI 超级计算机 NVIDIA Helios（含 1024=4*256 个 GH200 超级芯片）将会推出，或标志英伟达在 AI 和数据分析工作负载加速计算的又一突破。英伟达英伟达 GH200 vs AMD MI300，互联和生态圈或是，互联和生态圈或是 AMD 破局破局的的主要主要障碍障碍 英伟达的 Grace Hopper 与 AMD 的 MI300 同为 CPU+GPU 架构。我们认为，该架构已成为 AI 芯片的趋势，鉴于 AI 的最终目标是模仿人类大脑的操作，AI 芯片也应仿生人脑结构，并顺应多模态模型的发展。CPU 更像左脑，负责对信息

5、的逻辑处理，如串行运算、数字和算术、分析思维、理解、整理等，而 GPU 更像右脑，负责并行计算、创造性思维和想象等。在面对不同模态的推理时，CPU 与 GPU 的分工也各有不同。例如，在处理语音、语言和文本时，计算有序，因此或更适合使用 CPU；但在处理图像、视频等推理时，需要大规模并行运算，或更适宜 GPU。此前，英特尔也曾准备发布同类产品 Falcon Shores。AI 训练多方入局苗头初生，训练多方入局苗头初生，AI 推理百花齐放推理百花齐放难决胜负难决胜负 英伟达的高算力 GPU 一直是 AI 训练的首选，但随着谷歌 TPU、AMD MI300 及云厂商自研芯片等的强势涌入，AI 训

6、练的市场格局变化苗头渐生。谷歌的 TPU 是少数能与英伟 GPU 匹敌的芯片，但面临着通用性的局限；AMD MI300 在制程、架构及算力等多方面虽向英伟达 GPU 看齐，但仍存在软件生态和互联的突围障碍。在 TCO、研发可控性及集成生态圈等因素下，微软、谷歌及亚马逊等头部云厂商推进自研芯片乃大势所趋。在算力要求比训练低的推理端，各类芯片百花齐放，主要根据不同 AI 工作负载来选择，或不会演变出像训练端一家独大的竞争局面。总体而言，AI 训练和推理的 TAM虽在不断变大，但英伟达在当中的增速能否跟上是支撑公司发展的关键。从从 Spectrum-X 网络平台到超算系统，英伟达为网络平台到超算系统