英伟达-美股公司-GTC 2023跟踪报告：AI的iPhone时刻到来英伟达全力加速生成式AI发展-230323（24页）.pdf

1、 敬请阅读末页的重要说明 证券研究报告|行业简评报告 2023 年 03 月 23 日 英伟达英伟达 GTC 2023 跟踪报告跟踪报告 TMT 及中小盘/电子 事件：事件：英伟达 GTC 开发者大会于 3 月 20-23 日举办，英伟达 CEO 黄仁勋于 3 月 21日发表主题演讲，介绍 AI 的最新进展，以及 AI 技术如何影响每个行业和日常生活。综合演讲及材料信息，总结要点如下：评论：评论：1、Grace 打造超打造超低功耗计算利器，低功耗计算利器，H100 助力助力 DGX 创造创造 AI 的的 iPhone 时刻时刻。Grace CPU：擅长单线程执行和内存处理，包含 72 个 Ar

2、m 核心，可提供 3.2TB/s的带宽，Grace Superchip 通过 900GB/s 的接口连接两个 CPU，可提供 1TB/s的带宽，是目前系统的 2.5 倍，功耗仅是其 1/8，采用风冷即可，适合云计算和科学计算应用。DGX（AI 超级计算机）：超级计算机）：LLM 实现突破的引擎，创造 AI 的 iPhone时刻，配备 8 个 H100 GPU 模组，通过 NVLINK Switch 相连，H100 配备Transformer 引擎，旨在处理 ChatGPT 模型。四大推理四大推理芯片芯片平台平台：1）L4：针对 AI 视频工作负载，优化视频编解码、内容审核和通话功能；2）L40

3、：针对Omniverse、图形渲染以及文本转图像和文本转视频等生成式 AI；3）Hopper GPU：配备双 GPU NVLINK 的 PCIE H100，目前云上唯一可以处理 ChatGPT的 GPU 是 A100，一台搭载 4 对 H100 及双 NVLINK 的标准服务器速度要快 10倍，H100 可将 LLM 的处理成本降低一个数量级；4）Grace Hopper：新的超级芯片，通过 900GB/s 的芯片接口连接 Grace CPU 和 Hopper GPU，适合处理大型数据集，例如推荐系统和 LLM 的 AI 数据库。2、完善多应用领域加速库建设，台积电预计完善多应用领域加速库建设

4、，台积电预计 23M6 将对将对 cuLitho 进行生产认证进行生产认证。加速库：加速库：加速计算的核心加速计算的核心。cuQuantum 对量子计算机进行加速；Spark-RAPIDS可加速云数据处理平台；cuOpt 用于运筹学领域解决组合优化问题；CV-CUDA和 VPF 是用于计算机视觉和视频处理的云规模加速库；Parabricks 可用于基因组分析；cuLitho 计算光刻库，与台积电、ASML 和 Synopsys 合作将计算光刻加速了 40 倍以上，台积电在 500 个 DGX H100 系统上将功率从 35MW 降至5MW，替代用于计算光刻的 4 万台 CPU 服务器，为 2n

5、m 等生产做准备，台积电将于 6 月对 cuLitho 进行生产资格认证。软件软件 SDK 构成的构成的推理平台：推理平台：NVIDIA TensorRT 用于推理运行时针对指定 GPU 进行性能优化。NVIDIA Triton 用于数据中心的推理服务，支持多种深度学习框架，支持 GPU 和 CPU。NVIDIA BlueField：高效管理数据中心操作系统和软件。3、云服务云服务为全球各类公司普及生成式为全球各类公司普及生成式 AI 机会，推出语言机会，推出语言/视觉视觉/药物研发模型药物研发模型。NVIDIA DGX Cloud：为客户提供出色的 NVIDIA AI 服务，通过与 Micr

6、osoft Azure、Google GCP 和 Oracle OCI 合作，通过浏览器即可将 NVIDIA DGX AI 超级计算机即时地接入每家公司，为迫切需要使用生成式 AI 的客户提供了在全球云端即时访问 NVIDIA AI 的机会。NVIDIA AI Foundations：面向需要构建、优化和运营定制 LLM 和生成式 AI 的云服务，包括语言、视觉和生物学模型制作服务。NVIDIA Nemo 用于构建定制的语言文本转文本生成式模型，可便捷地采用预训练模型借助 NeMo 进行快速模型设计。Picasso 是一项视觉语言模型制作服务，面向希望使用许可内容或专有内容来训练自定义模型的客