GPU并行计算策略介绍

1、 海外海外公司公司报告报告首次覆盖报告首次覆盖报告 请务必阅读正文之后的信息披露和免责申明 1 NVIDIANVDA证券证券研究报告研究报告 2022 年年 07 月月 16 日日 投资投资评级评级 6 个月评级个月评级 买入首次评级作者作。

2、NN 来看，Transformer 架构下，AI 模型可以为输入序列中的任何字符提供上下文，因此可以一次处理 所有输入 ，而不是一次只处理一个词，从而使得更大规 模的参数计算成为可能。
而从 GPU的计算方式来看，由于 GPU 采用了数量众多的计算单元和超长的流水线，因此其架构设计较 CPU 而言，更适合进行大吞吐量的 AI 并行计算。
。

3、，近年来基本稳定在 80%附近，市场领先地位稳固。
同时根据 Lifter 2019 年 5 月的数据显示，全球四大云计算平台阿里云、AWS、Azure 和谷歌云（GCP）中，英伟达 TESLA系列 GPU产品的市场占有率大幅领先。
其中，阿里云采用英伟达 TESLA系列 GPU 比例为 81%，AWS、Azure 和 GCP 使用比例分别为 89%、100%和 100%，市场份额绝对领先。
2）另外据 Top500.Org 数据显示，英伟达 GPU 产品在全球 Top 500 超算中心的渗透率逐年提高，由 2013H1 的 72.2%提升至 2021H2 的 90.3%，几乎处于垄断地位。
。

4、式，可于图像不同像素内同时运行 4 步操作指令。
设定单个操作操作指令运行需 10 毫秒，FPGA 完成图像整体视觉算法处理时间仅为 10 毫秒，FPGA 图像处理速度显著快于 CPU；3）“FPGA+CPU”架构：此架构下，图像在 CPU 与 FPGA 之间传输，包含传输时间在内的算法整体处理时间仍低于纯 CPU 架构。
。

5、深层神经网络运算能力而研发的 TPU、寒武纪等公司专门为加速神经网络模型的 NPU、地平线基于自研贝叶斯架构而研发的 BPU等。
（4）DSP和 ISP是在模拟信号变换成数字信号以后进行高速实时处理的专用芯片，其中 DSP擅长声音领域加速；ISP擅长图像领域加速，其主要功能包括 AE（自动曝光）、AF（自动对焦）、AWB（自动白平衡）、去除图像噪声等，通过 ISP可以得到更好的图像效果。
。