NVIDIA Ampere 构架带来 vGPU 新特性.pdf

1、NVIDIA架构带来VGPUNVIDIA AMPERE的新特性#page#AGENDA11.1发布支持A100VGPU助力通程工作VGPU合作伙伴Q8A#page#VGPU SEPTEMBER 2020（11.1）RELEASEVirtual Compute Server for NVIDIA A100 Tensor Core GPU个个1A100 WITHVCSGPUDirectMULTI-INSTANCE GPU (MIG）HETEROGENOUS部署和编排支持RDMA支持各种大小的VM资源隔离提供实时的端到端管理多OS支持，每个mig实例可虚拟机隔离和灵活的GPU资以运行不同的0S源共享

2、#page#新一代GPUNVIDIA A100 SXM ANDNVIDIA A100 PCIEA100 PCle最大飞跃一对比volta20倍性能提升PeakVs VoltaFP32 TRAINING312TFLOPS20X1.2483 TOPS20XINT8 INFERENCEA100 SXMFP64HPC19.5TFLOPS2.5XMULTI INSTANCE GPU7X GPUs0O54BXTOR826mm2TSMC7N|40GBSamsung HBM2#page#A100五大提升点安培無构第三代TensorCores界上最大的7nm芯片，更灵活。更易于使用更快54BXTORS,HBM2

3、20XAI性能与TF322.5倍HPC性能新种疏加速MIG第三代NVLINK和NVSWITCHHamessSparsity in A Models灵活尺寸的GPU可实现最佳利用率高数扩展以总用短级GPU2xA Performance每个GPU最大支持7个同时透行的实创带宽增加2倍#page#提高IT运营效率更大的灵活性，减少部署时间，运行最新软件RedHatcitrixVGPU 10.0GuestswwareubuntueWindowsVGPU 11.0Host跨版本支持管理和监控第三方软件支持VGPU10.0之后开始支持支持DRS和最新版本的VROPSGuest OS&Hyperv#page

4、#NVIDIA A100 MIG MODE DISABLEDVCS时分复用MIG Disabled时间分区无需重新启动即可配置分区VMVMVMVM最大支持10个vm在一个物理GPU上启动Compule DterCompute DrwerCcmpute DerComps DrverGuastOs1GusstO52GUSSOS3GuestOS4同类配置文件大小从4GB（4C）到40GBNycPUsMA Virtua（40C）NVIDIAvirtualization sofware最大多租户10:1Hypervisor可配置调度器GPUGPU Memory#page#NVIDIA A100 MIG

5、MODE ENABLED带有空间分区的NVIDIAVGPUMIG EnabledGPU物理分割1:1-1个vm对应1个mig实例VMVM最大多租户7：1Compule DrwarCompute DrveGuasOS1GuaslOS2基于MIG实例配置的异类配置文件大小NVIDL使用不同的操作条统运行应用程序Hypervisor具有专用的高带宽内存，高速级存和计算核心的GPUGPUGPU硬件级别的完全隔离和安全的实例PUGPU MemoryGPU MemoryMem需要重启才能配置分区#page#NVIDIAVIRTUALGPU产品组合虚拟化助力不同类型工作负载Virtual Compute S

6、erver (VCS）GRID vPC/vAppsQuadro VDWSQuadro Virtual Workstation国形工作站企业云用产AI，数据科学家图形工作站会有云用#page#NVIDIAA100MIG实例测试数据MIG2g.10gbInstance实例上的春吐性能1.20.80.60.40.2MIG2g.10gbMIG2g.10gbMIG2g.10gbInstance 1Instance 2Instance 3口MIG Bare Metal口MIIG w/ VCS#page#助力远程工作#page#为新的数字工作者提供动力使用虚拟GPU产品提高生产力拥他新事态图形需求增加随处访