腾讯 GPU 云服务器打造云端高性能 AI 解决方案.pdf

1、腾讯GPU云服务器，打造云端高性能AI解决方案宋丹丹腾讯云异构计算产品负责人#page#Tencent腾讯一腾讯云目录Part1覆盖全业务场景的GPU云服务器解决方案Part2新技术架构&新产品发布Part3 Case Study#page#Tencent腾讯一腾讯云1、腾讯云GPU服务器发展历程GN8（P40）、GN10X（V100）发布VGPU上线GT4（A100）发布GPU云服务器发布GN7（T4）发布GN9（V100）实例发布一全2019年9月2020年1月2020年11月2017年9月2018年10月2016年12月#page#Tencent腾讯一腾讯云1、腾讯云异构计算全景多媒体编

2、解码高性能科学计算图形演染&云游戏深度学习推理&训练GA2GN7GT4GT4GN7WWGN10XpGN7GN6SGN10Xp腾讯云虚拟化平台BMCVMTKEKSVStationVGPU虚拟化vCS： ComputingpGPU直通License ServerGRIDVDWS:WorkstationSRIOVvGaming: Cloud GamingCPUGPUSMARTNICRAMNVMe#page#Tencent腾讯腾讯云1、腾讯云GPU实例规格：实例规格更丰富，技术能力更全面VGPU1十2C4C8CGN7Vw T4图形渔染16C64G2932GIntelxeon8255c16G云游戏牛卡2

3、卡8C32G深度学习/训练GN7 T410C4C80C320G40C160G20C80C/推理40G20GntelXeon8255c32C128G视频转码深度学习/训练黑石物理服务器BMG5tT496C384G8卡telXeon8255C/推理GN10XpV100-NVLINK-2C4C80C320G10C40G20C80G40C160G高性能科学计算8G16G深度学习/训练独有/推理GN10XV100-NVLINK-2C4C8C40G36C160G72C320G18C80G20G32GIntelxeon613310G高性能科学计算黑石物理服务器HCCG5VV100-NVLINK-32G96C

4、384G深度学习/训练Intel Xeon8255c/推理深度学习/训练GN6s P44C20G8C40G/推理IntelXeon4110视频转码深度学习/训练GN8 P406C56GB56C448G14C112G28C224GIntalXaonE5-2680v4/推理#page#Tencent腾讯！腾讯云1、腾讯云GPU云服务器全球部署：境内地域优势明显，境外地域覆盖更户Westemn USCPUiOpertByOc.2020#page#Tencent腾讯一腾讯云1、腾讯云GPU应用：丰富的应用方式IA场景解决方案讯智能对话平台TBP人工智能服务平台TIMatri深度学习平台智能钛机器学习平

5、台TI-ONE智能钛弹性模型服务TI-EMS能钛工业AI平台TI-PaaS层接入弹性容器服务EKS容器服务TKElaaS层接入专用宿主机CDH黑石物理服务器2.0CPMGPU云服务器#page#Tencent腾讯一腾讯云1、腾讯云GPU易用性：驱动自动化安装+license一键安装简单好用传统缺乏优化需要经验安装复杂驱动自动化安装，License一键部署一站选择CUDA，cuDNN安装腾讯云灵活简单预装镜像NGC支持#page#Tencent腾讯一腾讯云目录Part1覆盖全业务场景的GPU云服务器解决方案Part2新技术架构&新产品发布Part3 Case Study#page#Tencent

6、腾讯腾讯云2、腾讯云GPU全新技术架构：基于NVIDIAA100的直通架构8-GPUS只有6-NVSwitchs如何设计高性能互联上云方案？HypervisorUploadcomutibvirt腾讯云A100直通方案：Fabric1.fabricmanagerservice共享放在host中；PartitiorTencerTencenNVSwitchManaBeNVSwitch1ol pn2.增加一个fabricmanageclient组件用RequestServiceUploacdient于请求partition