《ZEISS:探索新潮流AI服务器引领数据中心的发展报告(64页).pdf》由会员分享,可在线阅读,更多相关《ZEISS:探索新潮流AI服务器引领数据中心的发展报告(64页).pdf(64页珍藏版)》请在三个皮匠报告上搜索。
1、探索新潮流 AI服务器引领数据中心的发展工业质量解决方案应用工程师江茜数据中心介绍基于技术发展的应用新趋势的发现数据中心数据中心:数据中心是承载数据中心是承载 IT IT 基础架构的实体房间、建筑或设施,用于构建、基础架构的实体房间、建筑或设施,用于构建、运行和交付应用和服务,以及存储和管理与这些应用和服务相关运行和交付应用和服务,以及存储和管理与这些应用和服务相关的数据的数据。CAT.ApplicationsSub-APPNew Trends主设备主设备1.IT算力设备服务器#AI 服务器服务器存储设备#固态硬盘固态硬盘2.通信设备交换机#400G/800G 交换机交换机路由器#28.8 T
2、bps 路由器路由器防火墙配套设备配套设备3.供电系统配电柜变压器*UPS柴油发动机组后备电池4.散热制冷系统空气冷却系统液体冷却系统#液冷板液冷板5.管理系统*DCIM*BAS4 42 21 15 53 3*UPS,Uninterruptible Power Supply间电*DCIM,Data Center Infrastructure Management,数据中心基础设施管理*BAS,Building Automatic System,楼宇自控系统图片来于网络24 May 2024ZEISSPage 3数据中心IT 算力设备算力设备#1 AI 服务器服务器#2 固态硬盘固态硬盘通信设备
3、通信设备#3 交换机交换机#4 路由器路由器散热制冷系统散热制冷系统#5 液体冷却系统液体冷却系统图片来于网络5个具有新趋势的重点应用概述#1 AI 服务器#1 AI 服务器介绍GPU运算速度比CPU的运算速度快一般来说,通用服务器主要采用以2/4CPU为主导的串行架构,更擅长逻辑运算;而AI服务器主要采用加速卡为主导的异构形式(2CPUs+4/8GPUsGPUs,CPU+FPGA,CPU+其它加速卡),更擅长做大吞吐量的并行计算。*FPGA,Field Programmable Gate Array CPU的功能模块多,适合复杂的运算环境,大部分晶体管用在控制电路和缓存单元上,少部分用来完成
4、运算工作。GPU的控制相对简单,且需要很大的缓存单元,大部分晶体管可被用于各类专用电路和流水线,GPU的计算速度因此大增,拥有强大的浮点运算能力。vsCPUGPU通用通用服务器服务器 VS VS AIAI 服务器服务器:CPU VS GPU:CPU,Central Processing Unit 中央处理器*GPU,Graphical Processing Unit 图形处理器组成结构25%的 ALU(运算单元)25%的 Control(控制单元)50%的 Cache(缓存单元)90%的 ALU(运算单元)5%的 Control(控制单元)5%的 Cache(缓存单元)图片来于网络图片来于网络
5、部件部件新趋势新趋势电模组多相电多相电电感叠层片式铁氧体磁珠叠层片式铁氧体磁珠PCB多层高阶多层高阶HDIHDI板板连接器高速背板连接器高速背板连接器机架高功率机架高功率机架GPU 板组板组电模组电模组配件配件 连接器连接器CPU 母板组母板组1532配件配件 机架机架5配件配件 电感电感5配件配件 外壳外壳5#1 AI 服务器介绍基本结构和特定部件的新趋势基本结构基本结构:运算能力的提高推动了新技术的发展运算能力的提高推动了新技术的发展:图片来于网络5个硬件板块:GPU 板组CPU 母板组电模组 硬盘配件(外壳,机架,连接器,电感等)数据中心IT 算力设备算力设备#1 AI 服务器服务器多相
6、电叠层片式铁氧体磁珠多层高阶HDI板高速背板连接器高功率机架#2 固态硬盘通信设备#3 交换机核心交换机光模块#4 路由器散热制冷系统#5 液体冷却系统液冷板5个具有新趋势的重点应用概述24 May 2024ZEISSPage 7图片来于网络AI 服务器 电源模组多相电成为CPU/GPU供电的主流方案多相电上连接的元件数量显著增加。电源模组电感PCB连接器机架高多层PCB能够提供更多的走线层,让电路设计更加复杂和密集,从而满足大电流负载的需求。但是,高多层PCB面临着更高的生产复杂性和性能挑战。图片来于网络图片来于网络AIAI服务器中多相电供电版图服务器中多相电供电版图高多层高多层PCBPCB