AI 服务器:更适合深度学习等 AI 训练场景 AI 服务器采取 GPU 架构,相较 CPU 更适合进行大规模并行计算。通用服务器采用 CPU作为计算能力来源,而 AI 服务器为异构服务器,可以根据应用范围采用不同的组合方式,如 CPUGPU、CPUTPU、CPU 其他加速卡等,主要以 GPU 提供计算能力。从 ChatGPT模型计算方式来看,主要特征是采用了并行计算。对比上一代深度学习模型 RNN 来看,Transformer 架构下,AI 模型可以为输入序列中的任何字符提供上下文,因此可以一次处理 所有输入 ,而不是一次只处理一个词,从而使得更大规 模的参数计算成为可能。而从 GPU的计算方式来看,由于 GPU 采用了数量众多的计算单元和超长的流水线,因此其架构设计较 CPU 而言,更适合进行大吞吐量的 AI 并行计算。