BERT模型训练与推理比较 当时谷歌的 BERT 模型的知名度更高,甚至 OPENAI 也以 BERT 模型作为标杆企业来对比,因此 A100 对比了在 BERT 模型上的训练与推理速度。它在 FP32 精度下是V100 训练速度的 6 倍,借助 MIG 技术在推理上 A100 速度可提升 7 倍。与 CPU 相比,在 BERT 等先进的对话式 AI 模型上,A100 可将推理吞吐量提升 249 倍。 行业数据 下载Excel 下载图片 原图定位