商汤科技&智算联盟：2023新一代人工智能基础设施白皮书（64页）.pdf

1、1新一代人工智能基础设施白皮书中国智能算力产业联盟人工智能算力产业生态联盟商汤科技智能产业研究院2编委会指导单位中国信息通信研究院云计算与大数据研究所、中国科学院计算技术研究所、中国智能算力产业联盟、人工智能算力产业生态联盟指导委员会何宝宏中国信息通信研究院云计算与大数据研究所所长张云泉中国科学院计算技术研究所研究员安静中国智能算力产业联盟秘书长杨帆商汤科技联合创始人、大装置事业群总裁陈宇恒商汤科技联合创始人、大装置事业群副总裁鸣谢王婉秋、李兆松、成功、杨松、宾佳丽、孙振邦、苏立宇、刘武、贾海刚、刘雅婧、代继、何聪辉、曹阳、张雯、许伟军、杨学燕、蒋慧、王进、谭覃、何茜、刘沛、张琛编写组王月中国

2、信息通信研究院云计算与大数据研究所数据中心部副主任周彩红中国信息通信研究院云计算与大数据研究所数据中心部工程师程大宁中国科学院计算技术研究所特别研究助理刘亮商汤科技智能产业研究院战略研究主任杨燕商汤科技智能产业研究院战略研究主任田丰商汤科技智能产业研究院院长3“商汤成立之初，我们认为 AI 产业在未来一定会形成分化。在分化的过程中，整个 AI 基础设施上的各个要素，以一种更加高效、低成本的方式，被提供给更多的人使用，从而降低 AI 基础设施的构建成本和使用门槛。”杨帆，商汤联合创始人、大装置事业群总裁4目录关键发现.6导语：AI 新基建开启“三浪变革”.8一、大模型、生成式 AI 推动 AI

3、2.0 时代到来.121.生成式 AI 推进产业规模化，AI 无处不在愿景加速实现.132.产业链成熟分化，基础设施成为 AI 产业发展基座和保障.16二、AI 2.0 时代对 AI 基础设施提出了全新要求.191.传统计算基础设施无法满足大模型、生成式 AI 的新要求.192.数据质量和效率决定大模型的高质量发展之路.223.大模型需要全新的 AI 平台服务模式.23三、新一代 AI 基础设施的定义、特点和价值.251.新一代 AI 基础设施的主要特点.272.新一代 AI 基础设施创造社会价值.293.新一代 AI 基础设施赋能企业享受生成式 AI 红利.31四、新一代 AI 基础设施厂商

4、格局与评估.331.云计算、AI 原生、硬件系统三类厂商塑造市场格局.332.评估体系：产品能力、战略愿景与市场生态.363.商汤科技评估结果：新一代 AI 基础设施市场领导者.394.SenseCore 商汤大装置技术发展优势.415.SenseCore 商汤大装置业务布局优势.45五、新一代 AI 基础设施实践案例.481.大模型训练.4852.生成式 AI 应用.513.AI 专家服务.544.智算中心建设与运营.55六、建议.59结语：新一代人工智能基础设施的“经济规律”.616关键发现1.2023 年是人工智能产业发展的分水岭，以大模型、生成式 AI 为发展里程碑的技术革新，推动着人

5、工智能发展进入全新的 2.0 时代，人工智能由之前点状、创新应用，逐步规模化发展赋能企业业务流程各个环节，并逐步向产业深水区发展，推动产业链分化成熟，需要全新的基础设施来实现更好的支撑。2.大模型和生成式的发展对算力、算法平台、数据提出全新要求，传统以 CPU为中心的云计算基础设施已无法满足。不仅需要大规模、高性能、高稳定性算力资源，智能化数据管理流程，以及高效普惠 AI 开发平台；还要打造体系化工程系统保证基础设施面向大模型训练、生成式 AI 应用落地的新目标。3.Model as a Service（MaaS）成为新一代 AI 基础设施的核心，其本质是通过云服务向开发者和企业提供更高效的大

6、模型服务。MaaS 加速了 AI 应用部署的周期，提升了创新的迭代速度，降低了企业应用大模型服务的多方面成本，推动了 AI 与各行业的深度整合。通过纳入开源和闭源大模型，MaaS还助力于构建成熟的生态系统，促进生成式 AI 应用的规模化落地。4.新一代 AI 基础设施不是传统云的 AI 化，两者具有明显定位和发展路径的差别。新一代 AI 基础设施主要面向产业用户，为大模型训练、区域行业及应用孵化创新提供 AI 基座。新一代 AI 基础设施跟随产业布局，采用“大中心+节点”模式，构建起覆盖整个区域的算力网络，并通过建（设）运（营）联动促进区域经济的一体化和智能化发展。75.新一代 AI 基础设施