《ODCC:2025云边协同AI网络技术白皮书(43页).pdf》由会员分享,可在线阅读,更多相关《ODCC:2025云边协同AI网络技术白皮书(43页).pdf(43页珍藏版)》请在三个皮匠报告上搜索。
1、开放数据中心标准推进委员会ODCC2025年9月云边协同 AI 网络技术白皮书云边协同 AI 网络技术白皮书编号 ODCC2504001版权声明版权声明ODCC(开放数据中心委员会)发布的各项成果,受 著作权法保护,编制单位共同享有著作权。转载、摘编或利用其它方式使用(开放数据中心委员会)发布的各项成果,受 著作权法保护,编制单位共同享有著作权。转载、摘编或利用其它方式使用 ODCC 成果中的文字或者观点的,应注明来源:“开放数据中心委员会成果中的文字或者观点的,应注明来源:“开放数据中心委员会 ODCC”。对于未经著作权人书面同意而实施的剽窃、复制、修改、销售、改编、汇编和翻译出版等侵权行为
2、,。对于未经著作权人书面同意而实施的剽窃、复制、修改、销售、改编、汇编和翻译出版等侵权行为,ODCC 及有关单位将追究其法律责任,感谢各单位的配合与支持。及有关单位将追究其法律责任,感谢各单位的配合与支持。编写团队编写团队项目经理:项目经理:杨帅杨帅深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司工作组长工作组长:陈炜陈炜深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司贡献专家贡献专家:杨帅杨帅深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司李秋香李秋香深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司陈炜陈炜深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公
3、司方盼方盼深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司李团营李团营深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司时浩浩时浩浩深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司关子轩关子轩深圳市腾讯计算机系统有限公司深圳市腾讯计算机系统有限公司何宗应何宗应博通博通周大为周大为博通博通王娜王娜博通博通曲延光曲延光博通博通张骏张骏安擎计算机信息股份有限公司安擎计算机信息股份有限公司李锴李锴中国移动通信有限公司中国移动通信有限公司董勋董勋百度网讯科技有限公司百度网讯科技有限公司周曼周曼中国信息通信研究院中国信息通信研究院阮迪阮迪中国信息通信研究院中国信息通信研究院郭利文郭利
4、文深圳富联富桂精密工业有限公司电子科技大学深圳富联富桂精密工业有限公司电子科技大学前言前言DeepSeek 发布后,AI 应用流量持续上涨、推理和智能体驱动了算力需求的爆炸式增长,边缘算力开始成为中心算力的快速补充,未来将形成云边协同的分布式算力基础设施,边缘高集成轻量算网集群技术、云边协同技术等将成为分布式算力协同发展的技术加速器,在此背景下,本项目将分析分布式算力基础设施下 AI 推理及训练的流量特性及对网络的需求,研究边缘 AI 网络技术、云边互联网络技术、分布式算力的统一纳管调度技术以及云边协同 AI 能力等。分布式算力基础设施覆盖云边包含中心算力机房、自有边缘算力机房、多云/第三方合
5、作算力机房等。在此基础设施上提供各种 AI 应用及 AI 云服务,例如聊天机器人、AI 知识库、云 AI 及智能体开发平台、图片生成等 AI 服务。针对云边协同的分布式算力基础设施,一方面是构建边缘 GPU算力网络集群网络,包含 AI 推理请求和存储的前端网络、GPU 间通信的后端网络。另一方面是要构建连接中心算力和边缘算力的云边互联网络,为算力的统一调度和管理提供稳定可靠的网络通道,以承载推理请求及响应、模型文件、容器镜像及软件包传输等。AI 云平台等通常位于中心云,也逐渐扩散到边缘侧,构建分布式协同的 AI 平台,包含算力纳管、资源调度、推理及训练框架、对象存储、镜像源、数据传输等支撑组件
6、。通过边缘算力的统一管理和调度,可实现算力的弹性扩展、更短的响应时延和更轻量地应用部署。LLM 云边协同 AI 发展包含三个阶段:阶段一边缘算力对中心算力的快速补充阶段,该阶段云边间流量包含 LLM 推理请求响应、管控流量、LLM 训练数据传输;阶段二 LLM 推理请求响应下沉到边缘算力中心,实现延时和成本优化;阶段三 LLM 推理和 LLM 训练进一步下沉到近场边缘侧的云边端协同 AI。本云边协同AI网络技术白皮书覆盖云边协同AI阶段一和阶段二,描述算力集群前端网络云边协同的背景及挑战、技术目标、关键技术、及对阶段三云边端协同 AI 的展望。目录目录一、云边协同 AI 发展趋势及挑战.1(一