《中国移动研究院:体系化人工智能与大模型(2023)(11页).pdf》由会员分享,可在线阅读,更多相关《中国移动研究院:体系化人工智能与大模型(2023)(11页).pdf(11页珍藏版)》请在三个皮匠报告上搜索。
1、体系化人工智能与大模型 中国移动 冯俊兰 2023-07-18 1 大模型的优势 强信息集成能力:知识融合、数据融合,系统融合 强生成能力:写诗,作文,画画,代码,多样性(仿现实,非现实)强理解能力:理解长文,短文,问题,指令,代码,提示,图片,视频,声音,表格 2 强生成能力:大模型走向为人“做事”面临的挑战 强信息集成能力:知识融合、数据融合,系统融合 强生成能力:写诗,作文,画画,代码,多样性(仿现实,非现实)泛理解能力:理解长文,短文,问题,指令,代码,提示,图片,视频,声音,表格 3 强生成能力:Weak in Robustness,Coherence,Representation
2、of Understanding(Internal World Model)Hallucination,Measure of Goodness,Control-ability Collaborative learning,Continuous Learning,Complex System AI 复杂系统的智能化体系 业务端到端智能优化能力 大小模型协同机制 人机协同模式 大模型发展路径:研判 研判1 大模型相关的理论和核心技术不断突破,大幅提升总体智能水平,可控性,安全性和可信性亟需攻关。研判2 大模型商用的相关标准,支撑体系,运营运维体系在各个行业逐步完善到位。4 针对项目提出的挑战,我们
3、提出体系化人工智能(Holistic AI,HAI)的攻关思路,依托泛在的网络和AI算力,在开放环境中实现对AI能力进行灵活且高效的配置、调度、训练和部署,以满足日益丰富的数智化业务需求,同时确保AI业务可信可控安全,其主要特征为AI服务大闭环、AI能力原子化重构、网络原生AI及安全可信AI。根据智能化业务需求,按需对AI能力进行调度、配置和运行监控,使其能在最合理的算网资源上运行和服务 行业及个人客户 AI 核心能力及模型提供方 泛AI算力提供方 泛在网络资源提供方 大闭环 泛AI算力 云/网/边/端/GPU/ASIC/NPU/CPU/业务 体系化AI OS AI能力 大闭环 原子化 网络原
4、生 体系化人工智能 5 数据 原子化 能力 大闭环 视觉类 语音类 语言类 结构化数据.基础设施 物理环境 网络设备 硬件算力 仿真环境.无线覆盖异常检测 无线覆盖 异常根因分析 基于图像的 工参异常发现 基于仿真的 天线参数分析 天线参数决策控制 基础大模型1 小模型1 小模型2 基础大模型2.数据协同 模型参数协同 模型互学习 体系化人工智能(Holistic AI)与大模型 小模型3 小模型4.6 大闭环(Big Loop AI):“AI以业务端到端的大闭环优化为目标,重点攻关多能力级联与并联优化、开放动态环境中AI能力优化的基础理论和技术,从而达到AI产业闭环。原子化(Atomized
5、 AI):AI技术依据高复用、易调度、自闭环、易适配等原则进行原子化拆解和重构。一个典型的原子化AI能力包含通用智能层、适配层、接口层,通用智能层可多个能力共享。AI原子化重构是体系化人工智能得以实现的基础。网络原生(Network Native)安全可信(Trust的 AI)Big Loop AI 7 组合多个模型的智能,包括基础模型,行业模型或小模型,并能够端到端服务于业务目标 Interfaces Top-K:Token Embeddings softmax values Matrix multiply:softmax output*matrix Gumbel softmax:smoot
6、h distribution ASR NLU 语音识别+口语自然语言理解 级联优化【12】网络问题投诉 级联优化 Big Loop AI with Small Models 8 Fuse Multiple Models into one target model Cascaded Multi-task Adaptive Learning Based on Neural Architecture Search,Y.Gao,Shilei Zhang,Zihao Cui,Chao Deng,Junlan Feng*.In