《中国信通院：MaaS框架与应用研究报告（2024年）（46页）.pdf》由会员分享，可在线阅读，更多相关《中国信通院：MaaS框架与应用研究报告（2024年）（46页）.pdf（46页珍藏版）》请在三个皮匠报告上搜索。

1、MaaSMaaS 框架与应用研究报告框架与应用研究报告（20242024 年）年）中国信息通信研究院人工智能研究所中国人工智能产业发展联盟2024年6月版权声明版权声明本报告版权属于中国信息通信研究院、中国人工智能产业发展联盟，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明本报告版权属于中国信息通信研究院、中国人工智能产业发展联盟，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院、中国人工智能产业发展联盟来源：中国信息通信研究院、中国人工智能产业发展联盟”。违反上述声明者，本院将追究其相关法律责任。违反上述声明者，本院将追

2、究其相关法律责任。前言前言以大模型为代表的新一代人工智能技术迅猛发展，展现出广阔应用前景，有望成为驱动新质生产力发展的重要技术引擎。然而，大模型的应用面临着技术复杂、训练推理成本高、应用开发难度大等挑战。模型即服务（MaaS，Model as a Service），是指将人工智能算法模型以及相关能力进行封装，以服务的形式对用户提供，其核心目标是降低人工智能技术使用门槛，控制应用建设成本，简化系统运维管理复杂度，提升人工智能技术的综合应用效能，从而加速“人工智能+”进程。近年来，随着大模型的快速发展，MaaS 服务和产品也进入快速发展期，并在金融、政务、电信等行业不断落地，产生了积极成效。但目前

3、产业界各方就 MaaS 定义和框架仍未形成广泛共识，模型服务能力也尚未标准化，一定程度制约了 MaaS 的发展和应用。本报告系统梳理了 MaaS 的发展历程、现状和面临的挑战，基于产业实践进一步明确了 MaaS 的概念，提出了 MaaS 的功能框架，并对 MaaS 落地应用情况进行了分析，最后对 MaaS 发展趋势进行展望。由于大模型和人工智能技术产业仍然处在快速发展阶段，MaaS 技术产品、服务和应用也在快速演变，我们对 MaaS 的认识将随着产业实践不断深化，报告存在的不足之处，恳请大家批评指正，联系邮箱：。目录目录一、MaaS 概述.1（一）MaaS 起源与概念.1（二）大模型促使 Ma

4、aS 快速发展.2（三）MaaS 助推大模型规模化落地.5二、MaaS 发展现状及挑战.7（一）MaaS 产业发展现状.7（二）MaaS 发展面临的挑战.10三、MaaS 框架与能力要求.13（一）MaaS 框架说明.13（二）模型平台层.14（三）模型层.18（四）应用开发层.20（五）模型服务协议框架.23四、MaaS 应用分析.25（一）MaaS 落地条件及优势场景解析.25（二）MaaS 行业实践案例及成效剖析.28五、总结与展望.36主要参考文献.39编制说明.40图 目 录图 目 录图 1MaaS 上下游关系示意图.7图 2MaaS 产业图谱.9图 3MaaS 两种落地模式特点对比

5、图.10图 4MaaS 框架图.13图 5MaaS 定位与比较示意图.14图 6模型平台层能力架构图.15图 7零代码微调模型界面示意图.17图 8模型层能力架构图.18图 9ModelScope 模型层实践图.20图 10应用开发层能力架构图.21图 11AppBuilder 架构图.23图 12服务协议架构图.24图 13MaaS 在各行业应用占比.26图 14企业价值链各环节生产场景占比图.27图 15MaaS 应用案例统计图.28图 16平安银行 BankGPT-MaaS 服务平台.29图 17平安银行 MaaS 服务平台落地效果.30图 18中国电科院一体化 MaaS 平台架构.31

6、图 19广东移动私域大模型体系.32图 20金融风控 MaaS.34图 21金融风控领域 MaaS 建模与传统建模效果对比.34图 22金融风控大模型与传统定制模型性能对比.35表 目 录表 目 录表 1大模型落地问题及 MaaS 解决方式.5MaaS 框架与应用研究报告（2024 年）1一、一、MaaS 概述概述随着以大模型为核心的人工智能技术的深入发展，模型即服务（MaaS，Model as a Service）作为一种新型人工智能服务模式焕发新生。本章将明确 MaaS 的概念及主要的服务能力范围，剖析大模型时代 MaaS 快速发展的必然性，阐述 MaaS 在解决大模型规模化落地方面的重要

7、意义。（一）（一）MaaS 起源与概念起源与概念MaaS 基本形态早已形成。2012 年美国数据科学家 DJ帕蒂尔（DJ Patil）首次提出 MaaS 概念1，即“将机器学习算法打包成可重复使用的服务，使企业能够快速地构建、部署和监控模型，无须开发和维护底层基础架构”，以此来适应 AI 模型需求快速增长的情况。此时 MaaS 多以 AI 能力开放平台的形式存在，平台之上承载人脸识别、光学字符识别（OCR）等特定场景的 AI 能力。该类 AI 能力由若干个模型及规则、数据库等组合构成，但覆盖功能和场景有限，应用方式较为单一，主要以工具包（SDK）等方式嵌入至业务系统。传统 AI 模型落地成本低

8、且泛化性不足，MaaS 所带来的增益尚不明显。大模型以其庞大的参数量与独特的模型结构展现了良好性能，推理能力的提高使得模型可以解决复杂逻辑问题，泛化性的提升拓宽了其应用范围，生成能力的增强赋予了模型更多的创造性。然而，模型的高性能对数据和算力的需求也相应增长，成本的增加使得模1模型即服务：机器学习小而美的未来MaaS 框架与应用研究报告（2024 年）2型规模化落地存在阻碍。在此背景下，MaaS 通过提供服务的方式，显著降低了用户使用大模型的门槛，让业务能够更快速、更有效地享受大模型价值。根据毕马威预测，模型即服务（MaaS）将是 AGI生态构建的核心2。因此，MaaS 成为大模型落地应用的主

9、要形态，提升模型规模化落地效率。大模型背景下 MaaS 概念是指将 AI 模型及其相关能力打包成可重复使用的服务，使企业能够快速高效地构建、部署、监控、调用模型，无须开发和维护底层基础能力。与早期 MaaS 概念相比能力范围有所拓展，一方面机器学习算法扩展至包括深度学习、大模型等在内的所有 AI 模型；另一方面基于模型服务，用户不仅可直接调用服务进行推理，也可基于服务进行 AI 应用的构建，扩大模型服务的使用范围。MaaS 主要提供三部分服务能力，一是提供包括模型训练、调优和部署等在内的全栈平台型服务，以支持低门槛的模型开发与定制，用户无需关注 AI 算力、框架和平台即可生产和部署模型；二是提

10、供包括大小模型及公私域数据集的丰富资产库服务，以支持模型和数据集的灵活快速调用，用户无须生产和部署模型即可调用模型和数据集服务；三是提供基于 AI 模型的应用开发工具服务，以支持快速打造场景化应用，用户无须搭建开发工具即可进行 AI 应用开发。（二）大模型促使（二）大模型促使 MaaS 快速发展快速发展大模型正驱动着“人工智能+”（AI+）需求的迅猛增长，加快了2人工智能全域变革图景展望：跃迁点来临（2023）MaaS 框架与应用研究报告（2024 年）3AI+在各行业的落地进程，并由局部散点落地向全流程赋能不断迈进，催生了庞大的市场需求。如金融行业，主要应用于营销、客服、风控等场景，有效解决

11、金融领域人力成本高、风险管控滞后等问题，某银行基于 AI 的智能风控可实现毫秒级别的快速风控，将风险防控准确率提升约 2 倍；电信行业，主要应用于客户服务、营销推广、网络运维、故障预测等场景，有效解决电信领域用户需求复杂、网络优化难度高等问题，某运营商打造基于网络大模型的网络运维 AI助手，使得网络运维准确率达 88%以上；政务行业，主要应用于市民咨询、舆情分析等场景，有效解决基层工作强度大、响应速度慢、数据孤岛等问题，某单位利用大模型提升政务工作效率，在接诉即办场景中派单准确率达到 87%以上3；除了赋能行业的散点场景外，企业内 AI+逐步向全流程赋能迈进，推进全域数智化转型，如某头部互联网

12、企业内部已有超过 400 个业务及场景接入大模型，其中协作类应用产品全部接入大模型，全面赋能会议、文档、代码等相关日常工作，以 AI 代码助手为例，已覆盖该企业超 50%的研发人员，编码效率提升 20%以上4。然而，随着大模型性能的不断增强和应用需求大规模增长，其技术成本和经济成本也愈加高昂，面临的挑战也愈加复杂。一是大模型在落地过程中需要海量算力，而企业获取算力门槛高。随着模型参数量变大，大模型训练算力需求以每 2 个月翻一番3中国信息通信研究院企业调研访谈4https:/ 框架与应用研究报告（2024 年）4的速度增长5，模型推理成本也在持续增加。并且大模型训练推理所需的芯片资源有限，进一

13、步加剧了算力获取的难度。二是大模型较传统 AI 模型在训练、调优、推理和部署等方面的技术难度均有明显提升。大模型训练调优所需数据的结构更加复杂，对数据集数量和质量的要求更高，并且出现了提示工程、强化学习等新技术，增加了技术壁垒。同时，巨大的算力需求对分布式并行计算加速提出了更高要求，此外大模型用于边端推理时，需对模型进行压缩，并保持足够的模型性能，技术门槛较高。三是大模型工程化落地时烟囱式建设造成资源浪费。大模型成为当前诸多企业数智化转型的敲门砖，在企业内部往往有多个团队希望将大模型与私有业务数据相结合，调优出适合专属场景的模型，进一步提升业务价值。但从企业整体视角来看，内部场景需求多有重复，

14、而大模型的泛化能力足以应对同类行业场景的不同需求，若仍采用各团队自行维护模型的烟囱式模式，将会导致算力和人力的极大浪费。四是大模型应用在落地最后一公里时仍存在场景适配难和开发效率不足的挑战。一方面模型应用方具备丰富的行业经验和高质量数据集，但缺乏模型落地相关技术，而模型厂商虽然有相关技术储备但缺乏行业积累，所以场景适配的落地方案存在难度；另一方面，随着企业 AI+的全线推进，模型应用的场景需求越来越多，而模型应用的开发难度大且周期长，难以适应业务不断变化的需求。5https:/ 框架与应用研究报告（2024 年）5综上所述，大模型规模化落地面临高性能、高需求、高成本等落地压力和挑战，而 Maa

15、S 基于高效、便捷、灵活等优势，可成为推动大模型应用落地的重要力量，使得 MaaS 在大模型时代下的增益效果更为突出。（三）（三）MaaS 助推大模型规模化落地助推大模型规模化落地MaaS 主要具备三个显著特性。技术低门槛，有助于将模型普惠更广泛的用户群体；模型可共享，推动行业资源的有效利用和技术进步；应用易适配，使得模型服务能够快速融入业务场景。MaaS 围绕模型生产、模型调用、模型应用开发等过程，提供包括平台服务、模型服务、数据集服务、AI 应用开发服务在内的全栈服务，并对模型等资产进行统一管理，提升规模化生产效率，培育和打造新质生产力，为各行业带来变革。表 1 大模型落地问题及 MaaS

16、 解决方式大模型落地问题大模型落地问题解决方式解决方式MaaS 特性特性大模型技术门槛高在模型训调方面，通过全流程工具、快速找到合适的调优路径，加速模型定制技术低门槛在模型部署方面，提供部署服务，简化部署上线过程在模型运营管理方面，通过全生命周期运营监控，增强运营效率模型重复开发浪费资源在管理方面，提供可共享的模型服务，减少开发资源浪费，通过统一管理降低风险模型可共享在落地方面，基于已有模型的微调，减少模型选择和试错成本AI 应用开发效率低通过 AI 应用开发工具实现多模型协同，应对企业规模化的复杂场景需求，提高开发效率应用易适配来源：中国信息通信研究院MaaS 通过提供全流程平台工具降低技术

17、门槛。在模型训调方面，MaaS 框架与应用研究报告（2024 年）6降低了学习新型训练或调优算法的成本，可快速找到合适的调优路径并完成闭环的强化学习通路，新手亦可快速完成专属模型定制；在模型部署及运营管理方面，对于部署上线过程复杂等问题，提供快速部署服务，并匹配全生命周期运营监控工具，降低了模型部署和运维的技术难度。MaaS 通过提供集约化的模型库和数据集，解决重复造轮子的资源浪费问题。在管理方面，当模型从单点试验向规模化落地发展时，模型的量变将引起效率的质变，通过模型共享可减少开发资源的浪费，通过模型等数字资产的统一管理有助于提升风险可控性，资源的高效利用和规范管理将成为企业长远发展的保障；

18、在落地方面，通过直接调用模型服务和数据集，减少了数据处理、选择模型以及模型调优部署的过程，加快了开发进度，快速响应业务需求。MaaS 通过提供模型应用的高效开发能力，适配企业规模化场景需求。模型应用场景众多，但企业内部开发资源有限，MaaS 在模型服务的基础上提供面向业务场景的应用开发平台或工具，帮助用户快速构建基于 AI 模型的应用。如在面临单个模型无法解决复杂业务需求的情况下，提供检索增强生成（RAG）、大小模型协同、插件编排等多种方式以增强模型能力，并以智能体（AI Agent）等方式向用户提供更优质的服务。MaaS 让更多用户可以生产个性化的模型应用，为 AI 模型规模化落地提供有效路

19、径。MaaS 框架与应用研究报告（2024 年）7二、二、MaaS 发展现状及挑战发展现状及挑战MaaS 作为一种智能化服务新模式得到迅速发展，本章将围绕产业图谱及落地方式阐述当前 MaaS 的产业发展现状，并分析 MaaS落地面临的挑战。（一）（一）MaaS 产业发展现状产业发展现状MaaS 在人工智能产业链中处于中游位置，基于平台服务、模型及数据集服务、应用开发服务的供给能力，形成了初步的产业图谱，且各类参与方积极发挥自身优势，形成不同落地模式。1.MaaS 产业图谱初步形成MaaS 基于算力基础设施的支持，面向场景提供多种应用，具备从模型生产到模型调取并打造成 AI 应用的全流程能力。来

20、源：中国信息通信研究院图 1 MaaS 上下游关系示意图MaaS 产业图谱（如图 2 所示）中，平台服务构成了 MaaS 生态系统的基座能力。国外如 Google 的 AI Platform、微软的 AzureMachine Learning 以及亚马逊的 Amazon SageMaker 等平台，提供了从数据处理到模型训练、验证、部署及监控的流水线服务。国内如MaaS 框架与应用研究报告（2024 年）8阿里云 PAI 平台、腾讯云太极平台、百度千帆大模型平台和华为的ModelArts 平台等，均支持多种机器学习算法和大模型，并提供低代码开发环境与高效的模型训练及部署能力，能够适应多样化的模

21、型定制需求。在模型服务方面，通过提供丰富多样的模型资源以支持各种应用需求。如 Hugging Face 提供模型及模型调用服务，截止 2024 年 5月，其模型数量已超 60 万个，单个模型的最高下载次数超 4 亿次6。国内模型服务生态迅速发展，头部企业通过搭建模型服务开源社区或平台，汇聚各类模型及服务能力，包括大模型、传统 AI 模型及各场景各模态的模型等。在数据集服务方面，通过汇聚和管理处理好的数据集，为其他AI 模型的训练与微调提供可直接获取的高质量数据集，一定程度上帮助企业快速获取某些模型训练所需的数据集。截至 2023 年ScaleAI 数据集服务商已累计标注 10 亿条 2D、3D

22、 场景化数据7，提供了丰富的数据集服务，据 Grand View Research 报告显示，全球数据收集和标注市场规模预计从 2023 年到 2030 年将以 28.9%的复合年增长率增长8。在 AI 应用开发服务方面，基于模型的应用开发平台，借助配置、编排及代码开发等多元化工具，为用户提供了一条高效便捷的 AI 应用开发新路径。如 GPTs 作为基于大模型的应用开发工具，可通过自然语言方式创建 GPT 应用，截至 2024 年 1 月已创建多达 300 万6https:/huggingface.co/7https:/ 框架与应用研究报告（2024 年）9个 GPTs9。国内头部企业也纷纷推

23、出各类应用开发平台，可实现 AI原生应用开发，并支持构建 AI Agent（智能体），达到大模型与各组件或系统工具的强互动及关联，据 MarketsandMarkets 预测，至2028 年全球 AI Agent 市场规模将达到 285 亿美元，2023 至 2028 年复合增长率将达到 43.0%10。来源：中国信息通信研究院图 2 MaaS 产业图谱2.MaaS 两种落地方式MaaS 具备公有云和私有云两种落地方式，公有云模式下模型资源更加丰富，但私有云模式下模型资源的行业领域属性更专业（如图 3 所示）。公有云方式下，通过丰富的资源可吸引更多用户而提升产品知名度，有助于进一步商业转化。其

24、模型面向社会大众提供服务，模型的种类和数量更多，通用性更强，但是对于业务需求较高的特定场景，部分模型难以直接应用。私有云方式下，企业内研发团队专注于研究符合垂直领域场景需求的模型，旨在通过调用模型9https:/ Opportuntites in theAutonomousAgents Markethttps:/ 框架与应用研究报告（2024 年）10服务以直接解决业务需求，且模型资产和数据隐私性强，各团队在模型共享的过程中可降低资产泄露的风险。来源：中国信息通信研究院图 3 MaaS 两种落地模式特点对比图MaaS 在公有云和私有云两种落地方式下体现出不同的商业模式。在公有云环境下面向 C

25、端用户主要有按量计费和订阅两种模式，其中按量计费是指按照模型实际调用量或者算力消耗量计费，如按照调用模型接口（API）次数或输入输出数计费；订阅模式是指按照月租或年租的方式计费，常见于模型应用的使用场景，适合追求“开箱即用”便捷性的用户群体。在私有云环境下面向 B 端客户以私有化部署的项目制方式计费，可根据企业需求部署对应的服务，如需提供模型生产的工具则部署模型平台，如对应用开发有需求则部署应用开发平台，私有化部署的 MaaS 在企业内部实现服务的共享使用，并根据需求决定服务调用是否内部结算。（二）（二）MaaS 发展面临的挑战发展面临的挑战随着 MaaS 的快速发展，平台、模型等服务能力迅速

26、得以完善，MaaS 框架与应用研究报告（2024 年）11但 MaaS 在规范性、生态建设等方面仍存在不足，模型服务的易用性仍有待提升。模型服务质量缺乏规范性。目前产业界已发布多个 MaaS 产品，并汇聚了大量的模型服务，但服务内容和服务质量难以统一和衡量，无法确保用户获得满意的服务。一方面模型服务本身的可用性要求尚未建立统一规范，另一方面服务规模化落地所必须的稳定性、可靠性和安全性等并未形成标准体系。模型服务易用性不足。由于模型卡片的建设尚不完善，导致模型信息的不透明现象较为普遍。用户无法获取清晰、准确的模型信息，从而难以选择所需模型。此外，模型的可解释性也相对较弱，使得用户难以理解模型的运

27、作机制和输出结果。因此，加强模型卡片的信息透明度，增强模型的可解释性，提升模型服务易用性，是当前面临的重要挑战。MaaS 基建成本控制能力需加强。MaaS 的体系构建离不开坚实的基建支撑，涵盖云计算基础设施如算力资源和数据中心的搭建，以及专业技术人才的培育，这些都需要巨额的资金投入。因此 MaaS建设方应考虑有效地管理和利用基建资产，降低运营成本提高运营效率，从而降低和控制建设成本。合规管理体系亟需进一步完善。MaaS 在合规性方面面临数据规范与权责确认的双重考验。就数据合规而言，既要关注用户在使用模型服务时个人数据的隐私安全，也要确保用于模型训练和优化的数据来源合法合规。在权责确认方面，当模

28、型服务出现不可用时，MaaS 框架与应用研究报告（2024 年）12如何明确和处理使用方因此遭受的损失，目前尚缺乏明确的规范。国内 MaaS 生态建设尚不完备。一方面由于当前 MaaS 各层之间，以及同层的不同企业服务之间接口模式尚未统一，使得 MaaS的推广和应用也面临数据互通、技术对接等难题，这在一定程度上制约了其生态建设的步伐；另一方面国内模型服务和用户的体量较国际先进水平还存在差距，模型共建共享的生态环境有待进一步完善。MaaS 框架与应用研究报告（2024 年）13三、三、MaaS 框架与能力要求框架与能力要求MaaS 能够解决大模型规模化落地难题，同时满足传统人工智能模型的使用需求

29、，提供更加高效的模型触达方式。本章由中国信息通信研究院（以下简称“信通院”）和行业专家结合产业实践对 MaaS开展研究，围绕模型落地的全生命周期，分析和总结框架体系及能力要求，并对服务的质量保障进行研究，阐述模型服务协议框架。（一）（一）MaaS 框架说明框架说明MaaS 框架（如图 4 所示）由三部分组成，分别包括模型平台层、模型服务层和模型应用开发层，每层可作为单独服务供用户调取，也可搭载下层设施提供更完整的服务。来源：中国信息通信研究院图 4 MaaS 框架图在人工智能体系架构中，MaaS 处于应用层和基础设施层之间（如图 5 所示），与云计算架构相比，对其原有的平台层和应用层进行了增强

30、与补充。MaaS 框架与应用研究报告（2024 年）14来源：中国信息通信研究院图 5 MaaS 定位与比较示意图一方面，云计算架构下的平台层将操作系统、中间件等软件栈通过服务模式提供给用户，用户只需关注应用程序的开发和管理，减少了开发过程中基础设施相关问题的考虑。而 MaaS 在其基础上增强了平台层能力，首先通过对模型训练框架、工具等进行抽象和服务化，使得用户可以直接构建、使用或基于模型再次调优；同时MaaS 补充了模型层能力，对模型及服务进行集约化管理，为用户提供可直接调取的 AI 能力。另一方面，云计算架构下的应用层通过 SaaS 的方式使用户可直接在线使用应用程序，无需安装及维护本地软

31、件。而 MaaS 对应用层进行了补充，支持用户基于多种模型服务及组件进行编排或开发，创造更加个性化更加便捷的 AI 应用。以下将对 MaaS 各层能力架构和模块进行介绍，并对产业典型案例进行分析。（二）模型平台层（二）模型平台层模型平台层为模型定制开发提供全套的工具链及全流程管理能MaaS 框架与应用研究报告（2024 年）15力，包括数据处理、模型开发交付和运营等能力。基于该层，一方面通过全套的工具链帮助企业降低模型定制开发的技术门槛，另一方面通过全流程的运营管理提高多团队协作效率，并实时监控线上模型运行情况，保障业务效果。1.能力架构模型平台层包括数据工程、模型开发、模型交付、服务运营。该

32、层以基础大模型、算法、私有数据集等为输入，以企业专属模型为输出，具体能力架构如图 6 所示。来源：中国信息通信研究院图 6 模型平台层能力架构图2.能力模块 数据工程：通过数据处理及管理工具，将原始数据集处理成可直接被用于模型训练和模型评估的高质量数据集。数据采集方面支持主流数据源接入以及本地数据导入，具备处理海量、多模态和多格式数据的能力；数据标注方面平台支持在线标注，提供人工与自动等多种标注方式，并对标注好的数据集做统一管理；数据MaaS 框架与应用研究报告（2024 年）16处理方面支持清洗、过滤、去重、去隐私等流水线处理方式，从而提升数据质量优化模型效果；数据生成方面支持在数据分布不均

33、衡或缺少数据的情况下，根据需求生成相应的数据以达到数据平衡；数据回流方面支持将业务数据回流至数据集以持续优化模型性能，经筛选、调整及处理，用于下一次的模型优化或训练。模型开发：包括大小模型的开发，通过提供模型训练、调优、重训，和强化学习等环节的工具支持，以实现模型的定制，同时降低开发的技术门槛。在模型训练方面支持各类 AI 模型训练所涉及的特征工程、模型调参和模型实验等能力；在模型调优方面通过提供多种调优工具，支持自动化或半自动化的模型调优，完成私域模型定制；在模型重训方面，根据私域数据集进行场景化训练，生成专属模型；在强化学习方面，基于人类反馈数据，支持多种强化学习框架及策略，并对强化学习后

34、的模型进行效果评估。模型交付：通过提供模型压缩转换、模型测试、模型部署和管理等能力，支持将调优好的模型发布上线，缩短交付周期并快速响应业务需求。在压缩转换方面，支持量化、蒸馏、剪枝等多类算法选择，并预估不同算法的压缩效果，支持用户在保持模型性能的同时，能够将模型运行在更多的计算设备上，提升模型适配度；在模型测试方面，支持对模型各类指标进行评估，验证模型效果；在模型部署方面，支持在多种环境下快速部署模型，缩短上线周期。服务运营：通过对发布的模型服务进行统一运营管理，包括服务MaaS 框架与应用研究报告（2024 年）17托管、服务监控、服务告警、结果和反馈等，对模型服务进行有效监控与运维。3.实

35、践案例科大讯飞在模型平台领域的落地实践科大讯飞在专属模型定制过程中，为了进行复杂海量的数据处理，提升大模型调优及部署的效率，通过模型平台的方式，将模型的能力定制为云化服务，普惠 AI 技术人员。科大讯飞在模型研发环节，将数据管理、模型精调、模型评估、模型托管等能力平台化，通过平台工具实现低代码或零代码的数据快速处理和模型的高效调优部署，同时将调优好的模型发布成线上服务，以支持企业内其他技术人员在线调用，缩短模型交付周期。来源：科大讯飞图 7 零代码微调模型界面示意图MaaS 框架与应用研究报告（2024 年）18（三）模型层（三）模型层模型层以模型为主体，是 MaaS 的核心 AI 能力，为用

36、户提供可直接调取的模型服务，降低了用户使用各类模型的难度，推动了大模型普惠化发展，同时为上层个性化智能应用的开发提供 AI 能力支持。1.能力架构模型层包括丰富的模型库、数据集和服务管理等能力，提供API、SDK、模型文件、在线推理服务等形式，模型层能力架构如图8 所示。来源：中国信息通信研究院图 8 模型层能力架构图2.能力模块 模型库：包括大模型和传统 AI 模型，通过库的方式对模型资产进行统一纳管。模型库中的模型支持被模型平台层调用而进一步调优生成新的模型，并将其发布至模型库中进行共享；同时也支持被上层的应用开发层调用，配合多模型、知识库和插件等共同MaaS 框架与应用研究报告（2024

37、 年）19组建成 AI 应用。服务管理：是指对模型库中的模型进行全生命周期管理，以提供高质效、可持续的模型服务，包括模型卡片管理、模型文件管理、服务调用管理和模型库管理。模型卡片管理是指管理模型的基础信息，如同药品说明书，模型使用者需知晓模型的适配场景及使用方式、使用限制，从而帮助用户更快选对模型、用对模型；模型文件管理是对所有模型对应的文件进行统一管理，包括模型版本管理、模型追溯、模型存储等，以便集约化管理模型文件；服务调用管理是指管理不同用户在各类服务使用过程中的调用权限管理、调用数据监控及分析和调用计费等内容；模型库管理是为了维护库的正常运行，对模型进行入库、更新、出库等维度的管理。数据

38、集：包含公开数据集和私域数据集及其管理能力。数据集根据用途可与模型库中的模型服务配套使用，也可将数据集共享发布成数据服务，被其他用户调取使用，降低数据收集和处理成本。3.实践案例ModelScope 在模型层的落地实践ModelScope 建设了模型库、数据集、知识教程和社区交流等模块（如下图所示），以开源的形式鼓励 AI 从业者在社区中贡献模型，同时可在社区中快速体验模型。ModelScope 的模型库模块提供模型发布、调用和共享能力，并进行模型版本管理与服务托管，同时数据集模块提供数据集共享MaaS 框架与应用研究报告（2024 年）20及版本管理和血缘管理等能力。截至 2024 年 3

39、月 ModelScope 已开源超 2300 个 AI 模型，包含计算机视觉、语音、语义、多模态等领域，覆盖 60 多个通用任务，汇聚 280 万名 AI 开发者。来源：阿里云图 9 ModelScope 模型层实践图（四）应用开发层（四）应用开发层应用开发层基于各类模型服务和知识库、插件等能力，通过自然语言、工作流编排、界面配置等方式，完成基于模型的 AI 应用开发和集成，同时对应用从创建到使用的全生命周期进行管理，提高应用开发效率。1.能力架构应用开发层包括支撑能力、应用开发集成、应用生命周期管理三部分。支撑能力是构建 AI 应用所需的基础能力，如模型服务、插件、知识库、Prompt（提示

40、）、RAG、Agent 等；应用开发集成根据不同用户技术水平和场景的需求分为自然语言、界面配置、工作流编排以及代码开发等方式，满足不同开发难度和灵活度的需求；应MaaS 框架与应用研究报告（2024 年）21用生命周期管理对应用创建到上线运营的整个流程进行统一管理，保障应用的稳定运行。应用开发层能力架构如图 10 所示。来源：中国信息通信研究院图 10 应用开发层能力架构图2.能力模块 支撑能力：为应用开发提供了多种基础能力，用户可根据需求选择相应能力进行组合编排或开发。其中模型服务可直接被调取以提供 AI 能力；插件提供了各类可扩展的工具能力，使得应用功能更加丰富，包括自建插件和第三方插件等

41、；知识库提供了丰富的行业知识和私有数据支持，并结合 RAG 等能力将新数据引入模型，增强输出结果的准确性；Prompt 提供了创建应用、使用应用的提示词管理能力，以帮助模型更好地理解用户意图；Agent 通过自主感知、决策和执行等环节进一步提升了应用的智能化水平，并加强与已有工具或软件系统的联动。应用开发集成：为不同技术水平的用户提供多样化的应用开发和集成能力，提高应用开发的灵活性。自然语言交互的模式下用户MaaS 框架与应用研究报告（2024 年）22通过恰当的 Prompt 可快速实现专属场景下的应用构建；界面配置的方式支持用户通过选择基础模型、设置模型性能、匹配插件知识库等组件完成应用构

42、建；工作流编排的方式支持用户将多个模型及各类组件以某种逻辑规则进行编排，可自定义不同模型和组件之间的逻辑关系，提升应用开发的扩展性；代码开发适合具备编码能力的用户，可基于 API 接口、SDK 套件等进行灵活编码设计，支持更加灵活的应用开发。应用生命周期管理：覆盖了从应用创建、调试、部署到发布以及监控运营的完整流程。通过全生命周期过程管理，提高应用开发过程可控性；通过监控运营及时发现并解决问题，保障应用的持续运行和优化改进。3.实践案例AppBuilder 在 AI 原生应用开发领域的实践百度云 AppBuilder 为提升基于大模型的 AI 原生应用开发效率，提供了 RAG、Agent、GB

43、I 等应用框架，以及大语言模型和多模态的多种能力组件，降低 AI 原生应用的开发门槛，赋能开发者快速实现应用搭建（如下图所示）。AppBuilder 面向不同开发能力的用户和开发场景，分别以低代码态和代码态的产品形态，提供了应用组件、应用框架两层服务。低代码态下通过点选配置，调取所需的模型服务和组件，设置相关参数即可打造 AI 原生应用。代码态下支持有一定开发能力的技术人员，在开发套件的支持下完成功能更加丰富的 AI 原生应用。MaaS 框架与应用研究报告（2024 年）23来源：百度云图 11 AppBuilder 架构图（五）模型服务协议框架（五）模型服务协议框架当前诸多 MaaS 产品集

44、成了大量模型服务，但在服务水平协议（SLA）方面仍存在要求不统一等问题，使得用户难以获得满意的性能和质量体验，从而阻碍了 MaaS 规模化落地进程。为此，信通院联合产业各界对模型服务协议框架进行总结，为用户获取模型服务时如何衡量服务质量提供参考。模型服务协议框架的目标是规范和提升模型服务质量，适用于人工智能领域包括大模型和传统 AI 模型在内的所有模型服务。该协议框架对服务范围及服务内容进行明确，并对于如何从多个维度衡量模型服务的水平提供参考，包括服务可用性、隐私安全性、计量准确性及权责条款等部分（如图 12 所示），帮助用户筛选符合相关需求的模型服务。MaaS 框架与应用研究报告（2024

45、年）24来源：中国信息通信研究院图 12 服务协议架构图 服务可用性：从模型推理结果的可用性和服务可用性等方面考虑，分别包括模型性能、模型可解释性等要求，以及服务稳定性、可靠性等要求，共同保障模型服务的有效运行。隐私安全性：从服务的安全保障机制、数据的隐私合规及内容安全合规等方面考虑，保障模型服务使用的安全。计量准确性：从计量方式和计量内容等方面考虑，明确服务在可用和不可用情况下的计量规则。权责条款：从服务赔偿条款、约束及免责条款和知识产权保护等方面考虑，对服务商和用户双方的权益、责任进行了约束。MaaS 框架与应用研究报告（2024 年）25四、四、MaaS 应用分析应用分析各行业积极探索

46、MaaS 落地之道，并在部分领域的应用初见成效。本章首先从全行业角度对 MaaS 进行分析，其次对 MaaS 落地实践进行阐述，如在金融等领域率先应用，并有效赋能经营管理、营销服务等生产环节。（一）（一）MaaS 落地条件及优势场景解析落地条件及优势场景解析MaaS 作为新型智能化服务模式，其落地实践需具备外需和内驱两个条件。一是需要有模型规模化落地的外部需求，当组织面临全线 AI+需求时，模型应用的需求量随之变大，导致模型开发及人工成本急剧增加，使组织需变革模型生产和应用工具以提升效率。二是需具备组织内部驱动力，自顶向下层层推进模型共建共享机制，推进烟囱式开发方式向集约式转变，最大化发挥模型

47、、数据、平台等 AI 资产的价值。在外需和内驱的条件下搭建 MaaS 多层级服务，有利于高效便捷地助力 AI 规模化应用落地。中国信通院通过调研百余个场景案例进行综合分析，当前 MaaS已在多行业落地，覆盖研发设计、经营管理、营销推广等多个生产环节，助力企业在业务、技术、管理等全方面提效，成为大模型时代下企业智能化转型新途径。金融行业率先成为落地最多的领域。MaaS 在各行业落地情况如图 13 所示，金融行业具备 MaaS 落地的良好环境，其案例数量占全行业 49%11，成为落地探索最多最快的行业，一方面是因为技术储备较为完善，有传统人工智能的落地通路和经验，如基础设施和平MaaS 框架与应用

48、研究报告（2024 年）26台等层面均有基础；另一方面是因为业务数据较为丰富，对模型的种类和数量需求多。落地场景主要包括营销、客服、风控等，可有效解决金融行业人力成本高、风险管控滞后等问题。来源：中国信息通信研究院图 13 MaaS 在各行业应用占比经营管理环节的落地实践最为成熟。经营管理环节的应用案例在企业全价值链中占比达 50%11（如图 14 所示），该环节涵盖的智慧办公、经营分析、智能流程等场景，以辅助人工提升工作效率为主而非直接对客服务。由于该类场景见效快、风险低，通过大模型基础能力加私域少样本数据即可达到场景性能要求，成为最适合模型快速落地的场景。11中国信息通信研究院调研统计Ma

49、aS 框架与应用研究报告（2024 年）27来源：中国信息通信研究院图 14 企业价值链各环节生产场景占比图基于模型的 AI 应用，已在实际案例中应用于百余个场景。得益于 MaaS 平台提供的快捷的模型调用服务和丰富的工具套件能力，AI 应用在多样性和个性化方面取得了显著提升。同时，随着应用场景的不断细分，越来越多的特定场景化应用出现。以实践案例中应用最多的问答助手为例，在知识管理、客服服务和营销推广等领域，均形成了具备行业特性和专业能力的定制化应用，并且在写作、影视制作等领域，也衍生出了多种风格和用途的应用，充分展现出 AI应用极大的灵活性和实用性。MaaS 框架与应用研究报告（2024 年

50、）28来源：中国信息通信研究院图 15 MaaS 应用案例统计图（二）（二）MaaS 行业实践案例及成效剖析行业实践案例及成效剖析MaaS 行业落地目标是降本增效，缩短模型及应用构建的周期，以应对频繁迭代的业务需求，同时通过模型的共享降低重复建设成本。本节详细介绍了精选的四个 MaaS 落地代表案例，案例材料来自对应企业。1.银行业金融 MaaS 平台应用实践（1）场景痛点：模型开发及部署效率低平安银行积极探索大模型在业务场景智能化和降本增效方面的解决方案，虽然模型应用需求向多而广的趋势变化，使得传统模型研发流程中存在的自动化程度低、资源利用率低、知识和能力缺乏共享等问题愈加凸显，制约了模型应

51、用的快速开发和部署上线效率，限制了大模型等人工智能技术的规模化落地。（2）解决方案：BankGPT 服务平台高效赋能模型落地为解决以上痛点，平安银行自主研发 MaaS 服务平台，即MaaS 框架与应用研究报告（2024 年）29BankGPT（如图 16 所示）。基于该平台，用户可通过 API 调用各种模型，无需关注其内部工作原理、部署和维护。BankGPT 上线以来，为各业务场景的模型应用提供了高效、低成本的模型使用和开发支持。BankGPT 一方面提供模型微调功能，开发人员以极低技术门槛开发上线大模型服务，另一方面提供底座模型的共享，可训练调优适应于不同场景的专业大模型，提升业务效果。来源

52、：平安银行图 16 平安银行 BankGPT-MaaS 服务平台（3）实践成效：多种落地模式赋能全行员工BankGPT 平台经过持续迭代，截止 2024 年 1 月，已实现支持四种不同的落地模式，支撑行内模型应用的高效、低成本开发，从而实现智能化普及。该平台目前已上线 10+底座模型，算法团队、业务开发团队落地应用数十个，基于 Prompt 调优创建应用数百个，并为全行员工提供大量可直接体验的应用。MaaS 框架与应用研究报告（2024 年）30来源：平安银行图 17 平安银行 MaaS 服务平台落地效果2.电网领域 MaaS 实践（1）场景痛点：电力模型精度及开发效率受限人工智能模型训练门槛

53、较高，业务人员缺乏机器学习专业知识，导致模型研发及部署不够便捷，生产效率较低，且各单位模型重复开发造成资源浪费。（2）解决方案：一体化 MaaS 平台为各层赋能中国电科院结合设备智能巡检、作业安全管控等典型业务实际需求，构建电网领域的一体化 MaaS 平台（如图 18 所示）。该平台基于“模型+服务+应用”建设模式，包括资源层、平台层、模型层、服务层、应用层六部分，可以 API、SDK 对外提供服务，还可提供自动建模、智能标注等组件支撑能力，并结合自动化训练技术，支持在平台上采用“预训练+微调”模式开展基于预训练模型的二次调优，构建专用电力模型，提升模型开发效率。MaaS 框架与应用研究报告（

54、2024 年）31来源：中国电科院图 18 中国电科院一体化 MaaS 平台架构（3）实践成效：缩短周期，提升人效通过一体化 MaaS 平台，显著缩短开发周期约 50%，模型精度相比传统训练方式有明显的提升，缺陷识别准确率达 90%以上。3.电信运营商在私域领域的 MaaS 实践（1）场景痛点：公域模型难满足特定需求公域大模型直接应用到移动内部，存在问题和风险，公域大模型 To C 思维无法满足企业的特定需求和场景，数据安全风险较高。同时企业大模型在多域运作中缺乏统一生态管理，需要在现有系统中实现流程连贯性，构建合作伙伴和开发者的良性竞争环境。（2）解决方案：融合 MaaS 打造“平台+生态”

55、私域大模型体系MaaS 框架与应用研究报告（2024 年）32来源：中国移动广东分公司图 19 广东移动私域大模型体系针对上述痛点，广东移动打造了自主的私域大模型体系，采用了“平台+生态”的模式，包括数据源、MaaS 模型能力层、场景组件库、产品运营平台以及产品及应用共计五层（如图 19 所示）。在体系中，集成了自主研发的模型、专业模型以及第三方生态大模型。同时，通过积极开发和整合行业特定大模型，支持企业内部应用的数字化转型，提高了应用场景落地的效率。（3）实践成效：提升平台灵活性推动数智化转型该方案实现了平台的高灵活性和可扩展性，通过算力和模型的适配提高了平台可扩展能力和兼容性。应用层接入接

56、口的统一使平台能快速拓展至各业务场景，并建立了统一的数智人运营体系，有效支持企业数智化转型。MaaS 框架与应用研究报告（2024 年）334.金融风控领域的 MaaS 实践（1）场景痛点：金融动态风控建模效率低、样本少 高频的建模需求与低效的建模方案相冲突。每个业务环节都需频繁迭代模型，而传统建模周期长，POC、建模、评估、上线各环节共需数月之久，无法快速响应业务变化。小样本情况下建模难。短时间内样本累积不足，样本量少而无法支持模型调优。同时在新产品或新业务上线时，少样本或零样本给风控模型带来压力。（2）解决方案：金融风控 MaaS，实现低门槛高效率建模腾讯云在金融风控领域的 MaaS（如图

57、 20 所示），一是通过工具平台实现全流程的自动化建模和部署上线，缩短模型上线周期，满足快速迭代需求，适配业务动态变化；二是集成了大量专家模型，以模型服务的方式提供快速调用及组合编排，进一步提升模型的精度和落地效率；三是积累了风控领域丰富的知识经验，通过大模型加高质量数据解决小样本训练难题，并配备 360 度模型评估模块，加速验证模型效果。MaaS 框架与应用研究报告（2024 年）34来源：腾讯云图 20 金融风控 MaaS（3）实践成效：快速适应存量业务频繁迭代及新业务开拓 模型精度、建模效率双提升，快速适配业务变化。在金融风控MaaS 体系下风控模型迭代效率提升 8 倍，整体通过率提升

58、1.5%，效果对比如图 21 所示，有效解决模型快速迭代的问题。来源：腾讯云图 21 金融风控领域 MaaS 建模与传统建模效果对比MaaS 框架与应用研究报告（2024 年）35 快速应对新业务拓展。在新业务缺乏样本的情况下，基于 MaaS的风控大模型相对于传统模型效果提升 20%，新业务通过率提升5%，风控大模型在跨场景的泛化性能力提升 30%。来源：腾讯云图 22 金融风控大模型与传统定制模型性能对比MaaS 框架与应用研究报告（2024 年）36五、总结与展望五、总结与展望在大模型时代发展的浪潮下，各行业面临着前所未有的数智化转型挑战与机遇。而 MaaS 作为模型服务灵活供给的新模式，

59、为行业转型变革带来新路径。MaaS 概念在大模型时代得以重塑，助力大模型规模化落地。MaaS 围绕技术门槛低、模型可共享、应用易适配三大特性，一方面有助于解决模型服务规模化生产面临的成本高、技术门槛高等问题，另一方面帮助提升基于大模型的 AI 应用开发效率。MaaS 框架组成逐渐清晰，但落地挑战不一而足。中国信通院联合产业专家对 MaaS 框架做出系统性归纳，包括模型平台层、模型层和应用开发层，并对 MaaS 能力建设要求进行梳理，同时将 MaaS与云计算架构进行比对分析，明确其在人工智能体系架构中的定位。但 MaaS 在模型服务质量规范性、服务易用性、风险合规及生态建设等方面存在诸多挑战。M

60、aaS 应用日趋广泛，落地效果逐渐显现。在外需和内驱双向推动下，金融、电信等行业率先涌现出诸多优秀的 MaaS 落地实践，将模型服务更加便捷地提供给用户，使其在使用大模型等 AI 技术时能够达到多快好省的效果。同时 MaaS 在生产经营等各环节的落地日渐增多，如基于模型的 AI 应用，在调研案例中覆盖了百余个场景。当前 MaaS 落地仍处于初期阶段，未来大小模型协同、内外部接口统一化、应用新生态、安全保障等能力的持续跃升，将成为MaaS 发展新趋势。MaaS 框架与应用研究报告（2024 年）37一是大小模型协同将成为模型服务场景化落地的重要方式。大模型以其大而强的特点，擅长处理广泛领域的通用

61、问题，而小模型则以其小而精的特点，专注于解决特定场景下的专业问题。通过将大模型的通识能力与小模型的专业能力相结合，使模型服务更加精准地满足应用需求，为应用开发提供更强大、更灵活的 AI 能力。大小模型协同策略将促进 AI 技术在各个领域的应用深化，进一步释放AI 技术的商业价值，形成更为丰富多样的应用场景和解决方案。二是 MaaS 服务的能力和内部接口将走向统一化。一方面模型服务水平将逐步规范化，未来模型将服务成百上千个业务，模型服务的质量直接关系到业务能否稳定运行，因此服务内容、服务水平、服务计量的标准化等将有助于提高服务效率并节约成本。另一方面企业内部模型服务的接口将逐步统一，模型服务规模

62、化落地后，模型与应用或业务系统间的接口是否统一将直接影响开发效率和质量。标准化的接口便于不同业务调用不同模型服务，提高兼容化处理效率，降低使用门槛，促进不同服务之间的互联互通，推动模型的共享和复用。三是 MaaS 将催生基于大模型的应用新生态。首先基于大模型的应用开发新范式将围绕自然语言持续演进，通过自然语言快速生成特定领域的大模型原生应用，开发门槛大幅降低，这将吸纳更广泛的用户群体参与其中，推动应用开发生态持续扩大。其次基于大模型的应用将向个性化、拟人化方向发展，基于开发新范式，各类应用将更加贴合用户的个性化需求，同时应用的形态将逐步转向视MaaS 框架与应用研究报告（2024 年）38频、

63、音频等更具拟人化特征的多模态形式，使得人机交互更为自然流畅。根据 Gartner 预测，到 2026 年，超过 80%的企业将使用生成式 AI 的 API 或生成式 AI 模型，或者在生产环境中部署支持生成式的应用（目前这一比例不足 5%）12。四是 MaaS 将围绕模型服务持续强化安全保障。未来将从平台安全、数据隐私保护、模型可控性、服务可靠性及应用安全等维度，持续健全 MaaS 安全保障体系，根据 Gartner 预测，到 2026 年，对AI 应用部署信任、风险和安全管理控制措施的企业，将能过滤掉80%的错误和非法信息，从而提高决策的准确性12。通过健全的保障体系，保护用户在使用模型服务

64、过程中的数据安全与隐私权益，筑牢模型服务风险管理防线，帮助企业生产更加负责任的 AI，推动各行业“AI+”行动进展。12Gartner 洞察：2024 年重要战略技术趋势MaaS 框架与应用研究报告（2024 年）39主要参考文献主要参考文献1.David O,Lloyd W,Rojas K,et al.Model-as-a-service(MaaS)using the cloudservices innovation platform J.2014.2.Gan W,Wan S,Yu P S.Model-as-a-service(MaaS):A surveyJ.arXiv preprintar

65、Xiv:2311.05804,2023.3.Roman D,Schade S,Berre A J,et al.Model as a service（MaaS）C/AGILEWorkshop:Grid Technologies for Geospatial Applications,Hannover,Germany.2009.4.Li Z,Yang C,Huang Q,et al.Building Model as a Service to support geosciencesJ.Computers,Environment and Urban Systems,2017,61:141-152.4

66、0编制说明编制说明本报告的撰写得到了 AI 领域多家企业与专家的支持和帮助，主要参与单位如下：中国信息通信研究院人工智能研究所、中国电信股份有限公司研究院、中国联通人工智能创新中心、平安银行股份有限公司、腾讯云计算（北京）有限责任公司、百度在线网络技术（北京）有限公司、阿里云计算有限公司、华为云计算技术有限公司、华为终端有限公司、中国电力科学研究院、兴业银行股份有限公司、浪潮云信息技术股份公司、杭州网易云音乐科技有限公司、新华三集团有限公司、浪潮软件科技有限公司、中银金融科技有限公司、北京思谋智能科技有限公司、北京中电普华信息技术有限公司、星环信息科技（上海）股份有限公司、上海澜码科技有限公司、南京新菁年影视科技有限责任公司、成都新希望金融信息有限公司、中国移动通信集团广东有限公司、美云智数科技有限公司。中国信息通信研究院 人工智能研究所地址：北京市海淀区花园北路中国信息通信研究院 人工智能研究所地址：北京市海淀区花园北路 52 号邮编：号邮编：100191电话：电话：010-62301618传真：传真：010-62301618网址：网址：