《奇安信：2024年政务大模型安全治理框架报告（25页）.pdf》由会员分享，可在线阅读，更多相关《奇安信：2024年政务大模型安全治理框架报告（25页）.pdf（25页珍藏版）》请在三个皮匠报告上搜索。

1、 奇安信集团 股票简称：奇安信 股票代码：688561 第 1 页 政务大模型安全治理框架 奇安信集团 股票简称：奇安信 股票代码：688561 第 2 页 概概 要要 政务大模型是专注在政务领域的行业大模型，政务大模型在通用大模型基础上，通过检索增强生成或者模型微调等技术手段，使模型更加贴合政务的特点和需求。基于政务大模型的应用，为政府决策、公共服务、带来了全新的变革。然而，政务大模型应用也伴随着各种潜在的风险。政务大模型安全风险主要包括七个主要类型，即数据安全风险、训练语料安全风险、模型安全风险、应用安全风险、软件供应链安全风险、生成内容风险、大模型自身风险。政务大模型的安全治理框架是保障

2、其安全、合规运行的基础。全面的安全治理框架，需要满足合规要求、建立完善安全机制、提供安全技术保障。其中，合规是首要原则，涉及多项法律法规、规章制度的遵循。安全技术保障是政务大模型安全治理框架的核心，涵盖从基础安全措施、数据安全、大模型开发安全到运行安全等方面。政务大模型的安全治理上，需要政府、企业、研究机构、监管机构等各方协作，形成良性互动生态体系，构建安全、可靠、有序的环境，充分发挥政务大模型在提升政府服务效能、推动社会进步方面的积极作用。政务大模型安全治理框架 奇安信集团 股票简称：奇安信 股票代码：688561 第 3 页 1 1 生成式人工智能快速发展，政务大模型为数字政府赋能生成式人

3、工智能快速发展，政务大模型为数字政府赋能 人工智能已成为引领科技革命和产业变革的战略性新兴产业，以大模型为代表的生成式人工智能，是人工智能技术发展的重要方向。基于大模型的生成式人工智能，从文本处理到声音、图像、视频等多媒体处理，从理解知识到创造知识，正在向着通用人工智能（AGI）的长期目标向前跨越。大模型正在赋能千行百业。在政府行业，大模型推动政府迈入智能化。在数字政府建设中，大模型将提升政府服务水平，提高政务服务的体验，同时优化决策制定、加强政府内部协同、提升城市治理能力，为打造服务化、智能化、现代化的数字政府提供关键技术支持。1.11.1 政务大模型应用广泛，各地陆续开展应用实践政务大模型

4、应用广泛，各地陆续开展应用实践 政务大模型在政务领域有着广泛的应用场景。首先，在公共服务方面，政务大模型可以提供智能化的政务咨询和办事指引。为公众提供准确、个性化的解答，提高政务服务的效率和满意度。其次，在政务办公方面，大模型可以辅助公文写作、文档处理、会议纪要整理、内部知识管理等日常工作。它还可以分析部门间的数据，发现管理中的问题和优化空间，促进跨部门协作。再者，在城市治理等政府监管领域，大模型可分析城市运行的大数据，预测和识别问题，支持政府进行更科学的决策和更有效的资源分配，实现城市管理的智能化和精细化。例如在城市应急管理方面，大模型能够快速整合道路摄像头信息，为决策提供支持。政务大模型开

5、始在一些省市落地。在北京亦庄经开区，亦智政务大模型服务平台正式上线。平台实现了智慧政务小助手、迎商中心数字人、智能决策助手、亦城慧眼、实验室智能监管等多个场景应用。在北京市生态环境局，打造了生态环境“监管监测监察”-“三监”联动大模型，支撑了新阶段大气污染防治科学、精准、依法治污。在广东省政数局，上线基于大模型的 AI 智慧服务，提供智慧搜索和 AI 智能问答，提升一体化在线政务服务能力。政务大模型安全治理框架 奇安信集团 股票简称：奇安信 股票代码：688561 第 4 页 1.21.2 政务大模型，以通用大模型为基础来构建政务大模型，以通用大模型为基础来构建 政务大模型是专注在政务领域的行

6、业大模型，是在通用大模型的基础上，通过知识增强、模型微调或者增量预训练来构建。政务大模型构建是一个循序渐进的过程。首先，可以对通用大模型进行知识增强，通过提示词调优和数据检索提升问答效果。再者，通过微调和增量预训练形成政务领域垂直模型。不同的构建方式，都是将大模型技术与政务需求紧密结合，提高大模型对政务行业的领域知识，更好地服务于上层的政务大模型应用。图图1：政务大模型应用构建方式：政务大模型应用构建方式 1.31.3 政务大模型，在应用形式和模型适配上具有多样性政务大模型，在应用形式和模型适配上具有多样性 政务领域涉及多个层级的政府机构、不同的职能部门，以及广泛的公共服务范畴。这种复杂的应用