《公安部第三研究所：通用人工智能AGI等级保护白皮书（2023版）（82页）.pdf》由会员分享，可在线阅读，更多相关《公安部第三研究所：通用人工智能AGI等级保护白皮书（2023版）（82页）.pdf（82页珍藏版）》请在三个皮匠报告上搜索。

1、通用人工智通用人工智能能 AGI 等级保护白皮书等级保护白皮书（2023 版）版）网络安全等级保护与安全保卫技术国家工程研究中心2023 年 7 月I引言引言党的二十大提出，要建设现代化产业体系，推动战略性新兴产业融合集群发展，构建人工智能等一批新的增长引擎。2023 年 4 月 28日，中共中央政治局召开会议，指出要重视通用人工智能发展，营造创新生态，重视防范风险。当前，通用人工智能已成为继移动互联网技术之后最大的一波技术浪潮，而预训练大模型作为人工智能从专业智能走向通用智能的关键技术，在全球范围内引发科技巨头争相布局、掀起创业热潮的链式反应，同时也在技术合规、网络安全、隐私保护及社会伦理法

2、律等方面带来了新的风险和挑战。只有有效应对这些风险和挑战，才能使通用人工智能真正服务于社会和产业，确保国家安全、企业安全和个人安全不受威胁。为贯彻落实国家发展新一代人工智能的决策部署，全面贯彻总体国家安全观，公安部第三研究所充分发挥在网络等级保护领域国家队的优势，并依托国家级创新平台网络安全等级保护与安全保卫技术国家工程研究中心，成立通用人工智能安全工作组，旨在重点研究通用人工智能发展现状、安全风险、网络安全等级保护合规需求以及赋能等级保护场景等，并初步形成通用人工智能等级保护白皮书（2023 版），全面介绍当前公安部第三研究所在通用人工智能等级保护工作方面研究进展情况，分享相关工作经验，为推

3、动我国人工智能高质量发展和全方位各领域高水平应用保驾护航。II术语和定义术语和定义1、人工智能 Artificial Intelligence，AI人工智能是一门研究如何使计算机能够模拟、模仿和执行人类智能活动的科学与技术。它涉及构建智能系统，使其能够感知、理解、学习、推理、决策和交互，以解决复杂的问题和执行各种任务。2、通用人工智能 Artificial General Intelligence，AGI通用人工智能是一种能够像人类一样拥有智能、学习、推理、解决问题和适应新环境的人工智能系统，也称为强人工智能。AGI 的目标是实现人类智能的所有方面，包括感知、认知、思考、学习和创造等。3、狭义

4、人工智能 Artificial Narrow Intelligence，ANI狭义人工智能是一种专注于解决特定问题或执行特定任务的人工智能系统，也称为弱人工智能。ANI 的能力通常是基于预定义的算法和规则，无法像人类一样适应新环境或解决未知问题。4、超级人工智能 Artificial Super intelligence，ASI超级人工智能是一种超越人类智能的人工智能系统，也称为强人工智能。目标是实现比人类智能更高的智能水平，能够解决人类无法解决的问题。5、预训练大模型 Pre-trained Large Mode，PLM预训练大模型是指在大规模数据集上进行预训练的模型。预训练是指在一个任务或

5、数据集上进行初始训练，以学习通用的特征表示或模型参数。III6、模型即服务 Model as a Service，MaaS模型即服务是一种基于云计算的 AI 服务模式，它提供了一种将机器学习和深度学习模型转换为可重复使用的服务的方式。IV目目录录引言.I术语和定义.II1 通用人工智能发展现状.11.1 通用人工智能的组成架构.21.2 通用人工智能参与方.71.3 通用人工智能网络安全应用趋势.92 通用人工智能安全风险分析.122.1 传统安全风险.122.2 数据泄露和滥用风险.152.3 模型可靠性风险.172.4 大模型滥用误用风险.203 通用人工智能等级保护合规需求.233.1

6、安全物理环境.233.2 安全通信网络.273.3 安全区域边界.293.4 安全计算环境.323.5 安全管理中心.393.6 安全管理制度.413.7 安全管理机构.443.8 安全管理人员.463.9 安全建设管理.49V3.10 安全运维管理.544 通用人工智能赋能等级保护.604.1 网络安全等级保护知识赋能场景.614.2 等级测评赋能场景.684.3 等级保护培训赋能场景.735 总结.75参考文献.7611 通用人工智能发展现状通用人工智能发展现状本章主要介绍通用人工智能的基本情况，包括其发展历史、现状以及组成架构等内容。本文还将通过从技术角度出发来分析通用人工智能在网络安全