1、 - 1 - 2021 年 7 月 5 日 第2021 年 7 月 5 日 第4545期 总第 658 期期 总第 658 期 欧盟抢跑人工智能立法规制数字技术风险 欧盟抢跑人工智能立法规制数字技术风险 当前，全球数字经济正逐渐向以人工智能（AI）为核心驱动力的智能经济新阶段迈进。AI 技术在各行业得到广泛应用，但在为经济和社会发展注入新动能的同时， 也带来了监管难题。 为此，2021 年 4 月， 欧盟发布 人工智能法1提案 （以下简称 法案 ） ，提出了 AI 统一监管规则，旨在从国家法律层面限制 AI 技术发展 1 欧盟人工智能法，试图触及人工智能发展的所有方面，被称为“西方政府提出的涉

2、猎范围最广泛的法规之一”，也是迄今为止国际上制定监管人工智能技术最严苛的规则之一。 法案的提出，是欧盟扩大其全球科技强者角色影响力的重要一步。一旦正式通过，将对投入大量资源开发人工智能应用及服务的大型互联网科技巨头产生深远影响，也将给其他使用人工智能软件研发药物、承销保险以及评判信用度的企业带来冲击。 - 2 - 带来的潜在风险和不良影响，使 AI 技术在符合欧洲价值观和基本权利的基础上技术应用创新得到进一步加强，让欧洲成为可信赖的全球 AI 中心。作为 AI 领域的“GDPR”2，该法案是全球首部 AI 管制法律，研究其内容和创新点，对制定我国 AI 等数字技术治理方案具有重要借鉴意义。 一

3、、 法案核心内容 宽泛定义了一、 法案核心内容 宽泛定义了 AI 系统，并设置了系统，并设置了 AI 规则的域外适用性。规则的域外适用性。一方面， 法案定义了 AI 系统、AI 系统供应链上涉及到的相关环节以及不同类别的 AI 数据等相关要素，对监管对象（AI 系统）的定义表现出极强的宽泛性，几乎涵盖了全部使用传统及新兴 AI技术的系统（AI 技术使用常态化的互联网服务均为监管对象） ，与GDPR中对受监管的个人数据的宽泛定义保持一致。 另一方面，法案明确了所有在欧盟市场投放、使用 AI 系统及相关服务的国内外供应商、服务商和公共服务用户提供者，只要其 AI 系统影响到欧盟及欧盟公民的，均将受

4、到法案约束，从而保证了 AI 规则的域外适用性。 2通用数据保护条例 （GDPR），是欧盟在全球数据治理领域进行开拓的首部基础性法律，其对各国数据治理有着重要的示范和影响。在 GDPR 的基础上，法案是欧盟在数字经济领域再上的一道“紧箍咒”，也是一项“里程碑式”的监管规则。 - 3 - 表表 1 AI 相关要素定义相关要素定义 概念概念 定义定义 AI 系统 是利用一种或多种技术和方法开发的软件， 此类软件针对一组特定人群定义的目标，可以产生诸如内容、预测、建议、决定影响之类的输出。 产品或系统的安全 AI 组件 为产品或系统提供安全功能， 或其发生故障会导致人员生命或财产威胁的安全组件。 情

5、感识别系统 利用个体的生物特征数据推断个体情感的 AI 系统。 生物分类系统 利用个体生物特征数据对个体的性别、年龄、族裔、政治取向等进行分类的 AI系统。 远程生物特征识别系统 通过个体的生物特征识别数据与参考数据库中的数据比对， 以实现远距离暗中识别自然人的 AI 系统。包括实时识别和事后识别两种类型。 实时远程生物特征识别系统 是一种无延迟识别的远程生物特征识别系统。使用该 AI 系统可即刻获知个体身份。 事后远程生物特征识别系统 实时系统之外的其他远程生物特征识别系统。 该系统使用后需要一定的处理时间才可获知个体身份。 提供者 是指开发 AI 系统或拥有已开发的 AI 系统， 并将其投

6、放市场或以自身名义投入使用的自然人、法人、公共机构等。 合格评定机构 执行第三方合格评定活动（包括测试、认证）的机构。 通知机构 负责建立必要的评估程序，并制定和通知合格评定机构开展评定。 训练数据 用于拟合 AI 系统模型参数的数据。 验证数据 用于对经过训练的 AI 系统进行评估，调整模型参数以防止过拟合的数据。 - 4 - 测试数据 用于对经过训练和验证后的 AI 系统进行测试，通过确定输入从而获取预期目标的数据。 生物特征识别数据 通过特定技术处理获取到的个体生理、行为特征数据，且这些数据具有唯一性和不可篡改性。 对不同应用场景的对不同应用场景的 AI 系统实施风险定级，并分别提出规制