1、 清华大学清华大学CIDEG研究研究项目项目 研究报告（结题）人工智能算法影响评价 体系构建与应用实践 20202424 年年 3 3 月月 委托方：委托方：清华大学产业发展与环境治理研究中心 课题负责人：课题负责人：贾开 上海交通大学国际与公共事务学院长聘副教授 课题组成员：课题组成员：赵静、傅宏宇、陈少威、元圣平、杨欣宇、朱韵涵 清华大学产业发展与环境治理研究中心清华大学产业发展与环境治理研究中心 地址：北京市海淀区清华大学公共管理学院615 邮编：100084 电话：(86-10)6277 2497 传真：(86-10)6277 2497 邮箱： 主页：http:/ 目录目录 1.人工智

2、能算法影响评价的背景：界定治理问题.4 1.1.算法歧视治理风险.5 1.2.算法公平治理风险.8 1.3.算法安全治理风险.10 1.4.本章总结.12 2.人工智能算法影响评价的内涵：描述治理实践.13 2.1.人工智能算法影响评价的制度内涵及其治理定位.13 2.1.1.算法影响评价的制度内涵.13 2.1.2.算法审计的制度内涵.15 2.1.3.算法影响评价与算法审计的共性与差异.16 2.2.人工智能算法影响评价的三种模式：环境影响评价、数据保护影响评估、列表清单 17 2.2.1.环境影响评价视角下的算法影响评价.17 2.2.2.数据保护影响评估视角下的算法影响评价.20 2.

3、2.3.问题列表清单评估视角下的算法影响评估.22 2.2.4.不同模式的对比分析.26 2.3.人工智能算法影响评价的国别特征：欧盟、美国、英国、加拿大与中国.26 2.3.1.欧盟.26 2.3.2.加拿大.31 2.3.3.美国.35 2.3.4.英国.41 2.3.5.中国.47 3.人工智能算法影响评价的治理逻辑：监管者与被监管者的合作.51 3.1.协同治理（Collaborative Governance）视角下的人工智能算法影响评价.52 3.2.管理主义（Managerialism）视角下的人工智能算法影响评价.55 3.3.制度同化（Institutional Isomor

4、phism）视角下的人工智能算法影响评价.60 4.人工智能算法影响评价的未来改革：形成政策建议.61 4.1.人工智能算法影响评价的制度要求：开放性、合作性、责任性.62 4.1.1.开放性.62 4.1.2.合作性.63 4.1.3.责任性.64 4.2.通用人工智能算法影响评价的体系框架：理论基础、层次结构、流程指标.65 4.2.1.理论基础：心理计量学与机器行为学的理论融合创新.65 4.2.2.层次结构：技术、组织、社会.71 4.3.通用人工智能算法影响评价的政策建议.错误!未定义书签。人工智能算法影响评价（algorithm impact assessment,AIA）作为一种

5、治理机制已经被普遍性地纳入各国算法治理的框架体系之下，但其本身的制度定位与制度逻辑却尚未得到充分讨论。较为典型的反思性问题例如：人工智能算法治理的何种关键特征，使得我们需要纳入人工智能算法影响评价（即人工智能算法影响评价的必要性问题）？与往往被视为其前身的环境影响评估、数据隐私影响评估相比，人工智能算法影响评价体现了更多的继承和连续性，还是差异性（即人工智能算法影响评价的特殊性问题）？人工智能算法影响评价治理绩效的发挥，受到何种因素的影响（即人工智能算法影响评价的局限性问题）？对于这些问题的探索性回答，构成了本报告的主要内容。1.人工智能算法影响评价的人工智能算法影响评价的背景背景：界定治理问

6、题界定治理问题 人工智能算法治理的特殊性，是开启人工智能算法影响评价制度建设的起点。从基本内涵来讲，人工智能算法影响评价是指技术研发者、部署者、应用者需要预期、测试、评估技术创新和应用过程中所可能带来的多维度影响，并对结果进行记录、公开或向监管者汇报，进而在积累算法治理经验与知识的同时，对其研发应用过程进行调整以避免负面伤害。作为一种监管手段，人工智能算法影响评价事实上将监管环节延伸至企业内部，要求企业基于评价结果以改变其技术创新和应用过程，而这一思路在很大程度上与传统的监管思路存在本质不同。在经典监管理论看来，监管的目的旨在对市场失灵现象作出回应，以避免出现权益侵害风险。换言之，监管是直接面