牛津人工智能与善治委员会：2021年公共服务中的人工智能从原则到实践（22页）.pdf

1、公共服务中的人工智能：从原则到实践 牛津人工智能与善治委员会2021 年 12 月?牛津人工智能 与善治委员会公共服务中的人工智能：从原则到实践牛津人工智能与善治委员会2021 年 12 月?牛津人工智能 与善治委员会目录报告摘要 1前言 21.导言 32.挑战 43.原则 74.建议 8 谁应该为公共服务中的人工智能提供指导？8 有关公共影响的科学咨询机构 8 独立和方便访问的仲裁机构 9 合作 10 建议 1 10 我们如何为人工智能建设公共服务能力，以实现善治？11 建议 2 11 我们如何确保公共服务中的人工智能是值得信赖、可信赖的？12 建议 3 125.结语：立即行动 13目标摘要

2、 146.OxCAIGG 开展研究的参考文献 15委员会简介 15委员简介 16鸣谢 18公共服务中的人工智能：从原则到实践.牛津人工智能与善治委员会1报告摘要然而，这也是一个机遇，通过合作，人工智能系统将有助于实现善治，并帮助我们解决一些最紧迫和最棘手的公共问题。牛津人工智能与善治委员会研究和审议了确保人工智能系统有效用于公共服务的主要挑战，并提出了三个关键问题：z 谁应该为公共服务中的人工智能提供指导？z 我们如何为人工智能建设公共服务能力，以实现善治？z 我们如何确保公共服务中的人工智能是值得信赖、可信赖的？我们确认，为了使用人工智能实现公共利益，必须满足几个目标：z 人工智能的设计必须

3、具有包容性。z 人工智能的任何采购必须由知情的公共机构指导。z 在公共服务中实施人工智能必须有目的性。z 人工智能系统必须始终对利益相关者负责。早期经验表明，随着世界各国政府在公共服务中应用人工智能，这会带来严峻挑战。为了实现这些目标，我们提出了三项建议：在国际层面，政府、工业界和民间社会必须共同努力，建立和赋能(a)一个国际科学机构来推进公共服务人工智能应用的研究；以及(b)一个仲裁机构，以裁决公共服务人工智能系统中涉及的利益相关者之间可能出现的争议。在这两个新的国际组织的支持下，各国政府必须(a)建设其公共服务的能力，以深入参与公共服务人工智能系统的设计、采购、实施和当责；以及(b)为公共

4、机构的工作人员提供工具箱，以完成其监督工作。必须通过关于日常应用和即将出现的实际用例、其影响和风险的公共教育活动来加强人们对人工智能使用的信任，方法是(a)要求政府公开披露人工智能技术在公共服务中的使用情况；以及(b)引入一个多部门机构，由其提供一个基本的认证系统，不断验证应用程序，以随着时间的推移建立信任。以下三项直接行动有助于这些目标的实现：为科学机构和仲裁机构开展可行性研究。就这两个机构如何扩展和补充现有能力和最佳实践，与现有国家机构和多边机构进行沟通协商。计划在未来 36 个月内参与国际日程上已经排定的几个重要的技术创新里程碑活动。l23llllll公共服务中的人工智能：从原则到实践2

5、前言人工智能有望解决公共政策和社会变革中一些最紧迫的挑战，但我们的政府可能还没有准备好将其用于善治。近年来，许多政府都试图利用机器学习、大数据和其他算法工具等新技术来为民众制定和实施更好的政策和计划。尽管公共部门的创新是值得鼓励的，但其中许多项目都难以顺利启动，与工业界的合作冰消瓦解，劣质数据和有缺陷的技术导致了往往带有偏见的意外结果。这些经历引发了一个非常重要的问题：如何才能最好地将人工智能用于公共服务？2020 年到 2021 年，为了专门回答这个问题，我们参加了一个由牛津大学支持的项目，即牛津人工智能与善治委员会(OxCAIGG)。我们的团队成员包括来自世界各地的、担任各种职位、代表各方

6、利益的独立的董事、高管、学者、律师和政府顾问。在 18 个月的时间里，OxCAIGG 举办了专家简报会，并与牛津大学的技术顾问进行了磋商，对与人工智能和善治相关的主题进行了原创性研究，并召开了几天的研讨会。根据我们作为委员的观点、迄今为止的研究以及我们自己的经验，我们认为现在是独立的国际机构承担责任和使命的时候了，这些机构应当负责设计和支持实施标准和最佳实践，以便有效地在公共部门应用人工智能。随着各国政府在采用这些技术方面取得进展，一些机构也同时起到了促进作用，这些机构可以提供有关工业界参与的指导，并提供避免有偏见或低劣的政策和方案结果的方法，还可以提供裁决或争端解决服务。这些机构也将使世界上