赛迪：人工智能治理之旅：发展与机遇(2022)（24页）.pdf

1、2022 年年 5 月月 9 日第日第17期总第期总第 536 期期人工智能治理之旅：发展与机遇人工智能治理之旅：发展与机遇【译者按】【译者按】2021 年 11 月，世界经济论坛发布了人工智能治理之旅：发展与机遇 。报告指出，人工智能技术取得飞速发展，但相关的治理能力和框架却没有及时跟进。近几年，各方对治理人工智能提出了很多伦理道德原则，但如何在不扼杀创新的前提下管控风险并推动人工智能治理由原则向实践转化才是最关键的。为此报告提出若干政策建议，呼吁多利益攸关方采取“灵活治理”的方式，共同参与人工智能治理。赛迪智库政策法规研究所对该报告进行了编译，期望对我国有关部门有所帮助。【关键词】人工智能

2、治理多利益攸关方【关键词】人工智能治理多利益攸关方一、背景一、背景在过去五年，人工智能治理取得了迅猛发展，构建人工智能监管生态系统的速度大大提高，但如何以负责任的方式推动人工智能的应用和实践依旧是当前面临的迫切挑战。人工智能有独特的风险，简单照抄现有政策工具并不能处理好这些问题，社会必须考虑在应用人工智能时完善相关手段和措施，以此来化解先进决策系统带来的潜在风险。这些手段和措施应当包括国际合作及跨部门合作，现在比过去 任 何 时 候 都 更 有 必 要 推 广 “ 多 利 益 攸 关 方 参 与 ”（Multistakeholder Approaches）的方式，同时在人工智能治理设计方面也要

3、采取更灵活的方法。要以负责任的方式对人工智能应用进行治理，确保人工智能技术能保护并惠及每位社会成员。二、人工智能发展历程回顾二、人工智能发展历程回顾历次工业革命既创造机遇，也带来挑战，迫使社会重新审视当时的治理结构能否有效维持监管与创新之间的平衡。人工智能是推动第四次工业革命的引擎，围绕人工智能及其安全防护措施将会出现诸多挑战。对其历史发展进程进行总结回顾十分重要，只有通过回顾过去，才能把握未来的发展方向。（一）（一）2010 年以前：人工智能的冬天与解冻年以前：人工智能的冬天与解冻早在人工智能发展初期，大家都认为人工智能发展到可以承担权责的程度时，就有必要认真考虑治理方面的问题。即使是处于历

4、史学家认为的“人工智能冬天” （即人工智能及公众兴趣走低的时期） ，人们对人工智能带来的后果和治理效果也抱有担忧和恐慌。另外，人工智能的潜在应用范围极广、社会影响深远，这势必引发人们对隐私、安全、偏差、公正等议题的担忧。因此，在制定政策时必须从多领域的现有框架中汲取经验，包括国际法、公共政策、数据治理与伦理道德规范等领域。（二）（二）2010 年到年到 2016 年：人工智能加速发展带来的挑战年：人工智能加速发展带来的挑战2010 年以后人工智能的发展开始提速， 主要源于三方面的突破：一是计算能力提升，二是云计算渠道增加，三是数字化数据量激增。同时，人工智能在深度学习方面也取得了明显进展。人工

5、智能的快速发展及应用的确鼓舞人心，但同样也引发了公众对数据使用和侵犯隐私等多方面的担忧。在获取或开发深度学习技术的热潮中，亟需防范的主要是涉及决策类的应用，如执法、人力资源和金融等敏感领域的应用。此外，人工智能系统对特定社会群体的不公正对待现象及宏观层面的关切也时有报道。对那些希望快速从人工智能发展中受益的人来说，重点是如何在安全和创新之间保持平衡。人工智能开始加速发展，治理不到位自然也就成了“速度问题” （法律法规无法跟上技术进步） 。（三）（三）2016 年到年到 2019 年：发布原则与指南年：发布原则与指南到 2016 年，公众越发意识到如果不对人工智能进行适当的监管和引导，将会干扰公

6、众生活，扩大社会不平等，加剧现有偏见，并破坏隐私，而所有这些都会削弱公众对人工智能的信任，从而使人工智能造福社会的潜力消失殆尽。政府和业界的最初反应是制定或修改某些原则。2017 年，在美国阿西洛马（Asilomar）举办了一次“有益的人工智能会议” ，会上提出了一套原则来帮助公众了解政府和业界一直大力推动的概念和观念，包括隐私、公正、非歧视、透明、安全与问责等。在这之后，世界各地的其它组织纷纷围绕人工智能主题发布各自的原则和主张。围绕人工智能造福社会的话题也兴起了多个组织和倡议，比如 2015 年成立的“开发人工智能学会” 、2016 年成立的“人工智能合作伙伴”和 2017 年发起的“人工