《赛迪译丛：2024人工智能治理：历史经验的启示（28页）.pdf》由会员分享，可在线阅读，更多相关《赛迪译丛：2024人工智能治理：历史经验的启示（28页）.pdf（28页珍藏版）》请在三个皮匠报告上搜索。

1、-1-2024 年年 10 月月 14 日第日第33期总第期总第 659 期期人工智能治理：历史经验的启示人工智能治理：历史经验的启示【译者按】【译者按】今年 8 月，兰德公司发布首篇“人工智能特征”系列报告人工智能治理：历史经验的启示。报告通过回顾核技术、互联网、加密产品和基因工程四项技术的治理案例，认为人工智能治理应关注三个方面：制定技术规范时达成共识的重要性，治理有形资产与无形资产所面临的不同挑战，以及公私伙伴关系在治理中的作用。报告指出，尽管没有任何历史治理模式能完全类比人工智能治理，但由于人工智能可能以不同方式开发和应用，这些历史案例仍能为人工智能治理提供重要启示。赛迪智库电子信息研

2、究所对该报告进行了编译，期望对我国有关部门有所帮助。【关键词】人工智能治理历史类比经验启示【关键词】人工智能治理历史类比经验启示-2-一、概述一、概述人工智能的不断进化引发了一个问题：如何既能充分发挥人工智能优势，又能把风险降到最低？二战后，核技术、互联网、加密产品和基因工程成为新兴技术，但这些技术也曾面临类似的治理问题。这主要体现在三个方面：达成技术规范共识的必要性、治理有形资产和无形资产的重要区别、公私合作伙伴关系在治理中发挥的作用。上述四种新兴技术的区别体现在：开发所需的竞争资源、主要服务对象是公共部门还是私营部门、技术带来的安全风险、就风险达成的共识、可控的有形资产、能否就治理建立利益

3、共同体、风险最小化且利益最大化的最优治理方式是公共治理还是私营治理。人工智能早期治理模式的适用性取决于人工智能未来的发展。如果人工智能存在严重的广泛致害风险，在获取和使用过程会消耗大量资源，同时拥有可监控的有形资产，那么此类人工智能与核技术类似，适用于普遍的国际治理架构。而极小风险一类人工智能的适用模式与互联网治理模式类似。如果人工智能在获取时伴随巨大风险，那么此类人工智能适用于类似基因工程的治理模式，但各相关方应谨慎采用类似加密技术的治理模式。决策者应在关注人工智能的发展，追求共同治理标准、关注技术和环境变-3-化的同时，也应该借鉴历史教训。二、人工智能治理的紧迫性二、人工智能治理的紧迫性近

4、年来，人工智能的发展使大众重新关注人工智能带来的风险，这些风险既有直接的、具体的，也有未来的、推测的。研究人员警告称，人工智能可能会对社会产生负面影响，例如因其自动化程度不断提高造成工作岗位减少、重大决策发生偏差、放大虚假信息和操纵社交媒体。此外，人工智能技术对国家经济竞争力和军事优势至关重要，人工智能发展落后会威胁国家安全。还有记录表明，通用人工智能，特别是生成式人工智能和大型语言模型对人类生命和福祉构成了威胁。上述担忧使大众更加关注对人工智能的监管和治理。过去对治理新技术也存在类似担忧。本文探讨了核技术、互联网、加密产品和基因工程四种技术的治理。本文通过探讨这些技术，总结了这些技术的发展历

5、程、与人工智能的治理区别，并阐述了技术治理的三大主题：就技术规范达成长久共识；有形资产和无形资产的治理；治理方面的公私伙伴关系。第一，大量实例证明：技术治理的成功关键在于规范一致、-4-认知相同。选定的每个例子都表明，技术治理的核心在于指导技术开发与使用规范达成共识。第二，治理有形资产和无形资产会面临的挑战存在不同，但治理无形资产相对更难。这不代表无形资产的治理不重要：政府对信息分类和知识产权的保护（如经营模式）就属于主要的无形资产治理方法。无形资产治理需要方法和流程，但只有这些还不够完善，而有形资产的监控制度往往是有效治理模式的主要焦点。第三，公私互动对大多数技术治理都十分重要。公私互动可根

6、据技术性质和治理重点，采取不同形式，但对于最前沿技术，最终都需要公私互动。如果技术治理框架有这样的远见，积极主动地为公私部门创造良好的互动条件，将会更好地实现治理。最后，本文研究的人工智能等技术确切来说是研究一系列或各类相关的设备、系统和技术。本文用“技术”一词指代这一宽泛的概念，而非指这些技术中的某项特定技术。本文的人工智能仅限于“生成式人工智能”系列技术。三、历史经验对人工智能治理的启示三、历史经验对人工智能治理的启示二战结束以来，各种技术都需要新型治理方式。本文探讨了四种技术：核技术、互联网、加密产品和基因工程，在开发和应用过程中，所涉及的新型治理方式为人工智能治理提供了不同的-5-借鉴