兰德：人工智能对核战争风险的影响（附下载地址）

三个皮匠微信公众号每天给您带来最全最新各类数据研究报告

当今世界的核平衡依赖于几个不可持久的条件。计算能力和数据可用性的进步，让机器能够完成一度需要人类参与或被视为不可能的任务。这种人工智能 (AI) 也许会带来新的军事力量，从而引发军备竞赛，抑或增加国家在危机中有意或无意间动用核武的可能性。1兰德公司召开了一系列研讨会，集众多人工智能与核安全领域的专家于一堂，共同探讨在2040年之前人工智能会如何演变成一股稳定或不稳定的力量。（原文来自皮匠网，关注“三个皮匠”微信公众号，每天分享最新行业报告）

人工智能对核战略的影响，既取决于敌方对其军事应用能力的认知，也同样取决于其实际能力。例如，一个国家要发展出定位和锁定敌方所有核武发射器的能力，在技术上极具挑战性，但这项能力却能产生出巨大的战略优势。因此，各国都垂涎三尺，不顾一切技术困难追求这项能力，即使这样做有可能惊动对手，增加冲突的可能性。从技术上说，高级人工智能仍难以克服源自数据局限和信息论论证的障碍，但跟踪和瞄准系统只需要

被视为具备这项能力，便可产生破坏稳定的作用。一种近乎实现的能力，也许比已经实现的能力更加危险。

人工智能的发展轨迹，连同辅助信息技术和其他方面的进步，将对未来25年的核安全问题产生重大影响。人工智能技术或延续近年来快速进化的趋势，抑或在现有技术成熟后趋于稳定。一些理论家认为，机器在未来某个时候可能会发展出提高自身智力的能力，形成“超级智能”，具备人类无法理解或控制的能力，但对于人工智能的进化之路（包括形成超级智能的可能性）仍然众说纷纭。有人设想取得初步突破之后会遭遇挫折；有人则猜测会走循序渐进的道路。

上述两种极端情况与核战争的前途关系不大。发展停滞（又称为人工智能的寒冬）只会导致当前核安全环境的微末变化。若超级智能成为现实，人工智能将令整个世界面目全非，在此过程中人类或将得到挽救或将走向毁灭。另外两种情况下，人工智能的发展取得巨大进步，实现许多新的功能，但至少在某些方面仍逊于人类、

容易出错，这似乎得到专家群体的更多认可，但对于这些功能给国家安全带来的影响，专家们莫衷一是。有些“ 乐观派”倾向认为，要达到能够执行某些足以打破核平衡的任务的人工智能是非常困难的，不大可能实现。相反，“谨慎派”则认为，人工智能能够执行某些任务，但不应该用于核战争的任何领域。第三种属于“颠覆派”，他们强调敌方篡改、误导、牵制或以其他方式欺骗人工智能的能力，这本身也可以起到稳定或打破稳定的作用。

研讨会上讨论了一个例子：作为决策支持系统的人工智能。即使不直接连接到核武发射器上，但人工智能仍可以就冲突升级问题为人类提供意见。鉴于人工智能在日益复杂和不甚明确的任务中取得持续进步，我们有理由相信，这项能力——至少在决策过程中的某些环节能够在2040年前实现。谨慎派担心，这项能力可能在还不可靠或尚不清楚其局限性的情况下就派上用场。然而，如果人工智能顾问经证实是有效的，则可以减小人为错误的可能性，做到彻底透明化，从而降低误判风险，提升稳定性。但许多专家担心，敌方会通过黑客攻击、破坏训练数据或操纵输入因素等手段，颠覆本领高强的人工智能。

在未来几十年维持战略稳定，需要在多极世界背景下重新审视威慑理论的理论基础。要做到有效的威慑，即使不直接连接到核武发射器，人工智能仍可以就冲突升级问题为人类提供意见。

我们必须抗衡受人工智能进步所推动而快速迭代的各种能力。关键性的考量包括：实际能力的影响，相关能力的可预见潜能（不论是否存在），以及这些能力过早应用或出错性（特别是因敌对行动所致）。只要谨慎行事和一定的前瞻性思考，这些风险是有可能识别和减轻的。