德勤：创新与信心偕行–人工智能与风险管理报告(29页).pdf

1、人工智能与风险管理报告 创新与信心偕行 目录 1. 概要 01 2. AI的简要概述 03 3. 当金融服务企业大规模采用AI技术时可能会遇到的挑战 04 4. 在风险管理体系中嵌入AI 07 5. 监管者所看重的具体是什么呢？ 18 6. 监管AI中的一些反思 22 7. 结语 24 后记： 中国AI风险管理和监管现状 25 译者 26 作者 26 1. 概要 说起人工智能（AI），虽然它并不是一个 全新的概念，但在近些年金融服务企业 开始逐渐意识到它的巨大潜力。 AI可以提高运营效率、降低成本，同时还 有助于企业实现战略转型，更多、更好 地融入用户参与。然而，一些客观限 制条件，都在或多或

2、少地阻碍着金融服 务企业大范围的推广使用AI技术，包括数 据量和数据质量上的局限、对于AI潜在风 险的认知不足以及公司文化和现行规章 制度的限制。 欧盟以及其他国际组织同样对于AI技术 有着极大的兴趣。尽管他们认识到AI可 以为金融市场、客户以及他们的内部工 作带来诸多益处，但也认识到那些受监 管公司当采用AI时可能会产生的潜在风 险以及意料之外的后果。 近些年来，值得注意的是，金融服务业 因对客户和市场的失当行为，从而受到 众多经济上及其他形式上的制裁。由此 产生的对于公平对待客户和保证市场诚 信问题，以及AI技术在监管领域中未经 测试与未经检验的特性的关注，都意味 着金融服务企业对于采用A

3、I解决方案应 该时刻保持谨慎。 “有效的风险管理已经不再 是抑制创新的因素， 而是公司 成功使用AI技术的关键。 ” 为了能解决这些困难，从而实现充分利 用AI技术的优势，并且避免未来可能出现 的问题，董事会和高级管理人员必须充 分理解这项技术，包括它在企业中现有 或潜在的用途，并从风险的角度出发来 仔细考虑AI的影响。在这种环境下，有 效的风险管理已经不再是抑制创新的因 素，而是公司成功使用AI技术的关键。 “我们认为企业面临的重大 挑战不是在处理全新类型的 风险， 而更多应该是关注那 些难以用有效且及时的方式 去分辨的风险， 或它们已经 以不同以往的出现方式而显 现的风险。 ” 关于刚刚提

4、到的后一点，这将是本文之 后所讨论的重点。我们认为企业面临的 重大挑战不是在处理全新类型的风险， 而更多应该是关注那些难以用有效且及 时的方式去分辨的风险，或它们已经以 不同以往的出现方式而显现的风险。在 这篇文章中，我们将讨论企业应该如何 重新审核并调整现有的风险管理框架， 以反映在当部署复杂AI应用时企业需要 关注的一些重要差异。 1 人工智能与风险管理报告 | 创新与信心偕行 比如说，AI可以不断的从新数据中学 习，并通过建立复杂统计模型，而后得 出结论。但这种结果并不是基于那些明 确且预先定义好的规则，这就让企业难 以理解这其中支撑最终结论的决策机 制。在许多方面上，这种挑战与面对管

5、理人力资源时所面临的挑战非常相似。 然而，不断发展的AI技术使其可审计性 以及可溯源性变得异常困难，并且这种 技术发展的速度可能会导致在极短的时 间内产生大规模的错误。 企业需要重新审核并且更新他们的风险 管理方式，从而在不同的风险管理框架 全生命周期（识别，评估，管控，监 督）阶段中管理风险。不断发展的AI技 术要求这些风险管理方式必须在更短更 频繁的时间间隔内得以应用。现有的风 险偏好声明也同样需要重新审核，并且 需要添加一系列新的内容，比如说公平 性原则等，以便为风险管理框架的各个 阶段提供信息支持。 “不断发展的AI技术使其可 审计性以及可溯源性变得异 常困难， 并且这种技术发展的 速

6、度可能会导致在极短的时 间内产生大规模的错误。 ” 在本篇文章中，我们将会用简单的理论 性的风险管理框架来描绘出一些AI所带 来的挑战。例如，一个保险公司如何在 产品定价过程中，使用AI来做到风险模 型管理。最后，我们将总结当监管者监 管AI时会遇到的挑战与选择。 本篇文章旨在成为一个理解AI对于现有 风险管理方式和更为广泛的监管环境的 影响的起步点。通过强调这些需要关注 的领域，我们希望帮助企业能够在制定 AI政策时，或者更具体来讲，在制定AI 风险管理框架的时候，为它们提供更加 高效的解决方案和监管机制。 2 人工智能与风险管理报告 | 创新与信心偕行 2. AI的简要概述 人工智能的概念