德勤：智海领航洞悉人工智能在金融服务领域的战略及监管风险[20页].pdf

1、智海领航 洞悉人工智能在金融服务领域的战略及监管风险 智海领航 | 洞悉人工智能在金融服务领域的战略及监管风险 2 目录 引言 3 人工智能的挑战 4 人工智能的可解释性 6 系统性风险和人工智能 8 歧视与公平 11 其他不确定性 13 算法受托 13 算法合谋 13 结论 15 联系人 16 pOsNoOrNsPrPnPmNpQuNtM7N8Q6MmOoOmOrRiNoOoMeRpNtM9PpPzQuOoOtPMYsOyQ 智海领航 | 洞悉人工智能在金融服务领域的战略及监管风险 3 各位同事， 自2015年以来， Deloitte Consulting LLP （以下简称 “” ） 一直

2、与世界经济论坛 （以下简称 “论坛” ） 合作， 共 同探讨金融服务业变革的驱动力量。 这一努力最终， 或者说不可避免地， 会触及人工智能 （AI） 在金融服务领域的 应用这一话题。 我们也在思考： 金融机构在有效应对人工智能带来的风险的同时， 如何从人工智能中获益？ 这也是论坛于2019年 发布的智海领航： 在金融服务领域使用 AI 进行负责任创新的路线图报告所探讨的专题之一。 为获得更深刻的洞察， 我们开展了超过十个月的调研， 访谈了250多位全球各地的行业专家， 其中包括许多知名金 融机构的高管。 此外， 我们还在世界各地举办了一系列的线下研讨会。 通过这些调研， 我们提炼出三大焦点问题

3、： 各利益相关方如何才能了解人工智能系统进行决策的原理？ 人工智能算法是否会破坏金融系统的稳定性？ 金融机构如何避免人工智能解决方案的歧视问题？ 为深入了解上述及其他相关问题， 我们探讨了潜在的风险和不确定性， 有效管理应对此类风险和不确定性带来的 机遇， 以及金融机构应对此类问题的领先实践。 我们希望本论坛报告能对金融服务领域合理运用人工智能有所启 示， 并为企业在未来不确定性中平稳前行保驾护航。 引言 Bob Contri 全球 金融服务业领导合伙人 Rob Galaski 管理咨询 银行业及资本市场 全球咨询领导合伙人 rgalaskideloitte.ca 智海领航 | 洞悉人工智能在

4、金融服务领域的战略及监管风险 4 伴随人工智能的兴起， 金融行业进入了一片未知的 “海域” 。 早期的 “航海家” 可能在这片海域收获颇丰， 但也可能 在航程中面对风险和不确定性。 行业能否顺利进入人工智能驱动时代， 取决于是否具备以下能力： 合理部署现行人工智能系统。 人工智能系统能以人类尚不熟知的方式进行自我学习和 “思考” 。 这种难以理解的 特性会导致一系列问题， 诸如对客户的歧视、 系统不稳定性， 尤其在人工智能系统之间以更高的频率和速度进行 交互时。 因此， 金融行业可能不得不采用新的治理方式， 其中可能包括应对人工智能风险事件所采取的例如检测及预防等 保障措施， 风险发生时的补救

5、机制和提供必要干预手段的流程。 此外， 针对每个案例， 系统自身可能需要具备某 种形式的审核机制。 合理扩大人工智能在未来金融系统中的应用。 人工智能的应用正推动多个行业重新审视竞争政策、 隐私权和运 营弹性。 这一过程中的共同关注点是什么？ 答案是数据。 金融机构之间的数据交互日益频繁。 大型数据存储为亟 需数据的人工智能系统提供了 “赢家通吃” 的环境。 与此同时， 客户也逐渐意识到个人数据的价值。 上述动态变化将决定金融机构如何部署人工智能， 以及采用何种战略。 而潜在的影响不仅包括数据的应用， 还包 括市场参与者、 适用的商业模式和法规等方面的变化。 行业的领导者应当积极地参与相关决策

6、， 以确保相关政策 能对金融机构产生正面的影响。 激发具备可靠人工智能技术的金融系统的潜力。 审慎应用人工智能不仅可规避风险， 还可以推动行业向善。 某些 机构已使用人工智能打造金融产品， 从而更好地服务于客户和社会。 （图1） 金融服务严监管的特性对于人工智能而言反而是 “一线生机” 。 消费者愈加关注其数据权利和数字主权， 这导致科 技巨头的优势被逐步削弱， 而金融机构则有机会利用更高客户信任度这一优势1， 实现客户全新的价值主张。 人工智能的挑战 智海领航 | 洞悉人工智能在金融服务领域的战略及监管风险 5 图1： 如何利用人工智能提高金融系统的道德标准 实现上述目标应该如何行动呢？ 最