安永：在银行业务中扩大对人工智能和机器学习的应用（14页）.pdf

《安永：在银行业务中扩大对人工智能和机器学习的应用（14页）.pdf》由会员分享，可在线阅读，更多相关《安永：在银行业务中扩大对人工智能和机器学习的应用（14页）.pdf（14页珍藏版）》请在三个皮匠报告上搜索。

1、对此表示认同：“最高层面上一定会有伦理道德因素的考虑。由一台机器来做出这个特定的决定，是否妥当?用于做出该决定的数据又是否准确?”另一位与会者解释道：“作为一个科学名词，大家都了解什么是偏见，也知道偏见能够被计量。但更深层的问题是在于公平性。对公平性进行社会建构会制造紧张关系，因为公平性的定义无法成文。”监管及法律的不确定性。一些与会者指出，虽然传统模型目前已得到监管机构和社会的接受，但是人工智能相关指引仍不成熟。一位与会董事表示： “我相信，你可以对风险进行控制并做出解释，但监管机构的想法和接受程度才更加重要。我们会有免责规定吗?虽然我很感兴趣这种信用评估方法，认为它很有吸引力，但归根结底，

2、监管机构和整个社会对此会接受吗?目前，FICO信用评分模型做到了。”风险可控，但银行领导者需要得到保证尽管很有前景，但大型银行将人工智能应用扩展到一些敏感领域(例如，信用领域)时，却显得犹豫不决。一位与会者表示：“风险可以解决，但目前，我丝毫没有看到大型银行将其用于信贷决策的证据。”虽然董事和监管机构专注于了解相关风险，但一位与会者提醒，不能把对人工智能的相关担忧视为整个行业尚未妥善考虑过的“模糊且无法计量的风险”。他表示：“就人工智能及其在贷款中的应用而言，相关问题和观点有很多。这点我赞同，但减轻这些担忧的方法很多，而且并不仅仅只是停留在理论层面。多年来，银行确实已经建立和实施了相关贷款计划，能够产生利润、衡量并报告偏见，在贷款申请被拒绝时给出体贴消费者的解释，以及耐心接受监管机构的审查等等。”一位与会者询问，在审贷等情境下，为什么相对于传统模型，人工智能模型实际上并不能给出更加合理的解释?他表示：“大家似乎会普遍假设，人工智能无法被解释。但根据法律，每次拒绝贷款申请时都必须提供不利行为通知。任何系统，无论是基于规则的还是基于人工智能的，都需要告知客户拒贷原因。告诉客户抱歉，您的FICO信用分数低于700真的能解释得了什么吗?但不知何故，业界都接受了这种做法。”