主论坛07-蔡俊磊_AI重塑审计_蔡俊磊.pdf

1、演讲人：蔡俊磊,CISA,Cybersecurity Audit,CCAK,AAIAAI重塑审计：探索重塑审计：探索AI驱动的审计职业进阶之路驱动的审计职业进阶之路ISACA中国技术委员会目录01竹外桃花三两枝04一骑红尘妃子笑02忽如一夜春风来03轻舟已过万重山第四届数字信任大会一些趋势-人才需求和AI应用来源：麦肯锡来源：麦肯锡”Technology Trends Outlook 2024”来源：麦肯锡来源：麦肯锡”State of AI 2025”第四届数字信任大会一些问题 风险和担忧来源：汤森路透来源：汤森路透”Gen AI in Professional Service”来源：贝恩来

2、源：贝恩”Gen AI Uptake vs Roadblocks”第四届数字信任大会ISACA观点来源：来源：ISACA”2025年人工智能应用现状调研报告年人工智能应用现状调研报告”第四届数字信任大会AI驱动的审计技能升级技术知识技术知识人工智能基本概念人工智能基本概念和术语和术语常见的人工智能常见的人工智能模型和应用模型和应用偏见偏见人工智能治理人工智能治理人工智能有许多术语需要熟悉，也有许多能力和技术方法需要了解。如人工智能、数据、机器学习、神经网络、自然语言处理、计算机视觉、伦理和可信度等。基本概念，尤其是与共同框架、标准和法规相关的基本概念，是关键所在。对常见的人工智能模型及其使用有

3、一个基本的了解是有帮助的。虽然模型的范围很广，但目前在商业应用和服务中最常用的模型将非常有用。从根本上说，人工智能非常善于区分，但它的设计往往存在偏见。这就导致了对设计和结果中如何处理、减轻或补偿偏见的关注和验证点。测试结果和测试结果的验证对审计师至关重要。包含政策、程序和控制措施的总体框架，将风险管理、合规和问责结构纳入实践，并对人工智能系统进行组织和管理监督。人工智能伦理学人工智能伦理学可信人工智能可信人工智能人工智能风险人工智能风险评估框架评估框架针对审计的针对审计的人工智能应用人工智能应用监管与合规性监管与合规性考虑因素考虑因素 包含两个子领域 应用子领域寻求将道德原则应用于人工智能开

4、发。理论子领域旨在研究道德义务、困境和原则，以及后果论、道德伦理学和道义论等领域。信息系统审计师应了解与其企业相关的适用人工智能法规和合规问题。信息系统审计师需要了解人工智能在审计中的具体应用。人工智能有若干风险管理要素和考虑因素，与许多其他领域不同。例如，在进行风险评估时，由于训练数据不足或具有歧视性，许多审计师不必考虑系统输出中的歧视性损害。指导人工智能技术和系统的开发、实施、使用和评估的框架。核心理念是人工智能技术是可解释的、透明的、公平的、稳健/可靠的、可理解的、可问责的、安全的和有保障的。第四届数字信任大会业务驱动的AI审计需求用于产品、工具和应用程序用于产品、工具和应用程序嵌入在购

5、买的第三方产品或工具中嵌入在购买的第三方产品或工具中在在SaaSSaaS或公共云服务中使用或嵌入或公共云服务中使用或嵌入嵌入在软件开发生命周期中嵌入在软件开发生命周期中AI不仅能够创造出类似人类的文本、图像、音频、视频和软件代码，而且还在企业中发挥着重要作用。在企业生态系统中，AI的应用日益广泛，为组织带来显著的价值和效益。传统传统AI使用案例使用案例通过分析现有数据和进行预测来解决特定问题遵循预定义的规则和算法适应性有限，不能自行生成新内容示例：垃圾邮件过滤交通路线优化决策过程GenAI使用案例使用案例创造性内容生成文本图像音乐艺术作品自适应学习和进化从新数据中学习生成更复杂的输出复杂问题解

6、决模拟和探索各种情况适用于广泛的应用类人交互理解上下文并生成响应聊天机器人、虚拟助手和客户服务界面客户体验客户体验内容创作内容创作改善客户服务改善客户服务供应链供应链研究与研发（医疗）研究与研发（医疗）风险管理风险管理人力资源增强人力资源增强预测分析预测分析业务流程洞察业务流程洞察欺诈检测欺诈检测业务运营增强业务运营增强营销活动营销活动AI 可以使企业更快地创造新产品。可能包括新药、毒性较低的家用清洁剂、新口味和香味、新合金以及更快更好的诊断工具。产品开发产品开发1AI 成熟度较高的企业将获得更大的收入收益。新的收入渠道新的收入渠道2AI 将使员工更快达到专业的熟练程度，并扩展员工工作范围，提