1、生成式人工智能的风险和机遇管理2023年10月管理层指南管理层指南 治理为治理为先先中国内地和香港地区搭建可信赖的人工智能搭建可信赖的人工智能坚持负责任的人工智能目录引言 2企业面临的风险 4生成式人工智能对企业的影响 5识别生成式人工智能的应用场景 6管理新增和加剧的风险 8董事会和董事成员可采取的措施 10高级管理层可采取的措施 11底线 13普华永道风险及控制服务部门的服务 14联系我们了解更多信息 151生成式人工智能的风险和机遇管理2022年11月，我们迎来了一场真正的革命。一夜之间，即便是仅会使用聊天软件的网民都感受到了人工智能的魔力。在短短一周内，便有上百万用户通过ChatGPT

2、撰写短文、编写计算机代码、创作艺术、把长文精炼为更有文采、更简洁的短文。与此同时，一些心怀不轨的群体则试图利用生成式人工智能编写恶意软件、散播更具迷惑性的钓鱼邮件和伪造更逼真的虚假身份。这似乎预示着大规模欺诈、隐私泄露、虚假信息和网络攻击正向我们袭来。在ChatGPT亮相仅数月后，生成式人工智能便深入地融入我们的生活和业务。活跃消费用户增长之快前所未有。从OpenAI的GPT3到GPT4，人工智能的功能实现了飞跃，在代码编写和中级专业写作方面的成绩显著。各大科技公司也不甘落后，纷纷推出/更新竞争产品；创业公司发布了定制应用程序的模型；包括普华永道在内的各大公司已宣布大规模投资自家的“Compa

3、nyGPT”，以供内部使用和对外提供新服务。但担忧也随之而来，有人告诫“具有人类竞争智能的人工智能系统可以对社会和人类构成深远的风险”，社会大众和行业专家对此都深感忧虑。该项技术的头部供应商也承认存在类似风险。引言2生成式人工智能的风险和机遇管理公司是否会冒险以信任换速度？公司是否会冒险以信任换速度？风险管理关乎成败。如果公司希望成功实施生成式人工智能计划并取得竞争优势，则需要评估该技术可能给全公司带来的风险。为此，公司需要一套风险管理框架，以便更好地抓住机遇。针对生成式人工智能，采用以风险为导向的方法将确保公司在数字化道路上，始终符合监管机构、消费者和其他利益相关者的期望。公司只有在采用生成

4、式人工智能的同时建立信任，才能快速、充分地利用这项改变世界的技术带来的红利。企业正在投资包括人工智能在内的新兴技术。（资料来源：普华永道，2023年）中国受访者认为，产品和服务采用人工智能的利大于弊（资料来源：益普索，2022年）员工认为，加速采用人工智能有助于事业发展（资料来源：益普索，2022年）只有只有46%中国内地及中国内地及68%中国香港中国香港78%48%3生成式人工智能的风险和机遇管理企业面临的风险生成式人工智能是人工智能家族中的一个强大分支，对企业具有颠覆性影响。它能够支持企业运营的几乎所有方面（包括客户服务、软件开发和数据分析）实现自动化和提升。借助人工智能，公司能针对不同客

5、户定制个性化互动，改善互动方式，从而提升客户关系。人工智能可以自动完成批量任务，例如处理保险索赔和沟通或执行某些软件开发任务。通过人工智能，团队能更轻松地了解非结构化数据，包括合同、发票、客户反馈、保单、保险理赔员告知单、绩效评估、医疗记录等。员工生产力可以大幅提升。根据OpenAI的估计，每10名员工中约有8名*可通过生成式人工智能自动完成其至少10%的工作任务，而这仅仅是起步。生成式人工智能工具可以自动完成例行任务，使员工得以解放，从而投身更具创造性的工作，或以更创新、更全面的方式理解复杂主题和任务，提升批判性思维。随着技术需求的持续增长，生成式人工智能的功能也在不断进步。仅仅不到四个月，

6、人工智能语言系统就在复杂度和功能性两方面取得了显着进步，发展劲头势不可挡。公司想要搭上人工智能的快车，实现持续发展，则需尽早招募风险专业人员。如此方能树立公司信心，顺利实施和推进生成式人工智能项目。公司的风险管理人员必须管理好新增和加剧的风险，以及在业务、法律和监管方面的一系列挑战。白宫、美国国会、美国联邦贸易委员会、中国国家互联网信息办公室和欧盟相继采取行动，对生成式人工智能进行监管。与此同时，针对生成式人工智能违反数据保护法，在未经同意的情况下，收集、使用和披露个人信息的行为，部分国家（意大利、加拿大、西班牙、法国、德国）展开了调查，以此响应社会各界的不满或担忧。随着生成式人工智能技术日益