1、亚太地区生成式人工智能 应用与监管引言 3第一部分：传统人工智能与生成式人工智能 4第二部分：生成式人工智能相关风险 6第三部分：亚太地区人工智能监管措施 7 第四部分：高可信人工智能框架的应用 10联系人 17尾注 193亚太地区生成式人工智能应用与监管引言过去一年，大语言模型（LLM）和自然语言处理模型等人工智能（AI）技术的发展取得了重大突破。这些技术已经通过OpenAI的ChatGPT、微软Bing AI Chat和谷歌Bard AI等工具得到广泛传播，并引起全球消费者的热议、追捧和警惕。AI平台对广大用户的可触达性突显了AI技术在各行各业（包括金融服务业）的应用潜力。许多企业开始利用

2、AI技术提高自身竞争优势。监管机构和立法机构需更加迅速、敏捷、主动地应对AI应用所带来的相关风险。在德勤2022年发布 人工智能在金融服务业的可靠应用 报告时，亚太地区许多监管机构仍处于商讨和/或实施AI原则的起步阶段。随着AI工具在金融服务业得到应用和普及，部分立法和监管机构已经开始研究AI应用的相关风险，以保障消费者权益。在本篇后续内容中，我们将进一步探讨金融服务业使用AI的相关风险、亚太地区监管现状以及金融机构在准备应对即将出台的相关法律法规时的考量因素。4011 101 011 101 0亚太地区生成式人工智能应用与监管知识更新：了解传统AI与生成式AI传统AI是指可以自动处理预定义输

3、入的系统。此类AI系统能够从训练数据中获取知识，并利用这些知识做出决策或预测。例如，许多企业利用AI聊天机器人提供精简高效的客户支持。传统AI聊天机器人在处理常见问题方面尤其有效。凭借内部搭建的知识库，其可针对常见问题提供准确一致的回复并进行用户意图预测。生成式AI可以编写文本、生成代码、制作音频和图像，其水平与人类不相上下，甚至超越人类。例如，生成式AI工具包括可用于生成书面文本（如营销文案、软件代码等）和图像等内容的LLM。生成式AI模型具有生成连贯文本和超逼真图像的能力，其可采用以前只能通过人类的思维、努力和创造力才能实现的方式生成数据。传统AI和生成式AI的不同功能驱动了不同用例。就金

4、融服务业而言，传统AI可以用于开展预测分析或检测可疑交易，而生成式AI可以加速完成从交易和研究到通过生成相关报告为合规职能提供关键支持等任务，本报告将对此作进一步阐述。第一部分：传统人工智能与生成式人工智能5011 101 011 101 0亚太地区生成式人工智能应用与监管图1：传统AI与生成式AI传统 AI生成式AI预设规则训练算法预测和模型分析文本生成图像生成计算机代码生成特点示例传统AI是指根据预定义指令或策略执行特定任务的系统。生成式AI是一种能够根据用户提示创建新内容的人工智能。6011 101 011 101 0亚太地区生成式人工智能应用与监管第二部分：生成式人工智能相关风险在20

5、22年发布的 人工智能在金融服务业的可靠应用 报告中，探讨了亚太地区监管机构希望通过AI监管原则解决的常见风险要素：透明度、问责制、公平性、稳健性、隐私和数据安全。目前此类风险和担忧依然存在，而生成式AI的兴起又给市场带来了新的风险：缺乏透明度：考虑到生成式AI模型的复杂性及其所涉信息的专有性，人们普遍认为生成式AI缺乏透明度。此外，在衡量或评估生成式AI模型的透明度方面缺乏标准化的工具和方法，这可能导致在比较不同模型和追踪长期进展时变得困难。歧视和偏见：生成式AI可能会将一些偏见与训练数据中的模式形成关联，从而生成歧视性或误导性内容。缺乏准确性和产生错误观念：生成式AI可能会利用不完整、不准

6、确或有偏见的数据生成不准确或有误导性内容，或者干脆生成虚构事实。生成式AI模型没有固有的“客观真理（objective truth）”，可能会生成错误甚至有害的内容和观点。知识产权和版权问题：生成式AI模型可能会以受版权保护的材料为基础进行训练，从而生成与受版权保护的材料非常相似的内容。生成式AI模型还可能用于制造假冒或盗版商品，侵犯知识产权。欺诈：生成式AI可能生成深度伪造和合成数据，这些数据可以用于实施欺诈、传播错误信息或造成系统漏洞。7011 101 011 101 0亚太地区生成式人工智能应用与监管第三部分：亚太地区人工智能监管措施生成式AI的出现迫使亚太地区政策制定机构和监管机构重新