观安信息：生成式AI合成内容鉴别安全实践（12页）.pdf

1、生成式生成式AIAI合成内容鉴别合成内容鉴别安全实践安全实践演讲人：演讲人：李雪鹏李雪鹏 单位名称：单位名称：观安信息观安信息0101生成式生成式AIAI现状现状 STATESTATE0202法律法规政策法律法规政策 POLICYPOLICY 0303风险风险 QUESTIONQUESTION0404我们的行动我们的行动 ACTIONACTION0101生成式生成式AIAI现状现状/生成式生成式AIAI与传统与传统AIAI对比对比 与传统AI的不同生成式AI（Generative AI）是一种利用机器学习和人工智能技术生成新内容的系统。与传统的AI不同，生成式AI不仅能分析和理解现有数据，还能

2、基于这些数据生成新的、未曾存在的内容。这些内容可以是文本、图像、音频、视频等各种形式。生成式AI的核心在于其能够创造性地生成具有一定创意和实用价值的新数据，从而拓宽了人工智能的应用领域。现在所用技术传统传统生成对抗网络（生成对抗网络（GANsGANs）：由生成器和判别器两个对抗性网络组成，通过两者的对抗训练生成越来越逼真的数据变分自编码器（变分自编码器（VAEsVAEs）：过将数据编码为潜在变量，再从潜在变量生成新数据自回归模型自回归模型：Transformer、GPT等，通过逐步预测下一个数据点，自回归模型能够生成连贯的序列数据扩散模型扩散模型：过模拟数据生成过程中的噪声扩散和逆扩散过程，生

3、成高质量的新数据图片来自OpenAI、文心一格、Runway、StabilityAI、造梦日记、通义万相0101生成式生成式AIAI现状现状/DeepFakeDeepFake热点事件热点事件 20242024年“三只羊三只羊”事件水落石出，事件水落石出，AIAI雷军骂人的视频雷军骂人的视频大量AI生成的真假难辨 20232023年年5 5月月8 8日，包头警方发布了一起利用智能日，包头警方发布了一起利用智能 AI AI 技术进行电信诈骗的案件技术进行电信诈骗的案件 20232023年年2 2月月1717日，一则关于日，一则关于“杭州市政府将于杭州市政府将于3 3月月1 1日取消机动车尾号限行政

4、策日取消机动车尾号限行政策”的消息也在网络疯传的消息也在网络疯传 20212021年年4 4月月2727日日消息，荷兰议会外交事务委员会在视频会议软件荷兰议会外交事务委员会在视频会议软件ZoomZoom上被上被AIAI换脸技术所骗换脸技术所骗 近期在直播领域，许多网友也发现多位带货直播博主都长了一张许多网友也发现多位带货直播博主都长了一张“明星脸明星脸”，神似明星杨幂、迪丽热巴、angelababy、佟丽娅等。浙江温州市公安局通报过一起利用浙江温州市公安局通报过一起利用 AI AI 换脸技术进行诈骗的案件换脸技术进行诈骗的案件。0202法律法规政策法律法规政策/相关法律法规相关法律法规 202

5、4年2023年 2022年 2021年 2020年 2019年 2018年 2016年 2015年 促进和规范数据跨境流动规定生成式人工智能服务安全基本要求个人信息出境标准合同办法生成式人工智能服务管理暂行办法数字中国建设整体布局规划网络安全标准实践指南一生成式人工智能服务内容标识方法人工智能面向机器学习的数据标注规程信息安全技术 大数据服务安全能力要求数据出境安全评估办法互联网信息服务深度合成管理规定工业和信息化领域数据安全管理办法(试行)信息安全技术 网络数据处理安全要求信息安全技术信息安全风险评估方法数据安全法个人信息保护法关键信息基础设施安全保护条例网络安全审查办法互联网信息服务算法推

6、荐管理规定信息安全技术个人信息安全影响评估指南信息技术大数据 数据分类指南信息安全技术个人信息安全规范互联网个人信息安全保护指南App违法违规收集使用个人信息行为认定方法信息安全技术数据安全能力成熟度模型信息安全技术 大数据安全管理指南科学数据管理办法信息技术 数据质量评价指标网络安全法国家安全法促进大数据发展行动纲要0303风险风险/AIAI滥用滥用 很多人都发现，抖音、快手、小红书等平台上的“抽象”内容越来越多，很多甚至已经违反了自然规律和常识，有些内容更是在道德和法律红线上反复横跳。面对AI生成的劣质内容，大