阿里巴巴&达摩院：2023生成式人工智能治理与实践白皮书（96页）.pdf

《阿里巴巴&达摩院：2023生成式人工智能治理与实践白皮书（96页）.pdf》由会员分享，可在线阅读，更多相关《阿里巴巴&达摩院：2023生成式人工智能治理与实践白皮书（96页）.pdf（96页珍藏版）》请在三个皮匠报告上搜索。

1、4生成式人工智能治理与实践白皮书56生成式人工智能治理与实践白皮书生成式人工智能治理与实践白皮书编写单位指导委员会钱 磊 欧阳欣 朱红儒 安筱鹏 范科峰 董 建 闻 佳 郑俊芳 孙文龙吴泽明 阿里巴巴集团安全部总裁阿里云智能集团首席安全官阿里云智能集团标准化业务副总裁阿里云研究院院长中国电子技术标准化研究院信息技术研究中心主任中国电子技术标准化研究院信息技术研究中心副主任 阿里巴巴集团公共事务总裁阿里云智能集团首席风险官兼首席财务官中国电子技术标准化研究院副院长阿里巴巴集团首席技术官阿里巴巴集团中国电子技术标准化研究院阿里云智能集团达摩院专家委员会编写组主要成员陈岳峰傅宏宇 彭骏涛 杨易侗马宇

2、诗 朱琳洁 李金纯 杜东为杨雨泽 肖哲晖 蒋哲琪毛潇锋黄龙涛郎一宁李进锋 徐国海司靖辉 沈 晖安 勍特别鸣谢李晓军王 鹏贾一君叶 珩孙 宁成 晨 7编写组组长编写组副组长关于我们编写单位张荣 阿里云智能集团算法安全负责人袁媛 阿里研究院执行副院长李娅莉 阿里巴巴达摩院安全与法务负责人薛晖 阿里巴巴人工智能治理与可持续发展研究中心主任徐洋 中国电子技术标准化研究院人工智能研究室主任阿里巴巴人工智能治理与可持续发展研究中心（AAIG）是阿里巴巴集团旗下的人工智能顶级研发团队，致力于利用 AI 技术解决安全风险问题，并推动 AI 技术迈向更加可用、可靠、可信和可控。团队成员百余名，学术研究能力和工程

3、实践能力兼备，在计算机视觉、自然语言理解、数据挖掘与网络安全等领域的国际顶级会议和期刊上发表论文 100 多篇，多次在国际国内知名赛事中取得冠军，获授权国际国内专利 60 余项，申请中专利达到 200 多项，参与多项技术标准的制定。AAIG 贯彻“科技创新是最好的网络安全”的理念，所研发的人工智能产品涵盖内容安全、业务风控、数字安防、数据安全与算法安全等多个领域，为集团在全球的千万商家和十亿消费者提供安全保障，并通过技术服务方式赋能阿里云上一万多家中小企业构筑安全防线。联系我们aaiglist.alibaba-8生成式人工智能治理与实践白皮书一.生成式人工智能的发展以及 担忧1.生成式人工智能

4、的技术与应用突破141.1 文生文突飞猛进141.2 文生图效果惊艳151.3 行业应用广泛161.4 使用门槛降低182.生成式人工智能的内生问题与社会担忧202.1 个人信息的实时交互担忧202.2 内容安全的源头敏捷控制212.3 模型安全的全生命周期内控222.4 知识产权的溯源与权属挑战22二.生成式人工智能的治理愿景和框架1.国际社会治理特点261.1 治理目标：坚持促发展与重监管并行261.2 治理模式：强调多元主体协同共治261.3 治理手段：创设例外保留创新空间271.4 治理细则：技术规范逐渐明晰272.我国的治理特点282.1 促进发展：对人工智能发展给予更多政策支持，配

5、套发布一系列产业政策文件282.2 重视治理：确定了现阶段算法治理的重点场景，推动建立算法治理的“法治之网”282.3 伦理约束：加强科技伦理治理顶层设计，明确人工智能伦理原则及治理要求283.本书观点：发展多主体协同敏捷治理体系，构建全生命周期风险分类治理框架30目录9三.生成式人工智能风险产生原因的分析1.综述：构建生成式大模型的条件341.1 算力341.2 数据341.3 算法351.4 生态351.5 人才352.语言大模型362.1Transformer 网络362.2 训练过程和使用的数据362.3 语言大模型的生成过程392.4小结：语言大模型的风险来源403.视觉大模型413

6、.1 模型原理413.2训练过程423.3 生成过程443.4小结:视觉大模型的风险来源45四.生成式人工智能风险治理实践和探索1.生成式人工智能治理格局建设481.1 以针对性立法回应技术发展与产业需求481.2 以政策完善构建与技术发展需求相匹配的治理机制481.3 产业自律自治筑成负责任创新治理机制492.生成式人工智能不同环节的风险治理 512.1 模型训练阶段的风险治理522.2 服务上线阶段的风险治理532.3 内容生成阶段的风险治理532.4 内容传播阶段的风险治理543.个人信息合规563.1 大模型与个人信息的关系563.2 训练数据中的个人信息563.3 算法服务时拒绝生成