泰和泰律师事务所：2024年人工智能法律风险年度报告（16页）.pdf

1、1/162024 年人工智能法律风险年度报告2024 年人工智能法律风险年度报告泰和泰（北京）律师事务所于梦圆 法律服务团队泰和泰（北京）律师事务所于梦圆 法律服务团队2/16编制说明编制说明1.本报告汇总 2024 年度人工智能领域法律法规与典型案例。2.本报告结合 2024 年前人工智能领域法律法规与典型案例，形成现行监管框架与合规指引，以期帮助从业者整体把控法律风险。3.本报告中“人工智能”仅指“通用人工智能”，对于金融、生物医药、生命健康、自动驾驶等垂直领域不作展开。4.本报告仅供参考，不构成法律意见。3/16目录第一章 2024 年人工智能法律法规.4一监管对象.41.管辖范围.42

2、.产业划分.5二法律法规.6三监管框架.91.算力.92.INPUT 语料.93.模型及系统.104.OUTPUT生成物.115.其他.11四安全治理框架.12第二章 2024 年人工智能典型案例.13一INPUT 语料.131.知识产权侵权纠纷.132.人格权侵权纠纷.133.数据/计算机类犯罪.134.不正当竞争.14二模型及系统.141.数据安全违法处罚.142.模型安全违法处罚.143.算法安全违法处罚.15三OUTPUT 生成物.151.人格权侵权纠纷.152.违法不良信息处罚.15四产品设计：计算机类犯罪.16五算法备案与安全评估.164/16第一章 2024 年人工智能法律法规第

3、一章 2024 年人工智能法律法规一监管对象1.管辖范围一监管对象1.管辖范围我国赛博法（或称“网络法”、“数据法”）的管辖范围主要考察被监管对象的“运营主体”和“服务/处理对象”两个因素的地理位置，随着立法进程的推进，管辖范围的规定愈见精确。国内人工智能管辖范围的设置将很大概率沿袭生成式人工智能服务管理暂行办法、生成式人工智能服务安全基本要求的规定，确定为由“境内/境外运营主体境内/境外运营主体”向“中华人民共和国境内公众中华人民共和国境内公众”提供的服务/产品。法律法规法律法规管辖范围管辖范围网络安全法第二条在中华人民共和国境内建设、运营、维护和使用网络，以及网络安全的监督管理，适用本法。

4、数据安全法第二条在中华人民共和国境内开展数据处理活动及其安全监管，适用本法。在中华人民共和国境外开展数据处理活动，损害中华人民共和国国家安全、公共利益或者公民、组织合法权益的，依法追究法律责任。个人信息保护法第三条在中华人民共和国境内处理自然人个人信息的活动，适用本法。在中华人民共和国境外处理中华人民共和国境内自然人个人信息的活动，有下列情形之一的，也适用本法：（一）以向境内自然人提供产品或者服务为目的；（二）分析、评估境内自然人的行为；（三）法律、行政法规规定的其他情形。互联网信息服务算法推荐管理规定第二条在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本

5、规定。法律、行政法规另有规定的，依照其规定。前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。互联网信息服务深度合成管理规定第二条 在中华人民共和国境内应用深度合成技术提供互联网信息服务（以下简称深度合成服务），适用本规定。法律、行政法规另有规定的，依照其规定。5/16生成式人工智能服务管理暂行办法第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业

6、组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。生成式人工智能服务安全基本要求3.1 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务。表 1 管辖范围法律法规汇总表表 2 管辖范围沿革表2.产业划分2.产业划分根据国家人工智能产业综合标准化体系建设指南（2024 版），人工智能产业链包括基础层、框架层、模型层、应用层等 4 个部分。人工智能标准体系框架主要由基础共性、基础支撑、关键技术、智能产品与服务、赋能新型工业化、行业应用、安全/治理等 7 个部分组成。