《互联网信息服务算法推荐管理规定》解读

2021年12月，国家互联网信息办公室联合工业和信息化部、公安部、市场监管总局发布《互联网信息服务算法推荐管理规定》(下文简称《规定》)，并将于2022年3月1日起施行。这是我国第一部以算法作为专门规制对象的部门规章，具有重要时代意义。

《规定》调整的生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法，被各大平台广泛应用，已经成为平台收集和处理数据、推送信息、调配资源的核心力量。平台运行的技术逻辑是算法，平台商业价值和竞争优势的基础是算法，同时，给国家利益、社会公共利益和公民合法权益带来风险的也可能是算法。

《规定》立足中国数字经济实践与产业特色，向世界提供了平台算法治理的中国方案，建构了具有中国特色的平台算法治理制度。

《规定》为平台应用算法划定明确的法律界限，对保障信息内容安全、维护市场竞争秩序、保护公民权益等具有至关重要的作用。

算法安全理念：明晰平台算法治理的价值取向

《规定》所秉持和贯彻的算法安全理念与我国《网络安全法》《数据安全法》和《个人信息保护法》等上位法一脉相承。算法安全理念，要求算法导向正确、正能量充沛，算法应用公平公正、公开透明，算法发展安全可控、自主创新，有效防范算法滥用带来的风险隐患。

《规定》要求平台作为算法推荐服务提供者坚持主流价值导向，重视算法安全，积极传播正能量，不得操纵舆论。《规定》相关条款对未成年人身心健康、老年人合法权益、劳动者基本保障给予重点关注，充分体现了以人民为中心的发展思想。与此同时，《规定》引导算法推荐服务提供者促进算法应用向上向善，保护消费者权益，保证算法决策公平透明，这也与世界范围内已有的算法治理实践不谋而合。

算法安全理念内涵丰富，这与平台算法应用涉及的社会领域广泛性相适应。《规定》贯彻的算法安全理念既涵盖了我国一贯重视的信息内容安全，也包含着对市场竞争秩序的规范，更体现了对普通用户和未成年人、老年人、劳动者、消费者等特定群体的用户权益保护。

健全多元共治：深入平台内部的算法技术监管

《规定》创新性地构建了算法安全风险监测、算法安全评估、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。这标志着我国的平台治理直接深入到了平台的底层技术逻辑——算法。

人工智能时代的平台监管，既应符合平台底层的技术逻辑，也应符合主客观相一致、责罚相适应的法律原则。《规定》建立的算法技术监管体系穿透了平台运行的“算法技术面纱”，将平台监管的触角和追责视角直接指向背后的算法责任。技术的应用是包含主观意图的，平台在算法设计、部署、运行中包含的主观意图与平台是否尽到合理的注意义务，是平台算法追责的根本指向。

作为算法推荐服务提供者的平台企业要强化责任意识，对算法应用产生的结果承担起算法安全的主体责任。《规定》要求平台企业应建立算法安全责任制度，设置平台内的算法安全管理组织机构，并配备与算法推荐服务规模相适应的专业人员和技术支撑。平台要对算法的数据使用、应用场景、影响效果等开展日常监测工作，感知算法应用带来的网络传播趋势、市场规则变化、用户行为等信息，预警算法应用可能产生的不规范、不公平、不公正等安全问题。《规定》要求平台企业等算法推荐服务提供者建立算法安全责任制度，与网络服务提供者的网络安全运营制度、数据处理者的数据安全保障制度和个人信息处理者的个人信息保护制度一起，共同构成了我国平台企业需建立完善的安全责任制度体系。

《规定》还勾勒出了我国平台算法多元共治的治理体系蓝图。在平台算法治理中，要求算法推荐服务提供者依靠自评估、第三方评估等，深入分析算法机制机理、模型、数据和应用结果等，评估算法设计、部署和使用等应用环节的缺陷和漏洞，避免算法应用产生的社会公平、道德伦理、内容管理等安全问题，共同形成了治理结构高效运行，有法可依、多元协同、多方参与的治理机制。

主体权责明确：构建平台算法责任的问责机制

当技术造成了损害后果时，如果不能穿透技术面纱，由明确的主体来承担责任，就会存在潜在的责任缺口。如果不能解决“谁负责”的问题，放任平台以“技术中立”和“算法黑箱”为由继续逃避法律责任，那么所有的治理努力最终都将失之空泛。

《规定》构建了平台算法全生命周期问责机制。我国创新性地在世界范围内率先设立了算法备案制度，要求具有舆论属性和社会动员能力的算法推荐服务提供者在提供服务之日起十个工作日内履行备案手续。算法备案制度的设立，是因为合理的平台算法问责有赖于清晰的主观过错认定，需通过算法备案对平台事前和运行中的问责点进行固定，以有效判断平台是否可以评估、控制、纠正算法带来的危害。算法备案是一种存档备查的行为，目的在于获取平台设计部署的具有潜在危害和风险的算法系统的相关信息，为今后追责提供信息。备案本身即存在着监督效应，算法备案制度的信息披露模式、内容、范围的设置体现了对于监管与自律、商业秘密与算法透明、源头治理与事后追责等利益的衡量。

《规定》第五章“法律责任”则明确规定了算法推荐服务提供者如违反相关规定，需承担的法律责任，责任形式包括警告、通报批评、罚款等，必要时还将给予治安管理处罚和追究刑事责任。主体权责明确的平台算法问责体系，必将为实现我国算法治理安全目标起到关键作用。

算法规制与平台治理是人工智能时代世界各国面临的重要议题。《规定》的出台不仅直接将算法作为规制对象，更使得平台治理的层次与方式迈上了新的台阶。《规定》作为我国算法综合治理体系的重要组成部分，势必在提升算法创新能力，促进平台算法应用安全，增强我国平台企业核心竞争力等方面发挥重要作用。

作者：张凌寒，北京科技大学副教授