您的当前位置:首页 > 标签 > AI伦理治理框架
复旦智库:2026超级智能时代的风险转变与伦理应对报告(32页).pdf
2026AI伦理治理框架:从产品思维到实践思维的范式转向|复旦发展研究院
复旦发展研究院报告系统梳理AI伦理演化的三条路径——技术指向与人文指向的二元结构,从学术化到法律化制度化工程化的范式转向,构建AI伦理议题设置的完整分析框架。
 2026-07-28
 AI产业
 32页
4张图表
数据来源:
复旦智库:2026超级智能时代的风险转变与伦理应对报告(32页) 查看报告
伦理学以揭示自由规律且构建原则规范为主要任务,但这一任务暴露出伦理学的先天屏障——相比法律,伦理原则缺乏刚性约束力。随着超级智能时代的临近,AI伦理逐渐出现法律化、制度化和工程化三个变化。复旦发展研究院这份报告指出,AI伦理的构建必须从“产品”思维转向“实践”思维,并构建了涵盖技术指向与人文指向两大维度的完整分析框架。

AI伦理的两大路径——技术立场与人文立场

报告将已有的AI伦理归为技术立场和人文立场两大类,分别涵盖四个和三个维度。

技术立场的四个维度

基于技术场景的伦理建立在风险评估与分级治理之上。医疗领域遵循行善、不伤害、自主、公平、可解释与可追溯以及人类监督等原则;自动驾驶场景的伦理重点在于安全优先、稳健可靠、可控性、责任明确;金融保险领域需要坚持公平与反歧视、可解释与可申诉、隐私保护等原则。这种路径的优势在于政策上最具可操作性,也契合欧盟《人工智能法案》的风险分级治理思路,但局限在于其前提是风险可以被事前识别和分类,而现实中的AI风险往往具有动态性、情境性和涌现性。
基于技术难题的伦理从AI在设计、训练、部署和应用中暴露出的典型难题出发,代表性议题包括算法不透明、偏见与歧视、责任不可追溯等。应对方式主要包括提升模型可解释性、建立数据卡和模型卡等透明披露制度、开展第三方审计、数据清洗与平衡、引入公平性指标、明确责任链条、保留日志记录等。
基于技术能力的伦理按照AI系统的智能程度、自主能力和行动范围划分伦理要求。狭义AI的伦理风险包括数据偏见、算法黑箱、隐私泄露、责任不清等;通用AI的风险更集中于目标不一致、自主性扩张、责任结构复杂化和人类能力退化;超级智能的伦理风险不再是偏见或黑箱等局部问题,而是关涉人类能否保持总体控制与价值主导。
基于全生命周期的伦理将伦理要求嵌入AI发展的各个环节——设计阶段的“伦理前置”和负责任创新评估,模型训练阶段的目标函数、算法结构、训练偏差、鲁棒性和价值对齐,效能评价阶段的准确性、稳定性、公平性和可解释性检验,部署监控阶段的运行安全、实时风险、用户反馈和动态纠偏,商业与问题理解阶段的需求定义、应用边界和利益相关者影响评估。

人文立场的三个维度

基于解释学的伦理不把AI视为中立工具,而是关注技术如何嵌入权力结构、角色关系与行动逻辑之中。原则具有情境性——相同技术在不同社会关系、制度安排和文化背景中具有不同的意义、风险和后果;原则来源于生活经验——AI伦理关注的不是系统在抽象层面“具有什么能力”,而是人们如何真实地经历AI、感受AI并被AI塑造;原则在实践中生成意义——责任、自主、信任、公平等伦理概念并不是预先固定的,而是技术调节的结果。
基于人文批判的伦理强调AI从一开始就嵌入特定经济结构、治理逻辑和权力关系之中。它关注更深层的问题:谁定义AI要解决的问题?谁拥有数据、算力和模型的控制权?谁从自动化中获益,谁承担代价?它指出AI的“智能”与“效率”并非纯粹技术成就,而是在特定社会条件下被塑造和赞美的价值。
基于人机关系的伦理把重点放在人与AI的交互、共在和协作上。现代AI已不只是被动执行指令的工具,呈现出特定的智能性和人格性。AI常常通过提示、排序、预判和交互影响人的判断路径与行动选择。这一理论的核心在于:AI伦理应关注“人如何在与AI的关系中行动”。在自动驾驶中,驾驶员虽然被要求随时接管,但系统高度可靠反而会削弱人的警觉与应急能力——问题不仅在于技术安全,更在于责任、能力与控制在关系中发生错位。

AI伦理的“先天屏弱”与三重转向

伦理的先天屏障

在传统认知中,伦理学被看做是自由规律的学问,目的是通过构建规范原则来调节人类社会各种各样的社会关系。相比法律,缺乏刚性——这种缺陷是先天存在的。报告把这一特征称之为“学术化特征”,即伦理目的是掌握人类的自由规律。原初的AI伦理继承了这一学术基因,表现出明显的先天屏弱特征。在普遍追求学术真理的传统时代,伦理学危机并没有显示出来;但数智时代的到来使这一危机彻底暴露。

三重转向——法律化、制度化与工程化

面对先天屏弱,各类主体寻求改变。法律化特点表现为哲学家通过法律化强化原则本身的刚性作用,如弗洛里迪的软硬伦理区分将伦理提升到法律范畴。但法律界的软法、宣示性立法等做法却远未被注意到——法学家正通过这种形式减弱法律的刚性以达到保护创新的目的。
制度化特点表现为各类组织通过强调主体权威来改变伦理原则的先天屏弱。从联合国到各国政府、从企业到学校,都有相应的AI使用规范出台,通过主体权威来确保原则有效成为默认设定。如张平教授指出,美国通过总统行政令、行业资源承诺等“软法”国家与联邦法相结合的方式构建灵活的治理框架。
工程化特点表现为技术专家将伦理原则转化为可审计、可执行的代码,这个过程通常被称为“嵌入”或者“物化”。荷兰哲学家维克贝的理论因此开始流行。然而,刚性确实保证了AI伦理原则的可实施性,但存在的问题是过度监管可能扼杀创新活力。

从“产品”思维到“实践”思维——AI伦理议题设置的新框架

AI伦理议题设置的结构

报告指出,AI伦理的理解应从AI创新发展与AI伦理议题设置的角度来理解,最终目标是科技强国建设。AI伦理议题设置会对科技创新产生影响,乃至影响科技强国建设的目标实现。
报告构建了三个判断标准:是否触及基础秩序、是否可以技术化、是否带来治理增益。根据这三个标准,将伦理议题划分为三类:不利创新的议题——损害或重组基础秩序、不可技术化、无治理增益,需要审慎对待;融于创新的议题——与基础秩序无关、可技术化,通过工程化手段化解伦理困境;促进创新的议题——巩固基础秩序、可技术化、有治理增益,需要法律化以形成新的价值观念。

实践思维的核心要义

考克伯格开启了从技术产品转向技术实践的转向,他用解释学的框架将技术伦理构建起来,提出具有美德的技术实践概念。报告在此基础上进一步指出:AI伦理必须从“产品”思维转向“实践”思维。“产品”思维把伦理看作一套可以“嵌入”系统的静态规则;“实践”思维则将伦理视为在具体情境中与技术、与人共同生成的动态过程。
这一转向意味着AI伦理不再是制定一份原则清单就结束的工作,而是需要在设计、部署、使用、反馈的每一个环节中持续进行的实践。伦理不是产品,而是过程;不是规范,而是生成。这也正是报告后续提出“智能契约伦理”和“伦理学家AI”的方法论前提——契约需要动态更新,AI需要持续学习,伦理需要伴随技术共同演化。
客服
商务合作
小程序
服务号
折叠