《上海交通大学&复旦大学：2025医疗健康大模型伦理与安全白皮书（93页）.pdf》由会员分享，可在线阅读，更多相关《上海交通大学&复旦大学：2025医疗健康大模型伦理与安全白皮书（93页）.pdf（93页珍藏版）》请在三个皮匠报告上搜索。

1、A b?A b?M ED I?L医疗健康大模型伦理与安全白皮书发布日期：2025年7月18日出版单位/组织名称：上海交通大学复旦大学上海交通大学医学院附属瑞金医院蚂蚁集团 编 者Editor陈 震 复旦大学附属肿瘤医院程晓博 复旦大学附属中山医院睢素利 北京协和医学院刘月树 天津中医药大学刘 乐 天津医科大学附属第二医院吕宝粮 上海交通大学 上海交通大学医学院附属瑞金医院马永慧 厦门大学孙晓宁 上海交通大学唐 健 天津医科大学王 玥 西安交通大学俞 凯 上海交通大学张新庆 北京协和医学院张海洪 北京大学医学部张洳源 上海交通大学专家委员会（按照姓氏首字母排序）医疗健康大模型伦理与安全白皮书编者

2、A b?A b?M ED I?L吴梦玥 上海交通大学徐汉辉 复旦大学杨 舟 蚂蚁集团徐宇辰 上海交通大学医学院附属瑞金医院黄飞跃 上海交通大学医学院附属瑞金医院王 烁 上海交通大学金豪桉 上海交通大学应 瀚 蚂蚁集团季嘉程 复旦大学 石佳成 蚂蚁集团编写工作组摘 要医疗健康大模型伦理与安全白皮书Ab?01PAGE摘要随着人工智能技术发展，医疗健康大模型兴起，但在应用中面临诸多问题。本白皮书旨在全面剖析医疗健康大模型应用的各方面情况，包括技术分析、伦理法律评测、模型评测及提升措施等，为其安全、有效、合规应用提供指导，促进医疗行业智能化发展，保障患者权益与医疗质量。医疗健康大模型应用伦理与安全白皮

3、书围绕医疗健康大模型展开多方面探讨，对推动其在医疗领域的合理应用意义重大。本白皮书主要内容主要包含一下四个方面：首先是医疗大模型应用技术分析，阐述医疗健康行业现状及大模型应用场景，如疾病诊断、个性化治疗等，同时指出其面临的数据隐私安全、质量一致性、伦理问题、技术基础设施及法规合规等挑战；介绍开发技术框架及数据收集、训练、部署、推理应用等环节的技术要点；说明行业大模型在医疗领域应用框架的各组件功能；通过实例给出大模型最佳实践建议。其二，介绍通用大模型评测框架的任务定义、数据准备和评测方法；概述医疗健康领域大模型评测的科学性、安全性、合规性、伦理道德等方面，并列举中文医疗健康评测集；以 MedBe

4、nch 和 MedEthicEval 为例展示评测实践过程。其三，聚焦于医疗健康大模型伦理与法律评测框架，分析大模型应用中的伦理法律风险，如知情同意、隐私、歧视、不透明性等问题；构建包含应用场景、伦理规范与法规数据集、评测考点数据集及主观题类型与评测标准的评测框架。最后，对于大模型伦理与安全提升措施做出建议。从数据安全防控、伦理合规建设、技术可靠性与风险监控、监管与评估体系建设等方面提出风险防控措施；阐述提升医疗健康行业大模型专业性的多种方式；说明大模型伦理与法规对齐的方法；强调行业人才在大模型能力提升和风险防控中的重要作用及相关培养措施。?nt e nt s02PAGE医疗健康大模型伦理与安

5、全白皮书目 录?ntents目录011.1 大语言模型技术发展概述1.2 医疗健康大模型概述561202概述2.1 大模型在医疗健康领域应用的机遇与挑战2.1.1.医疗健康行业现状以及大模型应用场景2.1.2.大模型在医疗健康领域应用的挑战7782.2 医疗健康行业大模型开发技术2.2.1.开发技术框架2.2.2.数据收集和构建2.2.3.训练 2.2.4.部署 2.2.5.推理应用 99101212132.3 行业大模型在医疗领域的应用框架2.3.1.意图识别组件2.3.2.RAG组件2.3.3.工具库组件2.3.4.安全风控组件14151517182.4 医疗大模型应用实践案例2.4.1.

6、小瑞健康2.4.2.夸克健康助手2.4.3.AI健康管家AQ18192021大模型应用技术分析?nt e nt s?nt e nt s封面摘要?nt e nt s?nt e nt s03PAGE医疗健康大模型伦理与安全白皮书目录033.1 通用大模型评测框架3.1.1.任务定义3.1.2.数据准备3.1.3.评测方法25252729医疗大模型评测3.2 大模型在医疗健康领域的评测概述3.2.1.科学性：从通用能力到医学专业能力的提升3.2.2.安全性：从潜在风险识别到安全输出保障3.2.3.合规性：确保法律与行业标准的严格遵守3.2.4.伦理道德：从责任性到文化适配的全面评估3.2.5.中文医