清华大学：2026年AI谣言深度研究报告（人机共生版）（62页）.pdf

1、本报告聚焦2020-2026年间AI生成、深度伪造与算法放大共同驱动的虚假或误导性信息现象，依据官方法规、国际机构文件、同行评审论文与可核查案例重构分析框架。AI谣言深度研究报告本报告由清华大学博士后张诗瑶与AI辅助生成传统伪造门槛 虚假内容不再只靠“夸张”和“耸动”传播。核心驱动力转向：拟真 性、自动化、平台分发。Al生成门槛核心短期风险：Misinformation/Disinformation核心洞察：AI谣言的变化，不只是“更容易造假”,而是“更容易被信、更容易被放大、更难被及时纠正”。生成式AI的普及正在重构虚假信息的威胁基线排除无法核验的行业传闻，仅采用官方披露、执法结论与同行评审

2、论文。法规文件：CAC,FCC,EU Al Act,NIST学术成果：Frontiers,EMNLP,USENIX Security国际组织：WHO,WEF事实核查：AP,Reuters,香港警方执法文件基于全球监管与顶尖学术的循证研究框架核心问题3.人为何更易相信?2020-2025生态(文本、图片、音频、视频、虚拟场景)5.现有治理能否应对?2.为何重塑生产扩散机制?与传统谣言的 本质差别?研究范围 证据来源4.如何量化风险?1.演进与突变：从“信息失序”迈向自动化误导 自动化生成信息失序(Information AI谣 言 深度合成 Disorder)算法放大AI 谣言不仅包含无意误导，

3、更强调带有目的性的自动化操纵意图。AI 谣言并没有脱离信息失序的范畴，但它将“虚假内容”与三大底层技术能力 进行了深度耦合。AI谣言的操作性定义与三大评估支柱在内容虚假或高度误导的前提下，人工智能对其生成、伪造、包装或传播放大具有关键贡献的信息事件。核心洞察：AI 谣言不是单纯的内容问题，而是包括“内容一模型一平台-用户一证据链”的复合治理对象。内容侧存在AI生成、深度 合成或模型辅助伪 造痕迹。传播侧存在机器人、协同行为、推荐放 大或跨平台搬运。治理侧已触发事实核查、官方辟谣、执法 或平台处置。传统谣言Al谣言人工编造、拼贴、转述表达粗糙、逻辑断裂、低画质生成模型、深度合成、风格模仿语义流畅

4、、画面拟真、跨模态一致依赖情绪煽动依赖自动化分发与推荐算法范式转移：传统谣言与Al谣言的核心特征对比核心洞察：AI 谣言最大的变化不是“假得更多”,而是“假得更像真”。生产模式内容特征传播依赖 AI放大型内容未必全由AI生成，但依靠AI账号、群控、推荐系统被快速模板 化放大。AI辅助伪造型以真实人物、真实事件、素材为锚点，进 行换脸、变声、重组。AI直接生成型文本、图片、视频、音频由模型直接无中 生有地生成。监管视角必须从单纯盯防“生成工具”扩展到涵盖“编辑伪造”与“算法放大”全链路。Al谣言生态下的三种基础表现形态 认知陷阱：为什么人类的理性核查正在失效?技术现实主义极度拟真的形式外观削弱了

5、用户深度认知加工的动机。用户更易走向直觉判断而非理性核查。人类认知处理 理性核查被绕过逻辑伪装文本极其流畅、术语正确、论证结构完整，但核心 结论虚假。传统基于关键词和情绪特征的检测方式面临瘫痪。核心洞察：AI谣言首先是一种“逼真性治理难题”,它让“看起来足够真实”取代了“事实上的真实”。核心洞察：应对系统性生产能力，治理必须从“末端删除负面内容”转向“前端约束风险基础设施”。生产速度(分钟级)人工复核 官方辟谣 执法追责结构性不对称：现有治理体系的盲区治理时差平台识别传统治理聚焦末端个体，而现代威胁源自系统级的生成设施。首轮传播后，纠错只能是“补救”而非“阻断”。真正风险源：模型能力、批量生产

6、链与知识库投毒传统目标：单条帖子/单个账号规制对象错位 攻击阵型组合(Tactical Array)生成内容 账号矩阵 机器人转发 跨平台迁移战术演进：从“单点造谣”到“攻击阵役化”AI 谣言已经具备类似网络攻击中的战术、技术与过程(TTP)特征。核心洞察：我们面对的不再是单一的虚假信息，而是一场高度协同的舆论操纵攻击。拆解威胁生命周期：Al谣言传播杀伤链04放大触 发 推 荐 算 法与 机器人矩阵，进入热点机制。02 包装05迁移多平台搬运、截图再传播、二次剪辑脱离 原始语境。01生成文本、图像、音视频的自动化合成03播种通 过 小 号、边 缘群聊、评论 区先发测试。注入“权威感“现场感”与