王东旭-人机协同构建10x组织效能和内容安全新范式.pdf

1、人机协同构建人机协同构建1010 x x组织效能和组织效能和内容安全新范式内容安全新范式演讲人：王东旭目录目录01020304LLM带来的生产力变革内容安全的新挑战AI驱动组织架构重构产运研角色持续向价值链上游升级AI驱动协同模式升级构建“人机协同”的AI增强型安全系统未来展望打造AI-Native型安全组织01LLM带来的生产力变革内容安全的新挑战内容安全的业务问题和挑战内容安全的业务问题和挑战既要、又要、还要约束约束约束安全效率体验安全、体验、效率的“不可能三角”短视频广告内容审核业务形态内容安全的传统“固态组织”内容安全的传统“固态组织”监管舆情C 端反馈B端反馈研发研发工程：规则系统数

2、据：BI报表PRD配置规则风险拦截感知风险发起需求需求分析PRD 设计需求运营运营产品产品交付：系统、数据、模型算法：模型识别分工明确边界清晰固态组织过去过去1010年，发生了什么变化？年，发生了什么变化？20202022202520172015人工经验规则驱动人工经验规则驱动机器学习开启智能审核机器学习开启智能审核DeepLearningDeepLearning 时代时代ChatGPTChatGPT引爆生产力革命引爆生产力革命内容安全生产关系变内容安全生产关系变革革12345 基于敏感词库的文本过滤系统，覆盖政治、色情、暴力等类别 建立数千人规模的内容审核团队，实行三班倒7 24小时监控 用

3、户举报-人工复审的双重机制，形成社区共治雏形 初代图像识别技术应用于色情、暴力图片的批量筛查 卷积神经网络实现图像多分类识别，准确率90%LSTM、BERT 等模型用于文本语义分析，识别隐晦违规表达2014的内容安全2017的内容安全2020的内容安全2022的内容安全2025的内容安全 AIGC 多模态内容审核的效果和效率平衡 从单纯的内容理解，加速迈向内容理解+生成统一范式 AI带来的内容安全团队各角色职能重塑 ChatGPT 带来文本内容的井喷式爆发，审核压力骤增 大模型幻觉、大模型内生安全、安全围栏 低成本Prompt 对抗，内容创造成本大幅降低 OCR+NLP组合识别图片内嵌文字，封

4、堵图片藏字漏洞 实时流媒体审核技术支持Live直播场景毫秒级响应 深度学习模型成为内容安全审核的标准模式 智能分发系统将高危内容优先推人，审核效率提升 音视频指纹技术实现已知违规内容的秒级拦截 图文音视频统一理解框架，跨模态语义关联分析技术出现“不连续性”技术出现“不连续性”非连续性ChatGPTChatGPT当技术出现非连续性时，只有从一条曲线到另一条曲线的非连续性创新，才能产生经济的x10倍速增长。-查尔斯.汉迪第二曲线大模型技术发展带来的挑战大模型技术发展带来的挑战低门槛Prompt对抗审核成本飙升内容产量井喷爆发技术门槛降低能力差距缩小模型平权马太效应凸显强者愈强，弱者愈弱重复劳动被A

5、I取代这是最好的时代，也是最坏的时代。-狄更斯02AI驱动组织架构重构AI驱动产运研角色持续向价值链上游升级AI时代风控产运研生产关系变革从“PRD 设计”到“AI-Native产品范式”产品从“写代码”到“Vibe Coding+AI Copilot”工程从“风险识别”到“内容理解+生成”统一算法从BI报表到“AI数据飞轮”构建者数据产产生产关系生产关系变革变革算算工工数数从“写规则”到“Prompt Engineer”运营运运产品经理面临的挑战产品经理面临的挑战未来的产品，长什么样？不懂LLM，怎么设计出AI-Native的产品？产品工程师：从产品工程师：从PRDPRD 设计到“设计到“P

6、2PP2P”设计”设计新的产品设计模式（P2P）：prompt to productPromptPrompt 驱动的产品原型设计驱动的产品原型设计对话式产品原型设计1.Prompt 驱动的产品原型设计，直接和大模型对话，给出原型2、产品原型达到可跳转、可执行的水准，告别“一句话 PRD”3、产品经理不再会被研发吐糟不懂代码，只能提需求什么是好的产品原型设计什么是好的产品原型设计PromptPrompt？策略运营面临的挑战策略运营面临的挑战只会简单的规则运营，我的工作会不会被LLM取代？风险PEPE 运营：从写规则到运营：从写规则到PromptPromptEngineerEngineer风险运营