A3--程毅--策略质量保障从自动化到智能化.pdf

1、从自动化到智能化从自动化到智能化策略质量保障的演进之路策略质量保障的演进之路程毅快手程毅程毅快手 策略测试工程师快手策略测试工程师，目前主要策略平台系统工程质量保障，包含系统质量体系搭建、业务策略质量、系统平台稳定性等工作；在项目上，参与所在领域多个大型项目质量保障，主R系统稳定性建设，同时探索一套策略质量保障方法论并落地，拿到较好的质量结果。毕业后曾就职于360、滴滴等，一直从事服务端质量保障、策略质量保障工作。目录目录C O N T E N T S1.1.策略在内容安全规则场景应用策略在内容安全规则场景应用2.2.内容安全策略系统质量保障演进内容安全策略系统质量保障演进3.3.策略系统质量

2、保障结果策略系统质量保障结果4.4.未来展望未来展望策略在内容安全规则策略在内容安全规则场景应用场景应用0101内容安全策略平台内容安全规则内容安全规则-快手是一个内容社区快手是一个内容社区快手用户-创作者视频直播图文评论社交活动创建违法违规鱼龙混杂风险识别风险决策处置执行处理流程消费快手用户-消费者视频直播图文评论社交活动安全合规积极正向使命：打造健康、可持续发展的社区生态，帮助业务发展，为公司各产品保驾护航违法违规违法违规色情低俗色情低俗公序良俗公序良俗未成年相关未成年相关平台秩序平台秩序观感不佳观感不佳危险驾驶暴露着装吸烟画面暴露诱惑重复作品不文明言行违法/违规广告引导低俗联想侮辱诽谤恋

3、爱婚孕引流行为内容低质侵犯隐私色情画面不当言行抽烟喝酒私下交易社会治安色情交易危险行为搬运作品封建迷信引人不适侵权作品违反动物植物保护法血腥暴力社区内容规则体系社区内容规则体系以视频为例，以下是社区内容规则内容一览策略与规则的关系策略与规则的关系-策略是规则具体实现策略是规则具体实现用户视角：用户视角：用户用户发布发布违规违规视频视频规则实现规则实现：策略策略 +平台平台视频上传负向效果负向效果不适宜公开不适宜公开视频仅自己可见执行打负展示在用户P页私密私密TabTab提示用户不适宜公开不适宜公开策略执行策略是规则具体实现：策略策略是规则具体实现：策略+平台平台视频上传风险识别+风险决策有风险

4、：处置拦截无风险：业务继续执行业务请求策略平台入口解析请求参数特征收集策略计算（风险识别+风险决策）获取策略计算特征获取视频ASR调用模型服务计算涉黄概率风险识别如果条件1|条件2=True视频ASR条件1条件2特征包含XXX表达式条件值涉黄概率=XXX处置策略执行处置风险决策那么errocode=xxx 决策视频仅自己视频仅自己可见可见elseerrcode=1决策跳过策略系统质量保障结论策略系统质量保障结论平台质量策略质量策略系统质量内容安全策略系统内容安全策略系统质量保障演进质量保障演进0303平台质量保障平台质量保障3.13.1团队背景团队背景测试基建基本为测试基建基本为0 0QA手工

5、测试为主，质量基建基本0（无流程、少环境、无自动化、无工具）质量依赖研发意识与能力质量依赖研发意识与能力质量好坏强依赖研发质量意识与能力业务质量好坏看不清业务质量好坏看不清只有对主站影响的故障记录，对安全漏出、漏放的故障无记录服务变更风险高服务变更风险高业务量级高、业务场景复杂、系统多个版本共存，重构类项目多策略变更频繁策略变更频繁迭代快，变更频繁，出问题主要影响平台安全（漏放），用户体验（误伤）大部分业务无大部分业务无QAQA团队新团队新（1正式-入职5个月，3外包、1实习生）安全业务背景为安全业务背景为0 0对业务沉淀不足，所有同学之前经验团队成员业务背景不同团队成员业务背景不同同学有客户

6、端、服务端经验，来自大厂、小厂快速搭建质量团队快速接手业务测试从无到有搭建质量体系专项解决质量痛点工程质量保障思考工程质量保障思考目标方案QA目标：安全业务高质高效交付建流程规范建基建建团队配置类业务质量问题探索配置类质量方案配置质量有保障降维升维业务质量看不清建立质量标准与指标质量可度量第一阶段第一阶段第二阶段第二阶段第三阶段第三阶段QAQA接手项目测试接手项目测试建流程规范、质量标准建流程规范、质量标准建基建（测试环境、自动化、工具）建基建（测试环境、自动化、工具）解决业务质量痛点解决业务质量痛点建团队建团队快速了解业务、搭建团队提升业务Sense 提升测试方法与能力建度量模型建度量模型线