1-管旭东-从数量到价值-质量管理中的大数据应用创新实践.pdf

1、从数量到价值-质量管理中的大数据应用创新实践2023 深圳站管旭东2010年复旦大学计算机硕士毕业。先后就职于Ericsson，EMC及腾讯公司。2014年中，加入腾讯公司，主要从事专项测试，游戏测试和软件开发等工作。2020年至今，负责腾讯游戏的崩溃监控体系建设。腾讯IEG高级测试工程师，腾讯游戏崩溃监控体系负责人2023 深圳站目录CONTENTS背景介绍01 老问题新方案02 新需求新洞察03 新手段新价值04 总结展望05 2023 深圳站01议题背景2023 深圳站背景介绍数据内容01020403数据规模 每日数亿用户 每日数十亿+上报条目数据价值挖掘老问题新方法新需求新洞察新手段新

2、价值数据内容 腾讯游戏国内海外崩溃数据 腾讯游戏国内海外性能数据数据特点数据量大数据集中实时性要求高数据灵活性要求高质量管理领域：数字体验监控2023 深圳站背景介绍计算框架数据采集数据传输数据存储数据中台应用服务崩溃管理卡顿管理深度分析AndroidIOSPCSWTICHPS5XBOXTDMHTTPTDBankFlinkClickHouse MV路由策略服务AirFlow调度服务缓存服务日志对账服务结算服务UE引擎Unity引擎开放平台缺陷管理服务Kafka性能数据分析崩溃数据分析BICK集群Mysql集群HDFS集群性能明细表物化视图Projection聚合表LZ4ZSTD字典异常明细表自

3、定义明细表无状态容器性能日流水版本分析场景分析机型分析单用户分析网络分析自定义分析综合对比分析异常概览高级搜索特征分析配置管理崩溃分析ANR分析错误分析OOM分析FPS专题CPU专题GPU专题网络专题功耗专题自定义专题调度服务监控服务预警服务数据监测2023 深圳站02大数据统计给老问题提供了新方案2023 深圳站老问题新方案1 模拟器的判定模拟器对游戏的影响业界方案痛点问题 外挂作弊 稳定性变差 性能机型分档失效 增加崩溃率 应用市场刷量单个条件的判定，如：IMSI 机型Model 序列号 制造商 品牌 CPU架构 光传感器 蓝牙 指定路径等没有考虑条件之间的关系和组合2023 深圳站老问题

4、新方案1 模拟器的判定建立一个全量的正确机型的白名单机型画像表业务画像。用户ID和设备ID的关系，机型和设备ID之间的关系新出来机型怎么判断？新方案核心价值点：大数据以力破巧模拟器判定的准确率提升了约10%15%。统计数据，模拟器和非模拟器分开进行独立统计，为项目组提供了准确的业务数据落地效果基于大数据的新方案机型画像知识库2023 深圳站老问题新方案2 OOM的判定OOM的判定1OOM问题 用户体验影响较大 质量评估重要部分 出海的环境下情况更加突出3方案痛点 误报率还是比较高 非正常退出细分类型较多，无法有效排除排除法：排除有信号的崩溃，记录被系统强杀的崩溃 在系统强杀的崩溃中，排除其它类

5、型，剩下的是OOM类型2业界方案2023 深圳站老问题新方案2 OOM的判定基于大数据的新方案落地效果新方案核心价值点：仍然是以力破巧 建立一个RAM，机型，系统版本全量组合的OOM阈值表。对于系统强杀的崩溃，比较退出前内存使用值和OOM阈值线。对于iOS平台，构建完整的OOM阈值表，精准的进行判定。对于Android平台，可以判定Top机型。2023 深圳站老问题新方案3 崩溃分类的准确性崩溃分类的准确性010203 常见情况：不同的问题被分成一类；相同的问题被分成多类。影响：直接决定着问题解决的优先级和处理效率，以及人力资源的投入。崩溃分类采用以堆栈为核心的多个字段，进行Hash来进行分类

6、。这是在海量数据计算下的唯一选择业界方案保障了实时性，降低了准确性。痛点问题2023 深圳站老问题新方案3 崩溃分类的准确性基于大数据的新方案分治的思维：线上运营版本，仍然采用Hash方案，对于研发期项目，可以配置Rebucket算法进行分类。对于Hash方案，也提供字段和堆栈行数的可配置。落地效果Rebucket基于相似度的聚类算法，准确率大约提升13%左右。限制：崩溃问题的分类不能太多，在有2000个分类的情况下，对一条新崩溃的聚类时间约20s。新方案核心价值点寻找准确性和实时性的平衡点，最终在整体上提升质量2023 深圳站03大数据分析给新问题提供了新洞察2023 深圳站新问题新洞察1