A2--徐光耀--B站流量录制回放实践.pdf

1、B B站流量录制回放站流量录制回放实践实践徐光耀B站资深测试开发工程师徐光耀徐光耀B站资深测试开发工程师B站工程效率团队资深测试开发工程师，目前主要负责CICD相关平台的设计开发，包括基于云原生的产物/镜像构建平台、CI流水线平台等，以及其他测试工具和平台，如流量录制回放、覆盖率平台等；之前负责过压测平台的设计开发，支撑了大型活动（如S赛）的压测预演和质量保障。曾就职于百度，从事大数据产品的相关测试开发工作。目目录录01CONTENTS0203流量录制流量录制的背景的背景一种通用的流量一种通用的流量录制方案录制方案录制方案演进录制方案演进04流量流量回放的场景回放的场景落地落地WhatWhat

2、：什么是流量：什么是流量录制？录制？流量录制流量录制WhyWhy：为什么需要：为什么需要录制流量？录制流量？录制录制流量的价值流量的价值/意义意义通过流量回放复现问题，帮助问题定位和调试问 题 复 现问 题 复 现/定 位定 位 调 试调 试通过真实流量回放，检测安全漏洞风险安 全 性安 全 性 测 试测 试记录真实流量，其返回信息用于数据mock数 据数 据 m o c km o c k线上真实流量转化为接口测试用例，可提升测试质量接 口接 口 回 归 测 试回 归 测 试项目重构优化，通过流量回放到2个环境对比结果一致性D I F FD I F F 测 试测 试真实流量N倍回放用于压测，性

3、能报告更真实可信性 能性 能 测 试测 试HowHow：如何录制流量？：如何录制流量？方案调研方案调研goreplayvivo-月光月光宝盒宝盒携程携程-arex滴滴滴滴-写轮眼写轮眼非侵入代码跨语言支持多协议无环境依赖需要自研一种通用的方案：满足以上4个要求(Java)(Go)(Java)方案探索方案探索wiresharkwiresharkv2.0.0v2.0.0thrift:thrift:首次支持首次支持v2.2.13v2.2.13thrift:thrift:修复修复bug&bug&更新更新协议支持协议支持v2.4.5v2.4.5thrift:thrift:修复修复bug&bug&更新更新

4、协议支持协议支持v2.6.0v2.6.0gRPC:gRPC:首次支持首次支持v3.2.0v3.2.0g gRPC:RPC:新特性新特性v4.0.0v4.0.0g gRPC:RPC:新特性新特性v3.6.1v3.6.1gRPC:gRPC:修复修复bug&bug&更新更新协议支持协议支持v4.2.4v4.2.4thrift:thrift:更新协议支持更新协议支持B站采用的是gRPC协议grpcgrpc解析验证解析验证可行性可行性解析出的信息第一版全局架构第一版全局架构设计设计Part1-录制伴生Paas上基于伴生容器实现流量录制Part2-管理平台心跳配置同步/应用规则管理/数据搜索展示Part3

5、-数据收集流式处理写入ES心跳心跳机制机制周期性上报伴生服务心跳给平台平台定时更新伴生期望状态期望状态伴 生 心 跳伴 生 心 跳 上 报上 报心跳接口返回期望状态期望状态和其他平台配置（包括录制规则、采样率）平 台 下 发平 台 下 发 配 置配 置根据期望状态期望状态更新当前录制状态根据平台配置更新录制规则、采样率等伴生同步状态伴生同步状态录制录制 wireshark的命令行版本 指定tcp端口和解析协议 指定输出格式（json等）指定过滤条件tshark使用使用方式方式 grpc额外需要proto文件http和和grpc差异差异数据收集数据收集 request header body r

6、esponse header response数据数据加密加密 ES保存最近3天数据数据留存数据留存策略策略管理管理平台平台312应 用 接 入应 用 接 入 proto文件地址 实例开启个数/指定染色实例流 量 查 询流 量 查 询 分环境uat/pre/prod 分协议类型规 则 配 置规 则 配 置 path白名单 path黑名单 path正则流 量 筛 选流 量 筛 选 筛选成流量集合 持久化到oss（永久）4遇到的问遇到的问题题Q1:伴生服务存在性能问题伴生容器分配资源较小，网络包解析比较耗资源，cpu容易打满，导致线上报警，由于资源隔离本身不会影响业务容器正常运行Q2:问题排查/调