李钰：HBase在阿里搜索推荐中的应用（28页）.pdf

《李钰：HBase在阿里搜索推荐中的应用（28页）.pdf》由会员分享，可在线阅读，更多相关《李钰：HBase在阿里搜索推荐中的应用（28页）.pdf（28页珍藏版）》请在三个皮匠报告上搜索。

1、HBase在阿里搜索推荐中的应用阿里巴巴高级技术专家李钰（绝顶）HBase in Alibaba SearchYu Li历史和规模应用场景问题与优化开源与未来问答环节2 3 4 51History and ScaleUser ScenarioProblems and SolutionCommunity RoadmapQuestion and Answer历史和规模HBase阿里搜索的历史和规模历史和规模历史2010年至今，历经10+个版本20102014:0.20.6-0.90.3-0.92.1-0.94.1-0.94.2-0.94.520142015:0.94-0.98.1-0.98.4-0

2、.98.8-0.98.122016:0.98.12-1.1.2集群规模总节点数5000+，最大集群节点数2000+日常吞吐：集群超过5000万次秒，单机峰值超过10万次秒单cpu core可支撑8000+QPS应用场景应用场景基础架构中的角色核心存储系统，和计算引擎紧密结合主要服务搜索和推荐业务主要关注高吞吐、低毛刺应用场景 索引构建Data Storage for Batch and Streaming ProcessingData SourceHadoopclusterHBaseBatch&Streaming EventOffline&Real Time ProcessingExporti

3、ngAli ODPSMySQLSearch EnginesHBaseHBaseHDFSHDFSHDFS应用场景 机器学习Database and queue service for MLUDFUDFUDFHQueueOnline logParsing LogTraining User ModelsTraining Item ModelsItem IDUser IDHQueueAggregate UpdatesMachine Learning ModelsOnline SystemwExport Model UpdateModelFlinkFlink ProcessingProcessing o

4、ver Yarnover Yarn问题与优化问题与优化OverviewHBase架构分层RPC的瓶颈和优化RPC的瓶颈和优化实际问题原有RpcServer的线程模型效率较低优化手段Netty可以更高效的复用线程基于Netty实现HBase RpcServer线上效果rpc平均响应时间从0.92ms下降到0.25msRpc吞吐能力提高接近2倍RPC的瓶颈和优化实际问题原有RpcServer的线程模型效率较低优化手段Netty可以更高效的复用线程基于Netty实现HBase RpcServer线上效果rpc平均响应时间从0.92ms下降到0.25msRpc吞吐能力提高接近2倍异步与吞吐异步与吞吐实

5、际问题流式计算对于实时性的要求很高分布式系统无法避免秒级毛刺同步模式对毛刺敏感，吞吐存在瓶颈优化手段基于netty实现non-blocking client基于protobuf的non-blocking Stub/RpcCallback实现callback回调线上效果和flink集成后实测吞吐较同步模式提高2倍GC与毛刺实际问题PCIe-SSD的高IO吞吐能力下，读cache的换入换出速率大幅提高堆上的cache内存回收不及时，导致频繁的CMS gc甚至fullGC优化手段实现读路径E2E的offheap线上效果Full和CMS gc频率降低200%以上读吞吐提高20%以上GC与毛刺Befor

6、eAfterhttps:/blogs.apache.org/hbase/entry/offheap-read-path-in-productionIO隔离和优化实际问题HBase对IO敏感，磁盘打满会造成大量毛刺大IO来源计算存储混布，batch作业产生大量的IOHBase自身：Flush/Compaction优化手段利用HDFS的Heterogeneous Storage功能ALL_SSD for WALs，ONE_SSD for HFileBulkload支持指定storage policyMR临时数据目录(m