当前位置:首页 > 报告详情

2-付海涛-Apache Flink在京东的实践与优化-TSY.pdf

上传人: li 编号:29283 2021-02-07 24页 3.15MB

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文主要介绍了京东在Apache Flink上的实践与优化。京东从2014年开始实时计算,2017年开始使用Flink,并在2018年实现了任务容器化,2019年升级了Flink on Kubernetes设计,实现了资源使用的高效共享和DevOps效率的提升。Flink的优化改进包括预览拓扑功能,解决了并行度调整后网络buffer不足、SQL任务无法指定算子配置等问题。此外,还实现了背压量化,采集背压发生的位置、时间和次数指标,以及运行拓扑,精准反映背压现场情况。在文件系统方面,京东使用不同的scheme指定和隔离不同的配置,支持多配置的HDFS。未来规划包括批流一体兼具低延迟的流处理和高稳定的批处理能力,全自动智能诊断,以及推动用户更多使用SQL开发作业。
"Flink在京东如何实现容器化实践?" "Flink优化改进中,如何解决背压量化问题?" "京东未来规划中,Flink SQL平台将如何发展?"
客服
商务合作
小程序
服务号
折叠