当前位置:首页 > 报告详情

2020Flink峰会报告:demo-Flink 1.12.pdf

上传人: li 编号:29344 2020-12-01 37页 110.81MB

1、FlinkFlink 1.121.12 资源管理新特性资源管理新特性 Flink 1.12 New Features In Resource Management 宋辛童 Xintong Song/郭旸泽 Yangze Guo 资源调度资源调度 ResourceResource SchedulingScheduling #2 内存管理内存管理 MemoryMemory ManagementManagement #1 扩展资源扩展资源框架框架 ExternalExternal ResourcesResources FrameworkFramework #3 未来计划未来计划 FutureFutu

2、re PlanPlan #4 内存管理内存管理 Memory Management #1 内存模型内存模型 MemoryMemory ModelModel 用于任务执行 For task execution 一个作业到底需要多少内存? How much memory needed for executing a job? 全新界面全新界面 NewNew WebWeb UIUI 内存配置文档 Memory Configuration Docs https:/ci.apache.org/projects/flink/flink-docs- stable/ops/memory/mem_setup.h

3、tml 不受 JVM 管理 Not managed by JVM 本地内存本地内存 NativeNative MemoryMemory Slot 级别预算规划 Slot-level quota planning 自动释放 Auto-releasing 由由 FlinkFlink 管理管理 ManagedManaged byby FlinkFlink 适配可用资源 Adapting to available resources 适应性适应性 AdaptiveAdaptive 托管内存托管内存 ManagedManaged MemoryMemory 仅 RocksDB 状态后端 RocksDB State Backend only Slot 内算子共享 Shared by operators within slot 流处理 Streaming 状态后端 State Backend 包括 Dat

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文主要介绍了Flink 1.12版本在资源管理方面的三项新特性:扩展资源框架、内存管理和资源调度。扩展资源框架允许用户将GPU等外部资源作为Flink作业的一部分进行管理。内存管理方面,Flink提供了内存模型和内存配置文档,支持托管内存和本地内存的使用,并允许根据作业需求自动释放内存。资源调度方面,Flink支持最大Slot数配置,以及针对Native K8s、Yarn和Mesos等部署模式的支持。此外,Flink还针对AI场景进行了长期规划,支持基于Flink的深度学习框架扩展。未来计划方面,Flink将根据可用资源决定并发度,并支持在不同规格的TaskManager和Slot上运行任务,以优化复杂场景下的资源开销。
"Flink 1.12如何优化资源管理?" "如何使用Flink扩展资源框架进行GPU调度?" "Flink未来计划如何提升资源调度效率?"
客服
商务合作
小程序
服务号
折叠