大数据面试高频点Flink checkpoint 执行流程及优化方案

本文深入探讨Flink的checkpoint执行流程,包括非对齐checkpoint、动态调整buffer大小和通用增量快照的优化方案。分析了checkpoint执行失败的原因,如数据流动缓慢和状态数据过大,并提出FLIP-76、FLIP-183和FLIP-158等社区解决方案。
摘要由CSDN通过智能技术生成

大家好,我是土哥。

今天为大家带来 Flink checkpoint 核心知识点以优化方案,本文主要从以下几方面进行介绍:

1 Checkpoint 执行流程

2 checkpoint 执行失败问题分析

3 非对齐checkpoint 优化方案

4 动态调整 buffer 大小

5 通用增量快照

1 checkpoint 执行流程

如上图所示,chechpoint 在执行过程中,可以简化为可以简化为以下四大步:

  1. 在数据流中插入 checkpoint barrier;
  2. 每执行到当前算子时,对算子 state 状态进行同步快照与异步上传
  3. 当算子是多输入时,要进行 barrier 对其操作;
  4. 所有算子状态都已上传,确认 checkpoint 完成;
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

3分钟秒懂大数据

你的打赏就是对我最大的鼓励

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值