Flink Checkpoint过程全网独家源码详解(一)之取消任务删除checkpoint

本文探讨了在Flink中,当用户取消任务时,为何检查点未从外部存储中删除的问题。原来是由于默认配置'取消时删除'仅移除_metadata文件,而非全部数据。同时,分析了用户配置如何影响Flink的检查点清理行为,并指出无论配置与否,ExternalizedCheckpointCleanup都将设置到StreamExecutionEnvironment的checkpointCfg中。
摘要由CSDN通过智能技术生成

去关注这块的原因是,有一次公司的某个用户任务,在cancel任务后,竟然没有列出外部存储上的检查点。

以为是平台代码的原因,查了很久也没问题。

后来发现根本原因是用户用了默认设置:取消时删除。

但也有Flink自身的原因,就是Flink取消任务删除检查点时没删干净:Flink就只删除“_metadata”文件,可不删除真实数据哦,这样平台没列出来是正确的,而用户认为远程存储上游checkpoint的路径,就应该列出来。

接下来说说,用户的配置是如何影响Flink删除或者不删除检查点,为什么只删除metadata文件。

用户配置

用户配置或不配置,不配置的话,默认是取消时删除,即

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Better~Me

谢谢小可爱,希望你每天都开心~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值