【Flink】Flink Exceeded checkpoint tolerable failure threshold

已于 2022-05-11 19:06:30 修改
阅读量2.1k 收藏 2
点赞数
分类专栏： 大数据-flink 文章标签： flink kafka big data
于 2022-01-22 12:34:18 首次发布
本文为博主九师兄（QQ:541711153 欢迎来探讨技术）原创文章，未经允许博主不允许转载。
本文链接：https://blog.csdn.net/qq_21383435/article/details/122438843
版权
大数据-flink 专栏收录该内容
839 篇文章 855 订阅 ¥99.90 ¥299.90
订阅专栏
本文探讨了Flink在多并行度运行时遇到的一个问题，即当某个Subtask数据量少导致Kafka写入数据为0，进而触发检查点超时。错误信息表明超过了检查点的容忍失败阈值。通过源码分析，揭示了检查点失败数超过设定阈值时，Flink会报错并取消检查点。文章提供了设置检查点容忍失败次数的方法，并分享了一个实际场景，展示设置为0导致检查点失败一次就报错的情况。
摘要由CSDN通过智能技术生成

文章目录


在这里插入图片描述

1.概述

Flink程序，如果单平行度运行是正常的，多并行度运行时有一个subtask的数据量很少，写kafka的数据为0，在做checkpoint的时候就会超时。报错如图

在这里插入图片描述
这个错误的意思是：超过检查点可容忍失败阈值

2.源码

该部分的头一段源码分析在这里：【Flink】Flink 设置检查点失败一次就报错 setTolerableCheckpointFailureNumber 不起作用

2.1 源码解析

对应的源码位置位于

   /**
     * 超过检查点可容忍失败阈值
     */
了解本专栏 订阅专栏 解锁全文
九师兄
关注
专栏目录
订阅专栏
【Flink】Flink检查点时间太小导致Exceeded checkpoint tolerable failure threshould
九师兄
06-29 7248
1.背景 写了一个flink程序，大概如下 @Test public void flatMapStateBackendTest() throws Exception { StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); // 每隔1000 ms进行启动一个检查点【设置checkpoint的周期】 env.enableCheckp.
flink 出现反压场景， 异常场景造成Exceeded checkpoint tolerable failure threshold.
u012447842的博客
10-14 6973
现象： flink 自定义写hdfs 的addsink 方法处理慢，出现了挤压现象；导致上游反压，后排查发现时 addsink 里面有一个解析rawtrace方法耗时很长， 同时RichSinkFunction 是和平行度一样的线程数， 导致出现了阻塞解决方案： 把解析rawtrace代码放在了keyby， map里， keyby是按照traceId， 将解析rawtrace 放在procesfuntion里， 每来一条数据就解析一次， 而不是在最后写入的时候去解析，这样不会出现阻塞的现象。
Exceeded checkpoint tolerable failure threshould【记一次flink上线异常】
热门推荐
devcy的博客
03-09 1万+
最近完成一个业务需求，flink程序上线之后，跑了不到一分钟就挂了，查看日志，报错如下： org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold. at org.apache.flink.runtime.... 明显，checkpoint超时了，于是，我下意识地去检查checkpoint的设置， 代码中的设置如下： // 每 ** ms 开始一
FlinkCDC问题处理：Exceeded checkpoint tolerable failure threshold... checkpoint expired before completing
最新发布
hwh_scut的博客
06-22 855
SqlServer同步到Paimon因数值转换出错（NumberFormatException），导致checkpoint失败，作业运行异常的处理
Flink任务失败，检查点失效：Exceeded checkpoint tolerable failure threshold.
weixin_45943866的博客
07-19 1万+
在报Exceeded checkpoint tolerable failure threshold.错误的之前，是先报的是Checkpoint expired before completing.大概意思是检查点在完成前过期了。
Flink CheckPoint ： Exceeded checkpoint tolerable failure threshold
lck_csdn的博客
06-09 3026
Flink异步IO查询HBase数据超时，导致创建checkpoint失败
flink sql 报错：FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold
zuixue_lei的博客
06-13 1521
当出现这种错误时，原因一般是启动任务时，所给的资源不够。 可以调整 streamx 界面上的并行度、task的内存调大。 然后重启任务看下是否能行。
Flink报错：org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold
小蚯蚓的博客
01-14 4744
org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold 一、问题描述 flink执行任务报错 2022-01-11 15:10:49 org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold. at org.apache.flink.runtime.c
[Flink 日记]Exceeded checkpoint tolerable failure threshold.
王先生的博客
05-24 3791
org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold. 原因CheckpointTimeout 设置的Checkpoin超时时间内未完成任务 导致的超时异常。 解决 1，增加超时时间 2，增加机器性能 。 ...
Flink报错：exceeded checkpoint tolerable failure threshould
东城庞太师
03-14 3816
问题如图： 原因： 资源太小 checkpoint时间太小 数据库连接未关闭，资源未释放。 解决： 重新部署运行，正常！
flink程序：Exceeded checkpoint tolerable failure threshould
syd19950119的博客
10-26 3310
@[TOC]Exceeded checkpoint tolerable failure threshould 在写一个flink程序时报错， Exceeded checkpoint tolerable failure threshould 百思不得其解，百度问题发现需要收费，简直无语 最后找到问题所在 我是使用了ListState，在第一次运行时他需要添加值，我设置初始值为null，而源码中要求不能为null 一般电脑性能好的话是不会出现这个问题，但是在第一次运行时需啊哟时间去拿到值，而我设置的checkp
org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold
m0_37987037的博客
10-13 5117
org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold. 原因 CheckpointTimeout 设置的Checkpoin超时时间内未完成任务 导致的超时异常。 解决 1，增加超时时间 2，增加机器性能 3，减少数据处理量 ：source并行度 和窗口数据量减少，sink 并行度增加 ...
Flink｜checkpoint 超时报错问题处理（FlinkRuntimeException）
长行
01-07 2085
Flink 的 checkpoint 的超时时间时 600 秒，但是这个任务需要 11 分钟才能完成。另一方面也可能是因为线上运行时，对 MySQL 请求时走的是内网请求，而本地运行走的是外网请求。为了评估一个 Flink 程序的处理效果，我使用本地模式启动了 Flink 程序，并在上游表中一次性插入了大量数据（大概相当于线上单个并发 4 - 5 分钟的最大处理量），以触发计算。但是，在本地计算中，一直无法计算完成，观察后发现任务在被重复计算，进而发现 Flink 在不断从 checkpoint 恢复。
【Flink】Flink 设置检查点失败一次就报错 setTolerableCheckpointFailureNumber 不起作用
九师兄
07-16 1145
请问大家，Flink怎么让检查点失败，任务马上就停止呢？Flink1.14.4，我把检查点设置到了一个不存在的路径，检查点失败，但是任务没有停止。请问怎么样能让检查点失败导致任务失败停止？尝试过RestartStrategies.noRestart，以及setTolerableCheckpointFailureNum为0，但是都没有用对应代码如下最终解决设置了这个就可以了。把相关重启参数去掉。......
【Flink 使用注意】关于Checkpoint的tolerableCheckpointFailureNumber的使用
ChengYanan的博客
01-29 2755
我们在使用checkpoint时，会遇到这样一个参数设置： env.getCheckpointConfig().setTolerableCheckpointFailureNumber(1); tolerableCheckpointFailureNumber 限制的是最大可容忍的连续失败checkpoint计数 continuousFailureCounter 参考链接[1]，例如将tolerableCheckpointFailureNumber 设置成3，连续失败3次，continuousFailureC
记录：Flink checkpoint 过期导致失败（线上问题）
shi_xiansheng的博客
08-19 2448
报错信息： 2021-08-18 18:28:40,502 INFO org.apache.flink.runtime.checkpoint.CheckpointCoordinator [] - Triggering checkpoint 1 (type=CHECKPOINT) @ 1629282520408 for job 1cba827ad8a8d68521605157b77a6191. 2021-08-18 18:38:40,502 INFO org.apache.flink.runti
flink设置checkpoint部署后一直重启，出现检查点无法写入的问题
weixin_42965737的博客
04-07 3515
问题描述 项目一共有7个应用程序，只有其中一个程序出现检查点问题，参数配置都相同。 flink部署后的异常为： org.apache.flink.util.FlinkRuntimeException: Exceeded checkpoint tolerable failure threshold 最终发现这个提示是没有用的，最后经过一番艰苦的努力，终于解决了问题，这里直接上干货。 问题原因： 由于这个程序连接的数据库比较多，可能会出现这个检查点没有做完，被丢弃掉，又重新开始了一个，循环往复。导致的问题.
flink tolerable failed checkpoint
09-26
其中，"tolerable failed checkpoint"（可容忍失败的检查点）是Flink的一种容错机制。 检查点是Flink用来记录作业状态的一种机制，用于在作业发生故障时进行恢复。在检查点机制中，Flink会定期地将作业的状态信息和...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值