flink checkpoint 一直失败导致任务失败的一种情况

最新推荐文章于 2024-07-24 12:14:12 发布
最新推荐文章于 2024-07-24 12:14:12 发布
阅读量816 收藏 1
点赞数
文章标签： flink 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_30366667/article/details/131084632
版权
文章讨论了Flink作业中由于添加keyby操作导致checkpoint变大，进而引发超时的问题。原因是keyby增加了在Java堆中存储的keymap，这增大了内存需求，从而影响了checkpoint的效率。解决方案可能包括优化代码、调整checkpoint超时时间和增大系统资源。
摘要由CSDN通过智能技术生成

当checkpoint超时并一直失败时，分两种

1.checkpoint内容很小，但是还是超时 

代码写的有问题，错误引起的checkpoint失败

2.checkpoint有点大，并且一直失败

checkpoint超时时间设置的不合理

我这里出现了第二种，因为加了个keyby 导致需要再java堆中存储key map，导致checkpoint过大，导致超时。

身体健康,万事如意
关注
【Flink】Flink checkpoint was declined
九师兄
06-29 5021
1.背景 在这个问题之前。【Flink】Flink checkpoint expired before completing 上面那个问题，我设置了1分钟 // 开启 Checkpoint，每 1000毫秒进行一次 Checkpoint env.enableCheckpointing(120000); // Checkpoint 语义设置为 EXACTLY_ONCE env.getCheckpointConfig().setCheckpointingMode(CheckpointingMode.EXAC.
【Flink】解决Flink在测试环境无法保存checkpoint问题
九师兄
12-09 598
解决Flink在测试环境无法保存checkpoint问题本文章是和遇到问题的作者一起排查的。主要还是对方牛逼。但是这个问题好难搞，我也记录一下。
Flink Checkpoint 超时问题详解
weixin_51981189的博客
01-25 2661
等于说每来一条数据，都需要对用户近24小时内所有的行为事件进行分类汇总，求比例，再汇总，再求比例，而QPS是1500，24小时1.5亿的累积数据，逻辑处理的算子根本无法将接收到的数据在合适的时间内计算完毕，这里还有个有趣的现象，为了提高处理性能，我将并行度翻倍，结果checkpoint的时间反而更长了，原因是Source的并行度也增加后，读取源数据的速度更快了～所以和算法同学商议后，将实现逻辑进行修改，进行批流分开计算，比如离线数据每半个小时进行一次计算，而实时计算只需要计算最近半小时内的数据即可。
FLINK-checkpoint失败原因及处理方式
最新发布
牧夏的个人博客
07-24 192
在或其他分布式数据处理系统中，Checkpoint 失败可能由多种原因引起。
Flink checkpoint failed 问题解决
xiedelong的博客
08-18 5644
参考链接 https://www.shuzhiduo.com/A/QW5Yv6P3dm/ https://blog.csdn.net/lxhandlbb/article/details/90668040 https://blog.csdn.net/zc19921215/article/details/107051883 问题发现： 通过 Flink UI 查看，checkpoint 总是失败 Flink UI 里的每一项具体含义见：https://ci.apache.org/projects/flink/f
Flink checkpoint失败
野狼e族 的博客
04-06 2277
目录 前言 问题描述 问题定位 checkpoint的基本原理 思路 现象 问题解决 前言 Flink容错机制的核心部分是绘制分布式数据流和操作员状态的一致快照。这些快照充当一致的检查点，如果发生故障，系统可以回退到这些检查点。Flink绘制这些快照的机制在“分布式数据流的轻量级异步快照”中进行了介绍。它受用于分布式快照的标准Chandy-Lamport算法的启发，并且专门针对Flink的执行模型进行了量身定制。 问题描述 flink任务，从kafka中获取数据，经过处理，写...
分享一个Flink checkpoint失败的问题和解决办法
HeapDump性能社区的博客
08-14 2535
本文来自: PerfMa技术社区 PerfMa(笨马网络)官网 接触Flink一段时间了，遇到了一些问题，其中有一个checkpoint失败导致作业重启的问题，遇到了很多次，重启之后一般也能恢复正常，没有太在意，最近2天有同事又频繁遇到，这里记录一下解决方案和分析过程。 我们的flink测试环境有3个节点，部署架构是每个flink节点上部署一个HDFS的DataNode节点，hdfs用于flink的checkpoint和savepoint 现象 看日志是说有个3个datanode活着，文件副本是1，但.
Flink Checkpoint 详解
阳阳阳的博客
04-08 8582
flink checkpoint 两阶段提交协议详解
涛声依旧, 万古流名
04-19 1483
精确一次和最少一次的主要区别在于对数据处理的一致性和可靠性的保证程度。精确一次通过复杂的两阶段提交协议确保每条数据只被处理一次，提供了最高的数据一致性保证；而最少一次则通过简单的重试机制确保数据至少被处理一次，但可能会引入数据的重复处理。在实际应用中，需要根据具体的业务需求和场景来选择适合的语义保证。对于需要严格保证数据一致性的场景（如金融交易），通常会选择精确一次语义；而对于一些对数据处理速度有较高要求且可以容忍一定程度数据重复的场景（如日志收集），则可能会选择最少一次语义。
【Flink】Flink 设置检查点失败一次就报错 setTolerableCheckpointFailureNumber 不起作用
九师兄
07-16 1146
请问大家，Flink怎么让检查点失败，任务马上就停止呢？Flink1.14.4，我把检查点设置到了一个不存在的路径，检查点失败，但是任务没有停止。请问怎么样能让检查点失败导致任务失败停止？尝试过RestartStrategies.noRestart，以及setTolerableCheckpointFailureNum为0，但是都没有用对应代码如下最终解决设置了这个就可以了。把相关重启参数去掉。......
Could not complete the pending checkpoint xx. Failure reason: Failure to finalize checkpoint
三石
09-15 757
CheckpointException: Could not complete the pending checkpoint xx. Failure reason: Failure to finalize checkpoint
【flink】Flink常见Checkpoint超时问题排查思路
九师兄
11-20 4995
1.概述 转载：Flink常见Checkpoint超时问题排查思路 这里仅仅是自己学习。 在日常flink应用中，相信大家经常会遇到checkpoint超时失败这类的问题，遇到这种情况的时候仅仅只会在jobmanager处打一个超时abort的日志，往往一脸懵逼不知道时间花在什么地方了，本文就基于flink1.4.2版本理一下checkpoint出现超时问题的排查思路 2.超时判断逻辑 jobmanager定时trigger checkpoint，给source处发送trigger信号，同时会启动一个异步.
【Flink】Flink 做检查点 报错 Checkpoint Coordinator is suspending.
九师兄
10-18 2389
先看看处理方式，可以看到遇到这个报错直接忽略了。然后重置一些标记变量，释放资源的时候报错了。flink任务做检查点的时候报错。报错位置位于启动检查点调度。
记一次Flink checkpoint超时问题的排查
梦想成真那天
07-10 3792
最近在做Flink实时自定义报表,在临近上线的时候,在测试的过程中,运行一段时间后,发现Flink的checkpoint经常会超时导致数据计算延迟甚至会导致组中Flink程序挂掉. 由于这个程序在之前是运行了比较长的一段时间的,并没有报出问题,所一并没有怀疑到是程序本身的问题,最终经过修改测试,所以浪费了较多的时间,经过多方面测试,最终在查看代码的过程中,发现我每个窗口中存在一个查询SQL跟新配置...
【Flink】Flink 反压机制 导致checkpoint 失败
九师兄
11-20 1649
1.概述 转载：flink检查点checkpoint失败问题总结-2 问题描述：检查点刚开始是可以的做checkpoint的，后期越来越不能够做checkpoint的情况总结 2.反压问题 2.1 什么是反压(如下图1所示)？ 图2-1 部分算子反压表现（web ui） 2.2.flink中反压机制是干什么的？ ​ flink中的反压机制是flink中由于个别算子接收receive数据的速度远大于处理完成数据的速度，数据在算子接收之前的数据积压（在buffer缓冲区），过多的数据积压时反压导致上游的算.
Java排程应用例子
z41422687的专栏
11-01 753
实现定时执行指定程序的功能： 1.使用Timer和TimerTask import java.util.Timer; import java.util.TimerTask; public class Test { public static void main(String[] args) { Timer timer = new Timer(); timer.sched...
Flink Checkpoint过程全网独家源码详解(一)之取消任务删除checkpoint
打工日常
10-13 1129
Flink取消任务删除Checkpoint的实现及原理，全网独家详解
flink checkpoint失败
03-16
Flink checkpoint失败可能有多种原因，以下是一些常见的原因和解决方法： 1. 网络问题：Flink checkpoint需要将数据写入...总之，Flink checkpoint失败可能是由多种原因导致的，需要根据具体情况进行排查和解决。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值