flink checkpoint 一直失败导致任务失败的一种情况

最新推荐文章于 2024-07-20 11:32:17 发布
最新推荐文章于 2024-07-20 11:32:17 发布
阅读量908 收藏 1
点赞数
文章标签： flink 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_30366667/article/details/131084632
版权
文章讨论了Flink作业中由于添加keyby操作导致checkpoint变大，进而引发超时的问题。原因是keyby增加了在Java堆中存储的keymap，这增大了内存需求，从而影响了checkpoint的效率。解决方案可能包括优化代码、调整checkpoint超时时间和增大系统资源。
摘要由CSDN通过智能技术生成

当checkpoint超时并一直失败时，分两种

1.checkpoint内容很小，但是还是超时 

代码写的有问题，错误引起的checkpoint失败

2.checkpoint有点大，并且一直失败

checkpoint超时时间设置的不合理

我这里出现了第二种，因为加了个keyby 导致需要再java堆中存储key map，导致checkpoint过大，导致超时。

Flink Checkpoint失败的解决方法
BugCrusher的博客
08-15 921
总结一下，Flink的checkpoint机制是实现容错性的重要手段，但有时我们可能会遇到checkpoint被拒绝的问题。然而，有时在使用Flink时，我们可能会遇到“Flink checkpoint被拒绝”的错误。Checkpoint是Flink中一种重要的机制，用于实现故障恢复。当发生故障时，Flink可以使用最近的checkpoint来恢复应用程序的状态，并继续处理数据。然而，当我们在使用Flink进行checkpoint时，有时会遇到checkpoint被拒绝的情况。在上述示例中，我们使用了。
【Flink】解决Flink在测试环境无法保存checkpoint问题
九师兄
12-09 690
解决Flink在测试环境无法保存checkpoint问题本文章是和遇到问题的作者一起排查的。主要还是对方牛逼。但是这个问题好难搞，我也记录一下。
解决Flink在测试环境无法保存checkpoint问题
qy8502的专栏
11-19 5241
在测试环境部署的flink，无法成功的存储checkpoints。或者使用flink命令执行savepoint也无法成功保存。hdsf中创建了对应的目录，却没有写任何文件。
Flink checkpoint failed 问题解决
xiedelong的博客
08-18 5928
参考链接 https://www.shuzhiduo.com/A/QW5Yv6P3dm/ https://blog.csdn.net/lxhandlbb/article/details/90668040 https://blog.csdn.net/zc19921215/article/details/107051883 问题发现： 通过 Flink UI 查看，checkpoint 总是失败 Flink UI 里的每一项具体含义见：https://ci.apache.org/projects/flink/f
FLINK-checkpoint失败原因及处理方式
最新发布
ALX3li的博客
07-20 958
在 Flink 或其他分布式数据处理系统中，Checkpoint 失败可能由多种原因引起。
Flink的checkpoint遇到过什么问题，什么原因导致的
xxy1022_的博客
01-16 1157
checkpoint 失败一般都和反压相结合。。我们知道， Flink checkpoint 机制是基于 barrier 的, 在数据处理过程中， barrier 也需要像普通数据一样，在 buffer 中排队，等待被处理。当 buffer 较大或者数据处理较慢时，barrier 需要很久才能够到达算子，触发 checkpoint。尤其是当存在反压时，barrier 需要在 buffer 中流动数个小时，从而导致 checkpoint 执行时间过长，超过了 timeout 还没有完成，从而导致失败。
Flink Checkpoint 超时问题详解
weixin_51981189的博客
01-25 3455
等于说每来一条数据，都需要对用户近24小时内所有的行为事件进行分类汇总，求比例，再汇总，再求比例，而QPS是1500，24小时1.5亿的累积数据，逻辑处理的算子根本无法将接收到的数据在合适的时间内计算完毕，这里还有个有趣的现象，为了提高处理性能，我将并行度翻倍，结果checkpoint的时间反而更长了，原因是Source的并行度也增加后，读取源数据的速度更快了～所以和算法同学商议后，将实现逻辑进行修改，进行批流分开计算，比如离线数据每半个小时进行一次计算，而实时计算只需要计算最近半小时内的数据即可。
Flink checkpoint失败
野狼e族 的博客
04-06 2359
目录 前言 问题描述 问题定位 checkpoint的基本原理 思路 现象 问题解决 前言 Flink容错机制的核心部分是绘制分布式数据流和操作员状态的一致快照。这些快照充当一致的检查点，如果发生故障，系统可以回退到这些检查点。Flink绘制这些快照的机制在“分布式数据流的轻量级异步快照”中进行了介绍。它受用于分布式快照的标准Chandy-Lamport算法的启发，并且专门针对Flink的执行模型进行了量身定制。 问题描述 flink任务，从kafka中获取数据，经过处理，写...
Flink Checkpoint 详解
阳阳阳的博客
04-08 8765
flink checkpoint 两阶段提交协议详解
涛声依旧, 万古流名
04-19 1727
精确一次和最少一次的主要区别在于对数据处理的一致性和可靠性的保证程度。精确一次通过复杂的两阶段提交协议确保每条数据只被处理一次，提供了最高的数据一致性保证；而最少一次则通过简单的重试机制确保数据至少被处理一次，但可能会引入数据的重复处理。在实际应用中，需要根据具体的业务需求和场景来选择适合的语义保证。对于需要严格保证数据一致性的场景（如金融交易），通常会选择精确一次语义；而对于一些对数据处理速度有较高要求且可以容忍一定程度数据重复的场景（如日志收集），则可能会选择最少一次语义。
【Flink】Flink checkpoint was declined
九师兄
06-29 5214
1.背景 在这个问题之前。【Flink】Flink checkpoint expired before completing 上面那个问题，我设置了1分钟 // 开启 Checkpoint，每 1000毫秒进行一次 Checkpoint env.enableCheckpointing(120000); // Checkpoint 语义设置为 EXACTLY_ONCE env.getCheckpointConfig().setCheckpointingMode(CheckpointingMode.EXAC.
flink 检查点失败，正常运行
m0_65850671的博客
01-26 459
检查点失败
【Flink】Flink 设置检查点失败一次就报错 setTolerableCheckpointFailureNumber 不起作用
九师兄
07-16 1215
请问大家，Flink怎么让检查点失败，任务马上就停止呢？Flink1.14.4，我把检查点设置到了一个不存在的路径，检查点失败，但是任务没有停止。请问怎么样能让检查点失败导致任务失败停止？尝试过RestartStrategies.noRestart，以及setTolerableCheckpointFailureNum为0，但是都没有用对应代码如下最终解决设置了这个就可以了。把相关重启参数去掉。......
Could not complete the pending checkpoint xx. Failure reason: Failure to finalize checkpoint
三石
09-15 828
CheckpointException: Could not complete the pending checkpoint xx. Failure reason: Failure to finalize checkpoint
【flink】Flink常见Checkpoint超时问题排查思路
九师兄
11-20 5276
1.概述 转载：Flink常见Checkpoint超时问题排查思路 这里仅仅是自己学习。 在日常flink应用中，相信大家经常会遇到checkpoint超时失败这类的问题，遇到这种情况的时候仅仅只会在jobmanager处打一个超时abort的日志，往往一脸懵逼不知道时间花在什么地方了，本文就基于flink1.4.2版本理一下checkpoint出现超时问题的排查思路 2.超时判断逻辑 jobmanager定时trigger checkpoint，给source处发送trigger信号，同时会启动一个异步.
【Flink】Flink 做检查点 报错 Checkpoint Coordinator is suspending.
九师兄
10-18 2728
先看看处理方式，可以看到遇到这个报错直接忽略了。然后重置一些标记变量，释放资源的时候报错了。flink任务做检查点的时候报错。报错位置位于启动检查点调度。
记一次Flink checkpoint超时问题的排查
梦想成真那天
07-10 3895
最近在做Flink实时自定义报表,在临近上线的时候,在测试的过程中,运行一段时间后,发现Flink的checkpoint经常会超时导致数据计算延迟甚至会导致组中Flink程序挂掉. 由于这个程序在之前是运行了比较长的一段时间的,并没有报出问题,所一并没有怀疑到是程序本身的问题,最终经过修改测试,所以浪费了较多的时间,经过多方面测试,最终在查看代码的过程中,发现我每个窗口中存在一个查询SQL跟新配置...
【Flink】Flink 反压机制 导致checkpoint 失败
九师兄
11-20 1779
1.概述 转载：flink检查点checkpoint失败问题总结-2 问题描述：检查点刚开始是可以的做checkpoint的，后期越来越不能够做checkpoint的情况总结 2.反压问题 2.1 什么是反压(如下图1所示)？ 图2-1 部分算子反压表现（web ui） 2.2.flink中反压机制是干什么的？ ​ flink中的反压机制是flink中由于个别算子接收receive数据的速度远大于处理完成数据的速度，数据在算子接收之前的数据积压（在buffer缓冲区），过多的数据积压时反压导致上游的算.
Flink任务在大数据处理过程中未能完成前过期的问题
CodeHeroicX的博客
09-02 235
Flink任务在处理大数据时可能会遇到任务过期的问题。通过采取这些措施，我们可以提高Flink任务的执行效率，减少任务过期的可能性，并确保大数据处理任务能够顺利完成。然而，有时候在处理大数据时，Flink任务可能会因为各种原因而无法在完成之前过期。在本文中，我们将探讨这个问题，并提供一些解决方案。当使用Flink处理大规模数据时，可能会遇到任务过期的问题。在任务执行过程中，Flink会自动创建保存点，并将任务的状态保存到指定的存储位置。通过增加超时时间，可以给任务更多的执行时间，以便完成大规模数据的处理。
flink checkpoint失败
03-16
Flink checkpoint失败可能有多种原因，以下是一些常见的原因和解决方法： 1. 网络问题：Flink checkpoint需要将数据写入分布式文件系统或者其他存储介质，如果网络不稳定或者存储介质出现问题，就会导致checkpoint失败。解决方法是检查网络连接和存储介质状态，确保它们正常工作。 2. 内存问题：Flink checkpoint需要占用一定的内存空间，如果内存不足，就会导致checkpoint失败。解决方法是增加内存或者调整Flink的配置参数。 3. 代码问题：Flink checkpoint需要保证数据的一致性和正确性，如果代码中存在问题，就会导致checkpoint失败。解决方法是检查代码逻辑，确保它们正确无误。 4. 并发问题：Flink checkpoint需要协调多个任务之间的状态，如果并发度过高或者任务之间存在竞争条件，就会导致checkpoint失败。解决方法是调整并发度或者优化任务之间的协作方式。 总之，Flink checkpoint失败可能是由多种原因导致的，需要根据具体情况进行排查和解决。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值