【flink】flink 消费组死掉 Lag不变 kafka不提交 重启恢复 非常诡异

已于 2024-02-23 09:28:54 修改
阅读量728 收藏
点赞数
分类专栏： 大数据-flink 文章标签： flink 消费组死掉 lag 不变 诡异
于 2021-11-30 21:23:09 首次发布
本文为博主九师兄（QQ:541711153 欢迎来探讨技术）原创文章，未经允许博主不允许转载。
本文链接：https://blog.csdn.net/qq_21383435/article/details/121119709
版权
大数据-flink 专栏收录该内容
837 篇文章 833 订阅 ¥99.90 ¥99.00
订阅专栏

文章目录


在这里插入图片描述

1.场景1

1.1 钙素

是这样的，我有一个环境，遇到一个这样的现象，flink任务运行了 13天了，然后看消费组状态的时候 发现lag很大 多次查看都一样

在这里插入图片描述

然后重启了一下任务，消费组没改，然后lag变成 一百以内了，关键是

  1. 没改消费组
  2. 没有checkpoint 就是普通的额流任务
  3. 数据写入曲线正常 没有中断，这是有一个流处理是不停的往kafka中拉取数据，然后写入到es，看着es的曲线是正常的。里面的时间是和系统时间一致。

感觉是offset 重启后 提交了offset，没找到原因。

2.场景2

这个场景和上述一样的，只是重启后࿰

了解本专栏 订阅专栏 解锁全文
九师兄
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
Flink Task重启之后重复消费Kafka消息问题解决
qq_35939417的博客
04-17 6644
我的项目是从Kafka消费消息，计算之后发送到elasticsearch存储。 现象：每次重启Flink Task，都会往elasticsearch发送已经计算过的数据。比如本来elasticsearch有3条记录，在不往Kafka生产新消息的情况下，重新启动Flink Task之后有6条，再重启是12条，说明数据重复。 初步怀疑是重复消费Kafka的消息，可能是offset没有提交。于是在Fli...
Flink正常消费一段时间后，大量反压，看着像卡住了，但又没有报错。
T_Antry
08-04 1618
前面我也有提到，发现flink运行一段时间后，不再继续消费的问题。这个问题困扰了我非常久，一开始也很迷茫。又因为比较忙，所以一直没有时间能够去寻找答案，只是通过每天重启的方式去解决。经过分析，其实这个问题也很容易找到根源，有兴趣就和我一起看下叭
kafka消费数据，有时消费不到原因？
最新发布
beipiao_yizu的博客
03-20 1505
7：消费者客户端启动后未消费消息：如果发现一个消费者客户端已经启动了，但是就是不消费消息，应该检查该消费者所在的组中是否还有其他的消费者。综上所述，解决Kafka消费数据不到的问题，需要从多个方面进行排查和优化，包括但不限于检查配置、调整生产与消费的速度匹配、提高消费者的处理能力、确保网络稳定以及及时处理下游数据等。4：消费者处理能力不足：如果消费者的处理能力不足，例如处理逻辑复杂、计算密集，或者消费者数量较少，无法充分利用集群的并发处理能力，也会导致消费速度慢。
介绍一下flink的Watermark
Er_fengV的博客
09-03 462
前面这篇文章中有提到过watermark，相信很多小伙伴对这个东西还是不太熟，我们可以去官网上看看详情 Watermark 策略简介 为了使用事件时间语义，Flink应用程序都需要知道事件时间戳对应的字段，意味着数据流中的每个元素都需要拥有可分配的事件时间戳。其通常通过使用TimestampAssigner API从元素中的某个字段去访问/提取时间戳 时间戳的分配与watermark的生成是齐头并进的，其可以告诉Flink应用程序事件时间的进度。可以通过指定WatermarkGenerator来配置wat
kafka部分partition消息堆积问题解决记录01
weixin_43717407的博客
07-11 4164
项目场景：   某个实时高流量的数据流的数据统计模块，需要实时读取kafka数据并进行数种数据统计分析。 问题描述：   负责关注数据流部分后，发现监控系统不断向我手机发送短信报警，报警内容指明是kafka的某个ConsumerGroup:topic的某些分区消息延迟Lag过高！   马上监控系统web端可以看到： kafka对应ConsumerGroup:topic的消息延迟Lag非常不均匀，部分分区的Lag处于正常水平，而部分分区的Lag却不断堆积，甚至Lag值超过上亿。 原因分析： 1、确定排查方向
Flink消费Kafka数据1
08-03
1. 实验环境 2. 资源购买 3. 开始实验
flink消费kafka到greenplum
05-06
flink消费kafka到greenplum， 以及flink datastream,dataset 使用等，实时数据库读取，存储到greenplum，应用窗口等实战例子
Flink实时读取Kafka数据批量聚合（定时按数量）写入Mysql.rar
12-27
Flink实时读取Kafka数据批量聚合（定时/按数量）写入Mysql源码+kafka安装包+zookeeper安装包
flink-sql-connector-kafka-2.12-1.13.1.jar
03-15
flink-sql-connector-kafka_2.12-1.13.1.jar 是 Apache Flink 的一个 Kafka SQL Connector 的 JAR 包，用于在 Flink SQL 环境中与 Apache Kafka 集成。这里面的数字 2.12 和 1.13.1 分别表示了这个 JAR 包所依赖的 ...
java实现flink订阅Kerberos认证的Kafka消息示例源码
04-16
java实现flink订阅Kerberos认证的Kafka消息源码
flink消费kafka数据存储到elasticsearch的演示deno
07-23
1、flink监听localhost的kafka，作为source，接收数据。 2、数据流转到elasticsearch 3、flink web ui提交jar文件，创建任务流程。 4、流程测试。
Apache Flink如何管理Kafka消费者offsets
12-28
Apache Flink如何管理Kafka消费者offsets
Flink+Kafka的JavaAPI应用
05-30
此案例使用的是IDEA开发工具，项目...使用JavaAPI操作Flink的流处理，Flink从Kafka中获取数据，执行处理后再执行输出。 根据（《Flink入门与实战》徐葳著）教材最后的综合案例改变，适合没有学习不会使用Flume的人使用
flink-connector-kafka-2.12-1.14.3-API文档-中文版.zip
04-07
赠送jar包：flink-connector-kafka_2.12-1.14.3.jar 赠送原API文档：flink-connector-kafka_2.12-1.14.3-javadoc.jar 赠送源代码：flink-connector-kafka_2.12-1.14.3-sources.jar 包含翻译后的API文档：flink-...
Flink消费kafka报akka.pattern.AskTimeoutException: Ask timed out on [Actor[akka.tcp://flink@xxx]]after x
qq_41018861的博客
05-24 2563
我们在使用flink的时候还是得多了解底层原理才行。
记一次宕机造成的flink消费Kafka topic失败问题
好记性不如烂笔头
04-13 784
kafka报错：Error while fetching metadata with correlation id 72 ：{topic=LEADER_NOT_AVAILABLE}
【Flink】Flink Kafka 消费卡死 消费组卡死 topic无写入 实际有数据 topic正常
九师兄
06-11 2040
1.概述 今天遇到一个问题，非常的奇怪。 我一个FLink程序突然不消费数据了。确认有数据正在往kakfka中写入数据，在broker监控中，可以看到确实在写入。 然后在topic看，发现数据没有写入 flink 读取不到数据，flink流任务 没有报错，这个 然后查看消费组卡死 查看topic详情是正常的 模拟对这个topic写入和发送数据是正常的 kafka日志一堆 Rolled new log segment for 消费数据的时候有消息比较大 服务端设置的max.message.si.
kafka 坑爹问题排查记录
a290450134的博客
09-03 2338
重点、重点、重点: 重启kafka一定要先看看持久化有没有问题。 首先，问题没有解决，只是阐述过程和问题。 问题关键字：偏移量提交失败，重复消费，新的group不能消费到历史数据 版本：0.10.2 场景：consumer两个group进行消费，但是偏移量从某一时间点开始就无法进行提交。一直在循环消费一个时间段的数据。 尝试重启项目，还是不能正常进行消费，偏移量还...
KafkaManager UI界面显示lag比较大问题,看到了别慌
mtj66的博客，交流WX:SpringBreeze1104
04-28 6638
这几天在做flume拦截器改写.准备部署测试了,为了不影响线上环境,换了一个消费者组,然后又换了一个输出路径.一切测试尝试后,终于把bug给修复好了,然后准备看看kafka的消费是否正常.What?怎么有个topic的lag比较大,另一个topic的lag很正常(同时消费两个topic的数据),再仔细看看,怎么只有部分partition的数据delay很多,然后其他partition是正常的lag...
flink 消费kafka 不显示消费者组
07-08
您好！对于 Flink 消费 Kafka 的情况，如果消费者组没有显示，可能有以下几个原因： 1. 消费者组未正确配置：请确保消费者组的配置正确，并且在 Flink 程序中正确设置了消费者组的名称。可以检查 Flink 程序中的相关配置项，如 `group.id`。 2. Kafka 服务器配置问题：请确认 Kafka 服务器的配置是否正确，特别是在 `server.properties` 文件中是否启用了消费者组的相关配置。需要确保 `group.initial.rebalance.enable=true`。 3. Kafka 主题不存在或分区为空：如果 Kafka 主题不存在或者分区为空，消费者组将无法显示。请确认 Kafka 主题是否正确创建，并且分区中有数据。 4. Flink 版本问题：如果您正在使用较旧的 Flink 版本，可能存在一些 bug 或限制，导致消费者组无法正确显示。建议将 Flink 更新到最新的稳定版本，并检查是否有相关的 bug 报告。 如果您仍然遇到问题，请提供更多详细信息，以便我能够更好地帮助您解决。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值