【Flink】Flink 控制台能消费 但是 Flink 任务不能消费 内置topic 导致问题

838 篇文章 846 订阅 ¥99.90 ¥299.90
401 篇文章 635 订阅 ¥99.90 ¥299.90
本文描述了Flink流任务在特定环境中无法消费Kafka内置topic的问题,尽管控制台可以正常消费。作者排除了多个可能的原因,如过滤数据、消费组死掉、系统消费组错误等。通过检查日志、系统消费组和Kafka集群状态,最终发现需要重建所有topic以解决此问题。在第二个场景中,由于数据过多导致磁盘满载,重建topic后再次出现类似问题,但通过再次重建所有topic解决了问题。
摘要由CSDN通过智能技术生成

本文为博主九师兄(QQ:541711153 欢迎来探讨技术)原创文章,未经允许博主不允许转载。

文章目录


在这里插入图片描述

1.概述

一个流任务,在其他环境都正常,但是有个环境突然不正常了,数据消费为0.

在这里插入图片描述
开始立马想到是不是这个问题:【Flink】Flink source后全过滤数据导致监控数据为0 然后一会直接排除了这个,我们这个没有做限制。

然后又看看topic详情,发现topic是正常的。

在这里插入图片描述
然后控制台消费,是正常的,然后去流任务看看日志,发现日志也是正常的,没有任何报错。

然后根据这个文档:【FLink】Flink 消费 kafka 消费组 死掉 Marking the coordinator dead for group 造成数据重复消费 并没有在日志中看到消费组死

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九师兄

你的鼓励是我做大写作的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值