[kafka] 消费没有数据的问题解决Group coordinator lookup failed: The coordinator is not available

文章描述了一种在Kafka项目中遇到的问题,即生产者能正常发送数据,但消费者无法消费,原因是缺少__consumer_offsets主题。通过创建该主题并重启Kafka和Zookeeper服务,成功解决了消费者协调器不可用的问题,从而能正常获取数据。
摘要由CSDN通过智能技术生成

[kafka] 消费没有数据的问题解决Group coordinator lookup failed: The coordinator is not available

目录

前言

一、解决问题


前言

在项目中使用了kafka,生产者可以正常的往里放数据,但是消费者无法获取数据,通过kafka命令获取也无法获取,观察控制台发现,报了如下错误。

DEBUG org.apache.kafka.clients.Metadata - Updated cluster metadata version 133 to Cluster(id = YFJdX6kITzuEPD3F4zdZEw, nodes = [master:9092 (id: 39 rack: null)], partitions = [Partition(topic = fuxi_test, partition = 0, leader = 39, replicas = [39], isr = [39], offlineReplicas = [])], controller = master:9092 (id: 39 rack: null))
[ForkJoinPool-1-worker-5] DEBUG o.a.k.c.consumer.internals.AbstractCoordinator - [Consumer clientId=consumer-1, groupId=test_consumer] Sending FindCoordinator request to broker master:9092 (id: 39 rack: null)
[ForkJoinPool-1-worker-5] DEBUG o.a.k.c.consumer.internals.AbstractCoordinator - [Consumer clientId=consumer-1, groupId=test_consumer] Received FindCoordinator response ClientResponse(receivedTimeMs=1590026706655, latencyMs=4, disconnected=false, requestHeader=RequestHeader(apiKey=FIND_COORDINATOR, apiVersion=2, clientId=consumer-1, correlationId=265), responseBody=FindCoordinatorResponse(throttleTimeMs=0, errorMessage='null', error=COORDINATOR_NOT_AVAILABLE, node=:-1 (id: -1 rack: null)))
[ForkJoinPool-1-worker-5] DEBUG o.a.k.c.consumer.internals.AbstractCoordinator - [Consumer clientId=consumer-1, groupId=test_consumer] Group coordinator lookup failed: The coordinator is not available.
[ForkJoinPool-1-worker-5] DEBUG o.a.k.c.consumer.internals.AbstractCoordinator - [Consumer clientId=consumer-1, groupId=test_consumer] Coordinator discovery failed, refreshing metadata

一、解决问题

排查发现topic中没有__consumer_offsets,必须有他才可以正常获取到值,创建命令如下,创建后重启kafka服务和zookeeper服务,就可以正常获取到数据了。

kafka-topics --zookeeper 127.0.0.1:2181 --partitions 1 --replication-factor 1 --create --topic __consumer_offsets

kafka-topics.bat在kafka/bin/windows下

 一定记得执行命令后重启kafka服务。

到此问题解决。希望对小伙伴们有帮助。

kafka消费不到数据问题可能有几种可能性。首先,可能是发生了重平衡。当消费者组中的消费者发生变动时,比如有新的消费者加入或者旧的消费者离开,就会触发重平衡。在重平衡期间,消费者无法消费数据,直到平衡完成。 另一个可能的原因是Group coordinator查找失败。当消费者尝试加入消费者组时,会去查找Group coordinator,如果查找失败,就无法正常消费数据。 此外,如果你的kafka使用了华为mrs kafka,并且对于消费者进行了权限管理,可能会出现消费没有访问权限的情况。当消费没有被授权访问某些Topic时,尝试消费数据时会出现消费失败的情况。错误信息可能包含"Not authorized to access topics"。 针对这些问题,你可以尝试以下解决方法: 1. 等待重平衡完成,确保消费者组中的消费者稳定。 2. 检查Group coordinator是否可用,确保消费者可以成功加入消费者组。 3. 检查消费者的权限设置,确保消费者被授予了正确的Topic访问权限。 通过解决以上可能的问题,你应该能够解决kafka消费不到数据的情况。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [关于与kafka的爱恨交织](https://blog.csdn.net/qq_40634730/article/details/125257125)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [[kafka] 消费没有数据问题解决Group coordinator lookup failed: The coordinator is not available](https://blog.csdn.net/u010321872/article/details/131602411)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值