Kafka 消费过程中遇到的一些问题

#1.Error UNKNOWN_MEMBER_ID occurred while committing offsets for group ***
昨天遇到kafka的消费端报错如下:

2017-06-21 10:55:32,032 [messageListenerContainer_batteryGroupAlarm-C-1] ERROR org.apache.kafka.clients.consumer.internals.ConsumerCoordinator$OffsetCommitResponseHandler.handle(ConsumerCoordinator.java:544) - Error UNKNOWN_MEMBER_ID occurred while committing offsets for group 0

大概意思就是我这个消费者在提交offset的时候,出现了个异常。
分析原因:

  • 消息过大,消费过程过长,在session time out这段时间内,没有处理完成,导致心跳检测信号没发出来,这时候,consumers的协调器coordinator 就会认为,这个消费者挂掉了,所以,消费者的offset提交失败,这时候,所有的consumers进行reblance过程(partition要在consumer中重新分配),由于之前消费了的消息,进行了partitiion的重新分配,又要重新被消费,可能会进入一个恶性循环。
    策略:

1,更改 session.timeout.ms的值,加大消费时间;
2,调高心跳检测heartbeat.interval.ms的值
3,如果使用了spring-kafka,则可以更改enable.auto.commit=false ,使用spring-kafka的提交策略。
4,最有效的方法,提搞partition的个数,增加消费水平

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

水田如雅

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值