kafka问题排查经历

今天kafka遇到个问题,go代码中消费者一直接收不到消息。
开始排查问题:

  1. 登录kafka集群的三个节点,使用ps -ef +network查看三个节点的broker都是正常启动的。
  2. 查看启动配置,三个节点的broker.id分别为0,1,2
  3. ls /logs/kafka-logs 查看topic的日志,确定producer生产的消息都正确存储了。
  4. ./bin/kafka-topics.sh --describe --topic mytopic 查看topic的详细信息,确定topic是一个分区,一个副本,leader已经isr都是正常的。
  5. ./bin/kafka-console-consumer.sh --bootstrap-server myip:9092 --topic mytopic --from-beginning ,测试consumer,确定可以收到消息。
    至此确定不是kafka服务的问题。
  6. 回头排查代码,发现在new consumer的时候指定了group,由于同一个topic只能被同一个消费者组内的一个consumer消费,如果该代码在别的地方部署了,我再进行部署的时候,我将消费不到数据。
  7. 通过查询消费者组信息验证
    ./bin/kafka-consumer-groups.sh --bootstrap-server myip:9092 --list
    ./bin/kafka-consumer-groups.sh --bootstrap-server myip:9092 --group mygroup --describe

遗留的问题:

  • 如果指定group将会导致代码不能重复部署
  • 如果不指定group,每次都从开始进行消费会导致重复消费
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值