前提
Kafka 运行一段时间后,容易出现节点挂掉的情况。排查原因是:存在多个由zookeeper命令创建的消费组,里面消息没有进行消费,导致数据积压,从而导致kafka 节点挂掉。
导致原因
./kafka-console-consumer.sh --zookeeper localhost:2181 -topic WEBSOCKET.Q 这个命令 会自动创建消费者组即:console-consumer-xxxxx
执行完上面 命令后,ctrl+C 退出掉,那么该消费组不会存在。如果直接关掉连接工具,会导致消费组一直存在。
如果 用命令检查:先到 kafka 的安装目录下,cd /opt/kafka/kafka_2.12-0.10.2.1/bin
执行命令:./kafka-consumer-groups.sh --list --zookeeper IP:2181
即可以看到 console-consumer-xxxxx
解决办法
删除 消费组 console-consumer-xxxxx。
到zookeeper 的安装 bin 目录: cd /opt/zookeeper/zookeeper-3.4.9/bin/
执行命令: ./zkCli.sh
rmr /consumers/console-consumer-xxxx