记录一次kafka topic 消费不到数据问题排查

如果数量小于既定kafka broker数说明kafka挂了,需要重启kafka

kafka.1.server status #检查 kafka.1.server start #启动

如果无上述命令,执行 history|grep kafka , 查看kafka相关启动命令

如果执行命令无法启动kafka,极有可能是内存不足或者磁盘不足

内存不足

执行top命令,看哪个应用占的比较多,能干掉的先干掉

如果磁盘不足

执行df -h ,看是哪个文件过大导致,清理出多余的磁盘空间

检查topic

1、进入test,cd /usr /local/kafka/1/bin
2、命令行1 消费数据判定 ,检查kafka topic是否正常,注意 broker地址和topic替换成你需要确认的kafka地址和topic名字

sh kafka-console-consumer.sh --bootstrap-server 100.30.200.155:15366 --topic DC_REACH_DESTINATION_EVENT_NOTIFY --new-consumer

查看是否有消息进来

3、命令2 ,执行消费, 模拟kafka数据发送,注意 broker地址和topic替换成你需要确认的kafka地址和topic名字 

sh kafka-console-producer.sh --broker-list 100.30.200.155:15366 --topic DC_REACH_DESTINATION_EVENT_NOTIFY

命令行2,输入消息具体消息

[operadmin@test bin]$ sh kafka-console-producer.sh --broker-list 100.30.200.155:15366 --topic DC_REACH_DESTINATION_EVENT_NOTIFY {"msg":"123"}

如果命令行1正常收到以下消息,说明kafka及topic正常,检查应用情况

{"msg":"123"}

3、执行以下命令,判定是否消息被同一个组的其他消费者消费

sh /usr/local/kafka/1/bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 100.30.200.155:15366  --group notify-group

[operadmin@test34 bin]$ sh /usr/local/kafka/1/bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 100.30.200.155:15366  --group notify-group --describe GROUP                          TOPIC                          PARTITION  CURRENT-OFFSET  LOG-END-OFFSET  LAG             OWNER notify-group                   NOTIFY_VOICE                   0          1582            1582            0               consumer-2_/100.260.250.190 notify-group                   NOTIFY_PUSH                    0          16319           16319           0               consumer-2_/100.260.250.190 notify-group                   EMAIL_TOPIC                    0          0               0               0               consumer-2_/100.260.250.190

判定是否10.26.250.190上部署的服务是否正确

以及该机器上是否部署了多次应用