问题可能的原因及解决
一、大数据zookeeper与kafka存在问题
二、 大数据topic主题异常
- 可能原因:可能是大数据IRS中没有活的副本,导致无法选举leader所致。需要查看之前是否重建过topic主题,是否存在没有将主题删除干净的情况。
- 建议重建所有用到的topic主题,并重启kafka与zookeeper,启动ZK与kafka时需要先启动zookeeper。
1.查询已存在topic列表
没有将kafka相关命令加入环境变量则需要在先找到kafka-topics.sh所在目录,再执行下面步骤:
sh kafka-topics.sh --list --zookeeper任意一台zookeeper主机名:2181/kafka
2.删除topic
2.1初步删除(初步删除的topic会被标记为 - marked for deletion):
没有将kafka相关命令加入环境变量则需要在先找到kafka-topics.sh所在目录,再执行下面步骤:
sh kafka-topics.sh --delete --zookeeper 任意一台zookeeper主机名:2181/kafka --topic topic名称
2.2彻底删除(对于被标记为- marked for deletion的主题,还需要在ZK中删除):
没有将ZK相关命令加入环境变量则需要在先找到zkCli.sh所在目录,再执行下面步骤:
登录zk后台, sh zkCli.sh -server 任意一台zookeeper主机名:2181/kafka
rmr /kafka/brokers/topics/topic名称 (具体路径登录zk后台后ls查看,可能是/brokers/topics/topic名称)
rmr /kafka/admin/delete_topics/topic名称 (具体路径登录zk后台后ls查看)
3.新建topic
sh kafka-topics.sh --create --zookeeper 任意一台zookeeper主机名:2181/kafka --replication-factor 备份数(一般为kafka节点数) --partitions 分区数 --topic topic名称