大数据常用命令-Kafka

Kafka

启动集群

• 先启动 Zookeeper 集群，然后启动 Kafka

• 依次在各节点上启动 Kafka

  kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties
  

关闭集群

• 依次在各节点上关闭 Kafka

  kafka-server-stop.sh
  

• 待 kafka 关闭完成后，按需关闭 Zookeeper 集群

主题命令行操作

• 查看操作主题命令参数

  kafka-topics.sh
  

  参数	描述
  –bootstrap-server <String: server toconnect to>	连接的Kafka Broker主机名称和端口号。
  –topic <String: topic>	操作的topic名称。
  –create	创建主题。
  –delete	删除主题。
  –alter	修改主题。
  –list	查看所有主题。
  –describe	查看主题详细描述。
  –partitions <Integer: # of partitions>	设置分区数。
  –replication-factor<Integer: replication factor>	设置分区副本。
  –config <String: name=value>	更新系统默认的配置。

• 查看当前服务器中的多有 topic

  kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --list
  

• 创建 topic

  kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --create --partitions $pnum --replication-factor $repnum --topic $topicname
  

  选项说明：

  –topic 定义topic名

  –replication-factor 定义副本数

  –partitions 定义分区数

• 查看主题的详情

  kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --describe --topic $topicname
  

• 修改分区数（注意：分区数只能增加，不能减少）

  kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --alter --topic $topicname --partitions $newpnum
  

• 删除 topic

  kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --delete --topic $topicname
  

生产者命令行操作

• 查看操作生产者命令参数

  kafka-console-producer.sh
  

  参数	描述
  –bootstrap-server <String: server toconnect to>	连接的Kafka Broker主机名称和端口号。
  –topic <String: topic>	操作的topic名称。

• 发送消息

  kafka-console-producer.sh --bootstrap-server $hostname/$ip:9092 --topic $topicname
  >
  >
  

消费者命令行操作

• 查看操作消费者命令参数

  kafka-console-consumer.sh
  

  参数	描述
  –bootstrap-server <String: server toconnect to>	连接的Kafka Broker主机名称和端口号。
  –topic <String: topic>	操作的topic名称。
  –from-beginning	从头开始消费。
  –group <String: consumer group id>	指定消费者组名称。

• 消费某一主题中的数据

  kafka-console-consumer.sh --bootstrap-server $hostname/$ip:9092 --topic $topicname
  

• 把主题中所有的数据都读取出来（包括历史数据）

  kafka-console-consumer.sh --bootstrap-server $hostname/$ip:9092 --from-beginning --topic $topicname