kafka命令大全

整理kafka相关的常用命令

管理

## 创建主题(4个分区,2个副本)
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 2 --partitions 4 --topic test

查询

## 查询集群描述
bin/kafka-topics.sh --describe --zookeeper 

## 新消费者列表查询(支持0.9版本+)
bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --list

## 显示某个消费组的消费详情(仅支持offset存储在zookeeper上的)
bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zkconnect localhost:2181 --group test

## 显示某个消费组的消费详情(支持0.9版本+)
bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --describe --group test-consumer-group

发送和消费

## 生产者
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

## 消费者
bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test

## 新生产者(支持0.9版本+)
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test --producer.config config/producer.properties

## 新消费者(支持0.9版本+)
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --new-consumer --from-beginning --consumer.config config/consumer.properties

## 高级点的用法
bin/kafka-simple-consumer-shell.sh --brist localhost:9092 --topic test --partition 0 --offset 1234  --max-messages 10

平衡leader

bin/kafka-preferred-replica-election.sh --zookeeper zk_host:port/chroot

kafka自带压测命令

bin/kafka-producer-perf-test.sh --topic test --num-records 100 --record-size 1 --throughput 100  --producer-props bootstrap.servers=localhost:9092
  • 0
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 以下是一些常用的 Linux Kafka 命令: 1. 启动 Kafka: ``` bin/kafka-server-start.sh config/server.properties ``` 2. 创建主题: ``` bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic my_topic ``` 3. 查看主题列表: ``` bin/kafka-topics.sh --list --zookeeper localhost:2181 ``` 4. 生产者发送消息: ``` bin/kafka-console-producer.sh --broker-list localhost:9092 --topic my_topic ``` 5. 消费者消费消息: ``` bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic my_topic --from-beginning ``` 6. 查看主题详情: ``` bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic my_topic ``` 以上是一些常用的 Kafka 命令,你可以根据实际需求进行相应的使用。 ### 回答2: Kafka是一个分布式流处理平台,广泛用于构建高性能、可扩展的实时数据管道。下面是一些常见的Linux Kafka命令: 1. 启动Kafka服务器:使用命令`bin/kafka-server-start.sh config/server.properties`来启动Kafka服务器。在启动之前,你可能需要先配置好服务器属性。 2. 创建一个主题:使用命令`bin/kafka-topics.sh --create --topic <topic-name> --bootstrap-server <bootstrap-server> --partitions <num-partitions> --replication-factor <replication-factor>`来创建一个新的主题。在命令中,你需要指定主题的名称、分区数和复制因子。 3. 查看主题列表:使用命令`bin/kafka-topics.sh --list --bootstrap-server <bootstrap-server>`来查看当前Kafka服务器中的所有主题。 4. 查看主题详情:使用命令`bin/kafka-topics.sh --describe --topic <topic-name> --bootstrap-server <bootstrap-server>`来查看特定主题的详细信息,包括它的分区、领导者等信息。 5. 创建一个生产者:使用命令`bin/kafka-console-producer.sh --broker-list <broker-list> --topic <topic-name>`来创建一个简单的控制台生产者,用于向指定主题发送消息。 6. 创建一个消费者:使用命令`bin/kafka-console-consumer.sh --bootstrap-server <bootstrap-server> --topic <topic-name> --from-beginning`来创建一个简单的控制台消费者,用于从指定主题接收消息。 这些只是一些常见的Kafka命令,Kafka还有很多其他功能和命令供使用。你可以通过查阅官方文档或者在命令行中输入`bin/kafka-topics.sh`来获取更多详细的命令和选项。 ### 回答3: Kafka是一个开源的分布式流媒体平台,用于构建高性能、可扩展的实时数据流应用程序。Kafka提供了一组命令行工具,用于管理和操作Kafka集群。下面是一些常用的Kafka命令及其说明: 1. kafka-topics.sh:用于创建、查看和操作主题(topics)。可以使用该命令创建新的主题、查看现有主题的详细信息,并执行其他与主题相关的操作。例如,创建一个新的主题可以使用以下命令: kafka-topics.sh --bootstrap-server <kafka服务器地址> --create --topic <主题名称> --partitions <分区数> --replication-factor <复制因子> 2. kafka-console-producer.sh:用于从命令行中发送消息到Kafka主题中。可以使用该命令将指定的消息发送到指定的主题中。例如,发送一条消息可以使用以下命令: kafka-console-producer.sh --bootstrap-server <kafka服务器地址> --topic <主题名称> 3. kafka-console-consumer.sh:用于从Kafka主题中消费消息,并将其打印到命令行中。可以使用该命令订阅指定的主题,并消费该主题中的消息。例如,消费主题中的消息可以使用以下命令: kafka-console-consumer.sh --bootstrap-server <kafka服务器地址> --topic <主题名称> --from-beginning 4. kafka-configs.sh:用于管理Kafka集群的配置。可以使用该命令查看和更新Kafka配置的详细信息,例如,查看或更新集群的最大存储容量、最大连接数等。例如,查看集群的配置可以使用以下命令: kafka-configs.sh --bootstrap-server <kafka服务器地址> --describe --entity-type brokers --entity-name <broker-id> 5. kafka-consumer-groups.sh:用于管理和监控Kafka消费者组。可以使用该命令查看消费者组的详细信息,例如,消费者组的偏移量、消费者组的成员等。例如,查看消费者组的信息可以使用以下命令: kafka-consumer-groups.sh --bootstrap-server <kafka服务器地址> --group <消费者组名称> --describe 这些命令是Kafka提供的主要工具,通过这些命令可以对Kafka集群中的主题、消息、配置和消费者组进行管理和操作,从而实现高效的数据流处理和分析。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值