配置注意点
kafka 默认分区为1个,如果更改配置文件的分区数,以后默认创建分区的数据就是更改的分区数。分区数一般根据处理器个数来设置(主要是提高并发处理)+
Kafka-命令行操作
1)查看当前服务器中的所有topic
bin/kafka-topics.sh --zookeeper linux102:2181 --list
2)创建topic
bin/kafka-topics.sh \
--zookeeper linux102:2181 --create --replication-factor 3 --partitions 1 --topic first
选项说明:
--topic 定义topic名
--replication-factor 定义副本数
--partitions 定义分区数
3)删除topic
bin/kafka-topics.sh --zookeeper linux102:2181 --delete --topic first
需要server.properties中设置delete.topic.enable=true否则只是标记删除。
4)发送消息
bin/kafka-console-producer.sh --broker-list linux102:9092 --topic first
>hello world
>hadoop hadoop
5)消费消息
bin/kafka-console-consumer.sh \
--bootstrap-server hadoop102:9092 --from-beginning --topic first
bin/kafka-console-consumer.sh
--bootstrap-server linux102:9092 --from-beginning --topic first
--from-beginning:会把主题中以往所有的数据都读取出来。
6)查看某个Topic的详情
bin/kafka-topics.sh --zookeeper linux102:2181 --describe --topic first
7)修改分区数
bin/kafka-topics.sh --zookeeper linux102:2181 --alter --topic first --partitions 6
8)查看topic的偏移量offset
./bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list linux102:9092 --topic first