下载Kafka
解压并配置Kafka
将kafka_2.11-2.1.0.tgz解压到D:\kafka_2.11-2.1.0文件夹。(注:文件夹不能带空格,否则zookeeper启动报错)
http://kafka.apache.org/downloads.html
下载二进制文件 https://www.apache.org/dyn/closer.cgi?path=/kafka/2.5.1/kafka_2.13-2.5.1.tgz 解压
-
bin目录:启动,停止等命令。
-
config目录: 配置文件
-
libs目录: 类库
启动和停止kafka
4.1 配置
4.1.1 zookeeper.properties
-
#dataDir与dataLogDir需要指定一个目录(需要创建D:/zookeeper/data与D:/zookeeper/log目录),否则启动kafka会报java.nio.file.AccessDeniedException错误。
-
dataDir=D:/zookeeper/data
-
dataLogDir=D:/zookeeper/log
-
clientPort=2181
-
maxClientCnxns=0
4.2 启动kafka
进入bin\windows目录下,按先后顺序启动
-
启动zookeeper,端口2181
-
zookeeper-server-start.bat ../../config/zookeeper.properties
-
启动kafka,端口9092
-
kafka-server-start.bat ../../config/server.properties
-
Kafka Connect 启动:(此处不需要,用于连接数据库)
-
connect-standalone.bat ../../config/connect-standalone.properties ../../config/mysql.properties
停止kafka
进入bin\windows目录下,按先后顺序执行
-
kafka-server-stop.bat
-
zookeeper-server-stop.bat
4.4 topic创建
进入bin\windows目录下
-
方法一:自动创建
-
kafka-console-producer.bat --broker-list 127.0.0.1:9092 --topic test
-
方法二:
-
创建一个拥有3个副本,1个分区的topic
-
kafka-topics.bat --create --zookeeper 127.0.0.1:2181 --replication-factor 1 -partitions 3 --topic test1
topic删除
进入bin\windows目录下
kafka-topics.bat --delete --zookeeper 127.0.0.1:2181 --topic test
查看topic
进入bin\windows目录下
-
#查看topic列表
-
kafka-topics.bat --zookeeper 127.0.0.1:2181 --list
-
#查看topic名称为test对应的具体信息
-
kafka-topics.bat --describe --zookeeper 127.0.0.1:2181 --topic test
启动生产者
kafka-console-producer.bat --broker-list 127.0.0.1:9092 --topic test
启动消费者
kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 --topic test --from-beginning
5 可视化工具kafka-manager
下载地址:
-
https://github.com/yahoo/kafka-manager/releases 需要编译
-
编译后:https://pan.baidu.com/s/1qYifoa4 密码:el4o(来源https://www.cnblogs.com/dadonggg/p/8205302.html)
配置conf/application.conf文件
manager.zkhosts="127.0.0.1:2181"
启动: 启动前需要启动zookeeper与kafka
-
进入bin目录,默认端口9000
-
输入命令:kafka-manager
CMD命令行 输入行太长 命令语法不正确 Windows CMD 问题解决
最后查到了微软的官方文档:
https://support.microsoft.com/zh-cn/help/830473/command-prompt-cmd-exe-command-line-string-limitation
- 使用较短的文件夹和文件的名称
- 减少文件夹树的深度
这时我反应过来,我的目录深度很大,干脆把kafka-manager目录移到了最简单的D盘
成功后访问地址:localhost:9000
创建主题test,关联上面zookeeper 127.0.0.1:2181
点击active下新建的主题
点击圈中topitcs对应数字。
topitcs列表详情