linux kafka 环境搭建,zookeeper + kafka 集群安装部署教程(linux环境下)

本教程详细介绍了如何在四台服务器上搭建Kafka集群,包括Zookeeper的下载安装、配置启动,以及Kafka的下载、配置和启动。重点讲述了Zookeeper与Kafka的集成,集群配置中的broker.id、listeners和zookeeper.connect参数设置。最后,演示了创建topic、运行生产者和消费者的过程,确保集群正常工作。
摘要由CSDN通过智能技术生成

说明:教程使用4台服务器,1台用作zookeeper,3台用kafka

必备条件:jdk

kafka自带zookeeper 也可以使用kafka内置的zookeeper

一、zookeeper下载安装

9989f60e0a2f53f17fdb2c4380afb537.png

进入目录下载

43c6ce1122be4f31325b92561c174484.png

2、下载好放到一台zookeeper服务器上面解压

tar zxvf apache-zookeeper-3.5.7-bin.tar.gz -C ./

711bcba895444a9ec28a38b6ae599fed.png

3、进入conf目录下,复制zoo_sample.cfg文件,名字为zoo.cfg (不然启动找不到该文件)

cd ./apache-zookeeper-3.5.7-bin/conf

cp zoo_sample.cfg ./zoo.cfg

4、启动服务

#启动

sh zkServer.sh start

#查看启动状态

sh ./zkServer.sh status

启动成功

cea15b8aa0f96aef0eab5897e18b06d8.png

921b59ab73c1cc5c2ad992991cc4edd1.png

二、kafka下载安装

591e89459dcf76ed67fad53b86d0dff2.png

f04bc27b676756e3f934190d77047908.png

2、下载好放到kafka服务器上面解压

tar zxvf kafka_2.12-2.3.0.tgz -C ./

90a1d0467a605283f7fabec649abe205.png

3、在config目录下配置集群

vi server.properties

1、把broker.id改0,1,2 三台机器不一样

broker.id=0

40a6de0ad57cdf8880f37167dc003332.png

2、把listeners生效,并加上本机ip

listeners=PLAINTEXT://本机ip:9092

50882a8525da7eb8ec34178e304d0b87.png

3、指定zookeeper连接地址,改为zookeeper服务器地址

zookeeper.connect=192.168.88.137:2181

aaa869b5f328c02713b48c9c31d526ba.png

4、启动kafka,三台机器启动

sh kafka-server-start.sh -daemon ../config/server.properties

#查看zookeeper

ps -ef|grep zookeeper

d0b1c00611d19f28db75cdc670f47ebf.png

可以看kafka日志文件是否有报错

80bae44d39e9fc5dfb51027b2cf5feac.png

启动完成后,查看zookeeper集群连接情况

1.进入zookeeper的bin目录下执行

sh zkCil.sh

#查看 执行

ls /

#查看连接情况

ls /brokers/ids

88bf27f263f85bcd632d6c92e86a4ac2.png

5、任意一台机器  新建topic

sh kafka-topics.sh --create --zookeeper 192.168.88.137:2181 --replication-factor 1 --partitions 1 --topic test

#说明

#192.168.88.137:2181 ###这是zookeeper服务ip+端口号

#test ###这是topic

a468396a050f4d2b2b11a7f3e3bdfe2e.png

6、使用任意一台kafka服务器做生产者

sh kafka-console-producer.sh --broker-list 192.168.88.132:9092 --topic test

f282e936fc3369d1c120d33ceed23b14.png

7、使用三台kafka消费

./kafka-console-consumer.sh --bootstrap-server 192.168.88.132:9092 --topic test --from-beginning

5d8d3cd344a55ddc3e752f8f18b4fa85.png

动态图如下:

15e535466521810a49c082ce8f614155.png

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值