准备工作
这里只是介绍了kafka的集群安装,但是我是配合zookeeper集群一起的。相当于就是kafka+zookeeper的集群搭建。
关于zookeeper集群点击此处
关于kafka单机安装点击此处
搭建三台机器的kafka集群,机器的ip地址分别为:192.168.223.130、192.168.223.130、192.168.223.130。
确保这三台机器 kafka 的单机版已经安装好了,并且版本保持一致。
1.首先修改本地hosts文件,后面配置都用hostname代替ip地址,这样更改更加灵活。
vim /etc/hosts
192.168.223.129 kafka_zk001
192.168.223.130 kafka_zk002
192.168.223.131 kafka_zk003
修改配置文件 server.properties
- 主机 kafka_zk001 所在的server.properties,修改以下几个参数:
broker.id=0
listeners=PLAINTEXT://kafka_zk001:9092
zookeeper.connect=kafka_zk001:2181,kafka_zk002:2181,kafka_zk003:2181
- 主机 kafka_zk002 所在的server.properties,修改以下几个参数:
broker.id=1
listeners=PLAINTEXT://kafka_zk002:9092
zookeeper.connect=kafka_zk001:2181,kafka_zk002:2181,kafka_zk003:2181
- 主机 kafka_zk003 所在的server.properties,修改以下几个参数:
broker.id=2
listeners=PLAINTEXT://kafka_zk003:9092
zookeeper.connect=kafka_zk001:2181,kafka_zk002:2181,kafka_zk003:2181
通过zookeeper客户端连接,可以发现三个节点都注册进来了。到此,kafka+zookeeper集群搭建完成。
集群测试
创建topic:fut_jq03
bin/kafka-topics.sh --create --zookeeper kafka_zk001:2181,kafka_zk002:2181,kafka_zk003:2181 --replication-factor 1 --partitions 1 --topic fut_jq03
在kafka_zk001机器上开启生产者:
bin/kafka-console-producer.sh --broker-list kafka_zk001:9092 --topic fut_jq03
不断的发送消息:
>d
>sd
>123
>456
>789
>sss
>wqq
>q
>qqqweew
>wewwewe
>
在kafka_zk002机器上开启消费者:
bin/kafka-console-consumer.sh --bootstrap-server kafka_zk002:9092 --topic fut_jq03 --from-beginning
能够消费到kafka_zk001机器上生产者发送的消息:
>d
>sd
>123
>456
>789
>sss
>wqq
>q
>qqqweew
>wewwewe
>