kafka_安装(集群模式)

本文档详细记录了在三台CentOS机器上安装Kafka集群的过程,包括配置文件修改、启动服务、检查Topic、创建多分区副本的Topic、进行消息生产和消费的测试。通过测试,验证了集群的高可用性,即使在单个节点宕机的情况下,消息消费仍能继续进行。
摘要由CSDN通过智能技术生成

前面在centos2上已装了kafka,现将安装包拷贝到centos3centos4/opt/kafka中。解压之。

修改centos3配置文件:config/server.properties

参数

默认值

参考数值

broker.id

0

1

port

9092

9093

log.dirs

/tmp/kafka-logs

/opt/kafka/kafka_2.12-1.0.0/logs

zookeeper.connect

localhost:2181

centos2:2181

 

修改centos4配置文件:config/server.properties

参数

默认值

参考数值

broker.id

0

2

port

9092

9094

log.dirs

/tmp/kafka-logs

/opt/kafka/kafka_2.12-1.0.0/logs

zookeeper.connect

localhost:2181

centos2:2181

各机器上启动kafka

bin/kafka-server-start.sh config/server.properties &

启动后先查看topic

bin/kafka-topics.sh --list --zookeeper centos2:2181

三台机器上都输出了:kafkademo(上面单机时创建的topic

 

创建topic:一个分区两个副本

bin/kafka-topics.sh --create --zookeeper centos2:2181 --replication-factor 2 --partitions 1 --topic kafkaClusterDemo

注:副本数要小于broker数,否则会报错:

ERROR org.apache.kafka.common.errors.InvalidReplicationFactorException: Replication factor: 3 larger than available brokers: 2.

 

生产消息:

centos2机器上创建一个生产者:

bin/kafka-console-producer.sh --broker-list centos2:9093 --topic kafkaClusterDemo

 

消费者:

centos3上创建一个消费者:

bin/kafka-console-consumer.sh --zookeeper centos2:2181 --topic kafkaClusterDemo --from-beginning

 

bin/kafka-topics.sh --describe --zookeeper centos2:2181

 

 

在生产者输入消息,在消费者上可以看到消息输出

Killcentos2上的kafka

 

再生产消息,在消费者界面依然可以收到消息,说明集群运行成功,则宕掉一台机器也OK

再停掉centos3上的kafka,消息消费者界面报错:

 

 

但是断续生产消息,消费者还能正常获取,说明集群还能正常工作。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值