kafka 测试

本文详细介绍了Kafka集群的安装部署步骤,包括修改server.properties配置、启动服务和监控日志。同时,讨论了Kafka如何利用Zookeeper进行Broker管理及生产者负载均衡,并提供了Java客户端发送消息的示例代码。
摘要由CSDN通过智能技术生成

kafka 测试

./bin/kafka-server-start.sh -daemon  config/server.properties   
./bin/kafka-topics.sh --list --zookeeper localhost:2181  
kafka启动(需要先启动zk)下面是查看主题  
./bin/kafka-topics.sh --list --zookeeper localhost:2181   
./bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic cad_convert #删除主题  
修改主题
kafka-topics.sh --alter --zookeeper localhost:2181 --topic hello --config flush.messages=1  
#增加分区  分区对于 Kafka 集群的好处是:实现负载均衡。分区对于消费者来说,可以提高并发度,提高效率。
bin/kafka-topics.sh --alter --zookeeper localhost:2181 --topic cad_convert --partitions 2  


 kafka could not be established. Broker may not be available.  日志是kafka 服务端有问题

安装kafka(集群部署)
1,下载kafka安装包:
http://kafka.apache.org/downloads
2,每台服务器放入安装包,解压
3,cd /config目录下修改server.properties
修改每台服务器server.properties中的:
broker.id=整数,每台不同
listeners=PLAINTEXT://192.168.145.136(当前服务器的ip):9092
zookeeper.connect=192.168.145.139:2181,192.168.145.140:2181:192.168.145.143:2181(zookeeper的集群地址)
4,启动zookeeper集群和每台服务器的kafka服务
启动kafka:sh kafka-server-start.sh -daemon …/config/server.properties
5,到logs目录下查看server.log日志的输出
tail -100f server.log
6,停止kafka服务:
sh kafka-server-stop

(3)zookeeper上注册的节点信息
cluster, controller, controller_epoch, brokers,admin, isr_change_notification, consumers, latest_producer_id_block, config

controller – 控制节点
brokers – kafka集群的broker信息 。 topic
consumer ids/owners/offsets

如何集群/原理:
1.在Kafka的设计中,选择了使用Zookeeper来进行所有Broker的管理,体现在zookeeper上会有一个专门用来进行Broker服务器列表记录的点,节点路径为/brokers/ids
每个Broker服务器在启动时,都会到Zookeeper上进行注册,即创建/brokers/ids/[0-N]的节点,然后写入IP,端口等信息,Broker创建的是临时节点,所有一旦Broker上线或者下线,对应Broker节点也就被删除了,因此我们可以通过zookeeper上Broker节点的变化来动态表征Broker服务器的可用性,Kafka的Topic也类似于这种方式。
2.生产者负载均衡
生产者需要将消息合理的发送到分布式Broker上,这就面临如何进行生产者负载均衡问题。
对于生产者的负载均衡,Kafka支持传统的4层负载均衡,zookeeper同时也支持zookeeper方式来实现负载均衡。

使用zookeeper进行负载均衡
很简单,生产者通过监听zookeeper上Broker节点感知Broker,Topic的状态,变更,来实现动态负载均衡机制,当然这个机制Kafka已经结合zookeeper实现了。

在这里插入图片描述
如上图所示,一个典型的 Kafka 体系架构包括若干 Producer(消息生产者),若干 broker(作为 Kafka 节点的服务器),若干 Consumer(Group),以及一个 ZooKeeper 集群。Kafka通过 ZooKeeper 管理集群配置、选举 Leader 以及在 consumer group 发生变化时进行 Rebalance(即消费者负载均衡,在下一课介绍࿰

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

java_leaf

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值