聊聊Kafka(七)Kafka的broker选举与可靠性

本文详细介绍了Kafka的控制器角色及其在broker选举中的作用,利用Zookeeper的分布式锁实现控制器选举,防止“脑裂”。同时,讨论了Kafka如何确保分区的可靠性,包括副本分配、失效副本的判定及副本复制策略,强调了acks=all的重要性。
摘要由CSDN通过智能技术生成

控制器

Kafka集群包含若干个broker,broker.id指定broker的编号,编号不要重复。
Kafka集群上创建的主题,包含若干个分区。
每个分区包含若干个副本,副本因子包括了Follower副本和Leader副本。
副本又分为ISR(同步副本分区)和OSR(非同步副本分区)。
在这里插入图片描述
控制器就是一个broker。
控制器除了一般broker的功能,还负责Leader分区的选举。

broker选举

集群里第一个启动的broker在Zookeeper中创建临时节点 /controller 。

其他broker在该控制器节点创建Zookeeper watch对象,使用Zookeeper的监听机制接收该节点的变更。
即:Kafka通过Zookeeper的分布式锁特性选举集群控制器。

下图中,节点 /myKafka/controller 是一个zookeeper临时节点,其中 “brokerid”:0 ,表示当前控制器是broker.id为0的broker。
在这里插入图片描述
每个新选出的控制器通过 Zookeeper 的条件递增操作获得一个全新的、数值更大的 controller epoch。其他 broker 在知道当前 controller epoch 后,如果收到由控制器发出的包含较旧epoch 的消息,就会忽略它们,以防止**“脑裂”**。

比如当一个Leader副本分区所在的broker宕机,需要选举新的Leader副本分区,有可能两个具有不同纪元数字的控制器都选举了新的Leader副本分区,如果选举出来的Leader副本分区不一样,听谁的?

脑裂了。有了纪元数字,直接使用纪元数字最新的控制器结果。
在这里插入图片描述
当控制器发现一个 broker 已经离开集群,那些失去Leader副本分区的Follower分区需要一个新Leader&#x

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值