kafka集群中的controller、rebalance、HW

1.controller

问:集群中谁来充当controller?
答:每个broker启动时会向zk创建⼀个临时序号节点,获得的序号最⼩的那个broker将会作为集群中的controller,负责这么⼏件事:
      1)当集群中有⼀个副本的leader挂掉,需要在集群中选举出⼀个新的leader,选举的规则是从isr集合中最左边获得。
      2)当集群中有broker新增或减少,controller会同步信息给其他broker。
      3)当集群中有分区新增或减少,controller会同步信息给其他broker。
在这里插入图片描述

2.rebalance机制

前提:消费组中的消费者没有指明分区来消费
触发的条件:当消费组中的消费者和分区的关系发⽣变化的时候
分区分配的策略:在rebalance之前,分区怎么分配会有这么三种策略:
          1)range:根据公式计算得到每个消费者消费哪⼏个分区:前⾯的消费者是分区总数/消费者数量+1, 之后的消费者是分区总数/消费者数量
          2)轮询: ⼤家轮着来
          3)sticky:粘合策略,如果需要rebalance,会在之前已分配的基础上调整,不会改变之前的分配情况。如果这个策略没有开,那么就要进⾏全部的重新分配。建议开启。

3.HW和LEO

LEO:是某个副本最后消息的消息位置(log-end-offset)
HW:是已完成同步的位置。

          消息在写⼊broker时,且每个broker完成这条消息的同步后,hw才会变化。

          在这之前消费者是消费不到这条消息的。

          在同步完成之后,HW更新之后,消费者才能消费到这条消息,

         这样的⽬的是防⽌消息的丢失。
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值