Kafka - Rebalance过程

1.kafka的rebalance条件

条件1:有新的consumer加入
条件2:旧的consumer挂了
条件3:coordinator挂了,集群选举出新的coordinator(0.10 特有的)
条件4:topic的partition新加
条件5:consumer调用unsubscrible(),取消topic的订阅

当一个group中,有consumer加入或者离开时,会触发partitions均衡,均衡的最终目的,
是提升topic的并发消费能力。

1.Coordinator介绍

Coordinator简单的总结一下就是负责协调组内partition分配,以及Group的管理,
每个Broker上都有一个GroupCoordinator的实例

负载均衡的过程涉及以下的几个概念:

group member:一个消费组类的成员
group leader:一个消费组的leader,负责分配partition
coodinator:协调者

涉及以下几个请求:
GroupCoordinatorRequest(GCR)
JoinGroupRequest(JGR)
SyncGroupRequest(SGR)

2.主要流程

2.1 发送GCR请求寻找Coordinator:
这个过程主要会向集群中负载最小的broker发起请求,等待成功返回后,那么该Broker将作为 Coordinator,尝试连接该Coordinator
2.2 发送JGR请求加入该组:
当成功找到Coordinator后,那么就要发起加入group的请求,表示该consumer是该组的成员,Coordinator会接收到该请求,会给集群分配一个Leader(通常是第一个),让其负责partition的分配
2.3 发送SGR请求:
JGR请求成功后,如果发现当前Consumer是leader,那么会进行partition的分配,并发起SGR请求将分配结果发送给Coordinator;如果不是leader,那么也会发起SGR请求,不过分配结果为空
流程图如下:
在这里插入图片描述
链接:https://www.jianshu.com/p/296c28d0bb61

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值