kafka集群原理设计(四)之 Controller 选举和 Partition 分配

kafka集群原理设计(四)之 Controller 选举和 Partition 分配

Kafka 集群中的 Controller 选举和 Partition 分配涉及 ZooKeeper 和 Kafka 两部分的协作。
ZooKeeper 负责协调和维护元数据,而 Kafka 负责具体的实现和业务逻辑。下面详细介绍启动过程
中的关键步骤,包括 ZooKeeper 如何触发 Controller 节点的创建,以及 Controller 如何实现
Partition 分配。

1. 启动过程和 Controller 选举

ZooKeeper 启动

当 ZooKeeper 启动时,每个 Kafka Broker 会连接到 ZooKeeper 并注册自身的信息。ZooKeeper
负责监控这些 Broker 的状态,并在 Controller 选举过程中起关键作用。

Kafka Broker 启动并注册

每个 Kafka Broker 启动时,会向 ZooKeeper 注册自身信息,并尝试创建 /controller 节点。

2. Controller 选举

创建 /controller 节点

在 Kafka 中,Controller 选举通过创建 ZooKeeper 的 /controller 节点实现。以下是 Kafka
源码中的关键部分:

// ControllerElection.scala
class ControllerElection(zooKeeperClient: KafkaZkClient) {
   
  def elect: Int = {
   
    val currentControllerId = getControllerId()
    if (currentControllerId == -1) {
   
      val newControllerId = electController()
      if (newControllerId != -1) {
   
        info(s"Successfully elected controller $newControllerId")
        newControllerId
      } else {
   
        error("Failed to elect controller")
        -1
      }
    } 
  • 9
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值