Kafka Leader和Follower故障处理细节

当Follower或Leader在Kafka中发生故障时,系统有一套详细的恢复流程。对于Follower故障,它会被暂时移出ISR,待恢复后从HW开始同步数据,直至LEO大于等于HW再重新加入ISR。而对于Leader故障,ISR中的其他副本会截取高于HW的数据,从新Leader同步,确保副本间数据一致。此过程仅保证副本一致性,不确保数据不丢失或不重复。
摘要由CSDN通过智能技术生成

Leader和Follower故障处理细节

  • LEO(Log End Offset):每个副本的最后一个offset,LEO其实就是最新的offset+1
  • HW(High Watermart):所有副本中最小的LEO

一、Follower故障

  1. Follower发生故障后悔被临时踢出ISR
  2. 这个期间Leader和Follower继续接收数据
  3. 待该Follower恢复后,Follower会读取本地磁盘记录的上次的HW,并将log文件高于HW的部分截取掉,从HW开始向Leader进行同步
  4. 等该Follower的LEO大于等于该Partition的HW,即Follower追上Leader之后,就可以重新加入ISR了

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-xqdnLZOk-1655882170546)(C:\Users\14116\Desktop\Kafka\20.Kafka副本Leader和Follower故障处理细节.assets\image-20220606111206035.png)]

二、Leader发生故障

  1. Leader发生故障之后,会从ISR中选出一个新的Leader
  2. 为保证多个副本之间的数据一致性,其余的Follower会先将各自的log文件高于HW的部分截掉,然后从新的Leader同步数据
  3. 注意:只能保证副本之间的数据一致性,并不能保证数据不丢失或者不重复

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值