kafka幂等性

生产者重复生产消息问题:
kafka生产者生产消息到到partition,如果直接发送消息,kafka会将消息保存到分区中,但kafka会返回一个ack给生产者,表示当前操作是否成功,是否已经保存了这条消息。如果ACK响应的过程失败了,此时生产者会重试,继续发送成功的消息,假如没有开启幂等性,则kafka又会保存一条一模一样的消息。
在kafka中可以开启幂等性:props.put(“enable.idempotence”,true)
当kafka的生产者生产消息时,会增加一个pid(生产者的唯一编号)和sequence number(针对消息的一个递增序列)发送消息,会连着pid和sequence number一块发送kafka接收到消息,会将消息和pid,sequence number一并保存下来。
如果ACK响应失败,生产者重试,再次发送消息时,kafka会根据pid和sequence number检查是否需要再保存一条消息,需要判断生产者发送过来的sequence number是否小于等于partition中对应的sequence,如果小于等于则不保存,大于则保存。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值