kafka精准消费问题的多种解决办法对比

方式一、在kafka0.11版本以前,还没引入幂等性就是,这种方式解决重复消费的问题的。
设置acks=-1,kafka集群发生故障导致kafka的数据重复,在下游消费者消费数据的时候去重解决重复消费问题,这种方法的缺点是如果下游有很多消费者,那么要多次对数据进行去重,很麻烦。

方式二、利用 at least once + 幂等性 = exectly once
需要将producer的一个参数enable.idompotence设置为true即可。producer在初始化的时候会分配一个pid,发送的消息会附带一个sequence number,broker端会对<pid,partition,seqNumber>进行缓存,如果有多个<pid,partition,seqNumber>,broker只会持久化其中的一条数据。
缺点:这种方式只能解决单次会话单个分区的exectly once问题。

方法三、利用producer事务,保存一个全局唯一的transactionID,通过transactionID就可以找到之前挂掉的producerID。可以实现跨分区和跨会话。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值