如何防止RocketMQ重复消费

什么样的情况下会出现消息重复消费?

在互联网应用中,尤其在网络不稳定的情况下,消息队列 RocketMQ 的消息有可能会出现重复,在一些比较敏感的场景下,重复消费会造成比较严重的后果,例如重复转账,重复支付。
这个重复简单可以概括为以下情况:
  1. 发送消息时重复
    当一条消息已被成功发送到服务端并完成持久化,此时出现了网络闪断或者客户端宕机,导
    致服务端对客户端应答失败。 如果此时生产者意识到消息发送失败并尝试再次发送消息,
    消费者后续会收到两条内容相同并且 Message ID 也相同的消息。                                                              
  2.  投递消息时重复
    在消息消费的场景下,消息已投递到消费者并完成业务处理,当客户端给服务端反馈应答的时
    候网络闪断。 为了保证消息至少被消费一次,消息队列 RocketMQ 的服务端将在网络恢复后
    再次尝试投递之前已被处理过的消息,消费者后续会收到两条内容相同并且 Message ID 也相
    同的消息。

     

  3. 负载均衡时消息重复(包括但不限于网络抖动、Broker 重启以及订阅方应用重启)。 当消息队列 RocketMQ Broker 或客户端重启、扩容或缩容时,会触发 Rebalance,此时消 费者可能会收到重复消息。
解决方案:
        
  • 利用数据库有条件的插入语句限制重复插入
  • 查询消息系统验证消息是否重复。在消费时,通过订阅的记录和消费的结果来判断,此消息是否重复订阅过,倘若重复订阅,则不再数据库中插入数据。
  • 分布式锁(一般是zookeeper和redis搭建)​​​​​​​
  • 数据库约束+java异常处理机制。需要针对数据库简历约束,不允许产生重复数据,然后再使用java的异常处理机制来规避重复消息
  • 0
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值