如何防止消息的重复消费_如何保证消息不被重复消费

一. 重复消息

为什么会出现消息重复?消息重复的原因有两个:1.生产时消息重复,2.消费时消息重复。

1.1 生产时消息重复

由于生产者发送消息给MQ,在MQ确认的时候出现了网络波动,生产者没有收到确认,实际上MQ已经接收到了消息。这时候生产者就会重新发送一遍这条消息。

生产者中如果消息未被确认,或确认失败,我们可以使用定时任务+(redis/db)来进行消息重试。

@Component@Slf4Jpublic class SendMessage {    @Autowired    private MessageService messageService;    @Autowired    private RabbitTemplate rabbitTemplate;    // 最大投递次数    private static final int MAX_TRY_COUNT = 3;    /**     * 每30s拉取投递失败的消息, 重新投递     */    @Scheduled(cron = "0/30 * * * * ?")    public void resend() {        log.info("开始执行定时任务(重新投递消息)");        List msgLogs = messageService.selectTimeoutMsg();        msgLogs.forEach(msgLog -> {            String msgId = msgLog.getMsgId();            if (msgLog.getTryCount() >= MAX_TRY_COUNT) {                messageService.updateStatus(msgId, Constant.MsgLogStatus.DELIVER_FAIL);                log.info("超过最大重试次数, 消息投递失败, msgId: {}", msgId);            } else {                messageService.updateTryCount(msgId, msgLog.getNextTryTime());// 投递次数+1                CorrelationData correlationData = new CorrelationData(msgId);                rabbitTemplate.convertAndSend(msgLog.getExchange(), msgLog.getRoutingKey(), MessageHelper.objToMsg(msgLog.getMsg()), correlationData);// 重新投递                log.info("第 " + (msgLog.getTryCount() + 1) + " 次重新投递消息");            }        });        log.info("定时任务执行结束(重新投递消息)");    }}

1.2 消费时消息重复

消费者消费成功后,再给MQ确认的时候出现了网络波动,MQ没有接收到确认,为了保证消息被消费,MQ就会继续给消费者投递之前的消息。这时候消费者就接收到了两条一样的消息。

修改消费者,模拟异常

@RabbitListener(queuesToDeclare = @Queue(value = "javatrip", durable = "true"))public void receive(String message, @Headers Map headers, Channel channel) throws Exception{    System.out.println("重试"+System.currentTimeMillis());    System.out.println(message);    int i = 1 / 0;}

配置yml重试策略

spring:  rabbitmq:    listener:      simple:        retry:          enabled: true # 开启消费者进行重试          max-attempts: 5 # 最大重试次数          initial-interval: 3000 # 重试时间间隔

由于重复消息是由于网络原因造成的,因此不可避免重复消息。但是我们需要保证消息的幂等性。

二. 如何保证消息幂等性

让每个消息携带一个全局的唯一ID,即可保证消息的幂等性,具体消费过程为:

  1. 消费者获取到消息后先根据id去查询redis/db是否存在该消息
  2. 如果不存在,则正常消费,消费完毕后写入redis/db
  3. 如果存在,则证明消息被消费过,直接丢弃。
6f1bdafb32ff76f987ac58dc0ffdadd0.png

生产者

@PostMapping("/send")public void sendMessage(){    JSONObject jsonObject = new JSONObject();    jsonObject.put("message","Java旅途");    String json = jsonObject.toJSONString();    Message message = MessageBuilder.withBody(json.getBytes()).setContentType(MessageProperties.CONTENT_TYPE_JSON).setContentEncoding("UTF-8").setMessageId(UUID.randomUUID()+"").build();    amqpTemplate.convertAndSend("javatrip",message);}

消费者

@Component@RabbitListener(queuesToDeclare = @Queue(value = "javatrip", durable = "true"))public class Consumer {    @RabbitHandler    public void receiveMessage(Message message) throws Exception {        Jedis jedis = new Jedis("localhost", 6379);        String messageId = message.getMessageProperties().getMessageId();        String msg = new String(message.getBody(),"UTF-8");        System.out.println("接收到的消息为:"+msg+"==消息id为:"+messageId);        String messageIdRedis = jedis.get("messageId");        if(messageId == messageIdRedis){            return;        }        JSONObject jsonObject = JSONObject.parseObject(msg);        String email = jsonObject.getString("message");        jedis.set("messageId",messageId);    }}

如果需要存入db的话,可以直接将这个ID设为消息的主键,下次如果获取到重复消息进行消费时,由于数据库主键的唯一性,则会直接抛出异常。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值