Java使用RabbitMQ如何保证消息幂等性

最新推荐文章于 2024-10-01 18:51:18 发布

小信丶

最新推荐文章于 2024-10-01 18:51:18 发布

阅读量1k

点赞数 17

分类专栏： java 消息队列技术栈文章标签： java-rabbitmq java rabbitmq

本文链接：https://blog.csdn.net/a_beiyo/article/details/141465044

版权

java 同时被 2 个专栏收录

75 篇文章 0 订阅

订阅专栏

消息队列技术栈

5 篇文章 0 订阅

订阅专栏

概述

在Java中使用RabbitMQ时，保证消息处理的幂等性至关重要。幂等性意味着即使同一消息被处理多次，处理的结果也是一致的。消息重复处理在分布式系统中是一个常见问题，可能由于网络抖动、消费者重启、消息重复投递等原因导致。因此，设计幂等的消息处理机制可以避免数据的重复操作、状态的不一致等问题。

幂等性

在消息系统中，幂等性通常涉及以下几个关键点：

唯一标识符（Message ID）：
- 每条消息应当有一个唯一的ID，用于标识这条消息是否已被处理过。
- 这个ID可以由消息生产者生成并附带在消息中，也可以由消费者根据消息内容生成。
去重机制：
- 通过存储系统（如数据库、Redis等）来记录已处理的消息ID。
- 在处理消息前，消费者先检查消息ID是否存在，如果存在则说明已处理过，直接跳过。
原子操作：
- 在消息处理的过程中，确保操作的原子性，例如通过数据库事务、分布式锁等方式，防止并发导致的多次处理。
幂等逻辑：
- 设计业务逻辑时，确保同样的操作无论执行多少次，结果都是相同的。

实现步骤

1. 确定消息的唯一标识符

通常，消息的唯一标识符可以由以下几种方式产生：

业务唯一ID：如果消息中已经包含了一个业务唯一ID（如订单号），可以直接使用这个ID。
消息ID：RabbitMQ消息可以包含一个消息ID，可以通过MessageProperties中的messageId字段获取。
自定义生成：可以基于消息的内容生成一个哈希值，如MD5、SHA-256，来保证唯一性。
```
public String generateMessageId(String messageBody) {
    return DigestUtils.md5DigestAsHex(messageBody.getBytes(StandardCharsets.UTF_8));
}
```
2. 消息处理去重

在处理消息时，需要检查该消息是否已经处理过。这可以通过使用Redis或数据库来存储已处理的消息ID。

使用Redis来存储已处理的消息ID：
Redis具有高效的读写性能，适合作为去重的存储介质。
使用SET命令将消息ID存储在Redis中，并设置过期时间防止无限制增长。

@Autowired
private StringRedisTemplate redisTemplate;

public boolean isDuplicateMessage(String messageId) {
    Boolean exists = redisTemplate.hasKey(messageId);
    return Boolean.TRUE.equals(exists);
}

public void markMessageAsProcessed(String messageId) {
    redisTemplate.opsForValue().set(messageId, "processed", 1, TimeUnit.DAYS);
}

3. 消费者的幂等性处理

结合上述方法，实现一个消息消费者，保证消息处理的幂等性。

import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.amqp.rabbit.support.MessageProperties;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;

@Service
public class RabbitMQConsumer {

    @Autowired
    private StringRedisTemplate redisTemplate;

    @RabbitListener(queues = "task_queue")
    public void receiveMessage(String message, MessageProperties messageProperties) {
        String messageId = messageProperties.getMessageId();
        
        // 如果消息没有ID，则自行生成一个ID（假设消息内容不变）
        if (messageId == null || messageId.isEmpty()) {
            messageId = generateMessageId(message);
        }

        // 检查消息是否已经处理过
        if (isDuplicateMessage(messageId)) {
            System.out.println("Message with ID " + messageId + " already processed, skipping.");
            return;
        }

        try {
            // 处理消息的业务逻辑
            processMessage(message);

            // 处理成功后，标记消息ID
            markMessageAsProcessed(messageId);

        } catch (Exception e) {
            System.err.println("Failed to process message with ID " + messageId + ": " + e.getMessage());
            // 如果处理失败，可以根据业务需求选择是否重新投递消息
        }
    }

    private void processMessage(String message) {
        // 具体的消息处理逻辑
        System.out.println("Processing message: " + message);
        // 假设处理逻辑是幂等的
    }

    private String generateMessageId(String messageBody) {
        return DigestUtils.md5DigestAsHex(messageBody.getBytes(StandardCharsets.UTF_8));
    }

    private boolean isDuplicateMessage(String messageId) {
        Boolean exists = redisTemplate.hasKey(messageId);
        return Boolean.TRUE.equals(exists);
    }

    private void markMessageAsProcessed(String messageId) {
        redisTemplate.opsForValue().set(messageId, "processed", 1, TimeUnit.DAYS);
    }
}