RabbitMq 相关深度操作

Gabriel_liao

已于 2024-03-21 20:32:47 修改

阅读量317

点赞数

文章标签： rabbitmq oracle 分布式

于 2023-06-28 15:07:24 首次发布

本文链接：https://blog.csdn.net/qq_31906785/article/details/131241938

版权

文章目录

幂等性
优先级队列
惰性队列
镜像队列
消息重试
SpringBoot整合使用
unacked
- 常见问题

尚硅谷笔记整理

幂等性

用户对于同一操作发起的一次请求或者多次请求的结果是一致的，不会因为多次点击而产生了副作用。

产生问题 ：
消费者在消费 MQ 中的消息时，MQ 已把消息发送给消费者，消费者在给 MQ 返回 ack 时网络中断，故 MQ 未收到确认信息，该条消息会重新发给其他的消费者，或者在网络重连后再次发送给该消费者，但实际上该消费者已成功消费了该条消息，造成消费者消费了重复的消息。

解决思路

一般使用全局 ID 或者写个唯一标识比如时间戳或者 UUID 或者订单消费者消费 MQ 中的消息也可利用 MQ 的该 id 来判断，或者可按自己的规则生成一个全局唯一 id，每次消费消息时用该 id 先判断该消息是否已消费过

业界主流的幂等性有两种操作:

唯一 ID+指纹码机制,利用数据库主键去重
指纹码:我们的一些规则或者时间戳加别的服务给到的唯一信息码,它并不一定是我们系统生成的，基本都是由我们的业务规则拼接而来，但是一定要保证唯一性，然后就利用查询语句进行判断这个 id 是否存在数据库中,优势就是实现简单就一个拼接，然后查询判断是否重复；劣势就是在高并发时，如果是单个数据库就会有写入性能瓶颈当然也可以采用分库分表提升性能，但也不是我们最推荐的方式。
利用 redis 的原子性去实现
利用 redis 执行 setnx 命令，天然具有幂等性。从而实现不重复消费

优先级队列

有些消息必须得到优先处理，而曾经我们的后端系统是使用 redis 来存放的定时轮询，大家都知道 redis 只能用 List 做一个简简单单的消息队列，并不能实现一个优先级的场景，所以订单量大了后采用 RabbitMQ 进行改造和优化,如果发现是大客户的订单给一个相对比较高的优先级，否则就是默认优先级。

如何添加

在这里插入图片描述

队列中代码添加优先级

Map<String, Object> params = new HashMap();
params.put("x-max-priority", 10);
channel.queueDeclare("hello", true, false, false, params);

在这里插入图片描述

消息中代码添加优先级

AMQP.BasicProperties properties = 
new AMQP.BasicProperties().builder().priority(5).build();

注意：
要让队列实现优先级需要做的事情有如下事情:队列需要设置为优先级队列，消息需要设置消息的优先级，消费者需要等待消息已经发送到队列中才去消费因为，这样才有机会对消息进行排序

实战

消息生产者

public class Producer {
    private static final String QUEUE_NAME="hello";
    public static void main(String[] args) throws Exception {
        try (Channel channel = RabbitMqUtils.getChannel();) {
            //给消息赋予一个 priority 属性
            AMQP.BasicProperties properties = new
                    AMQP.BasicProperties().builder().priority(5).build();
            for (int i = 1; i <11; i++) {
                String message = "info"+i;
                if(i==5){
                    channel.basicPublish("", QUEUE_NAME, properties, message.getBytes());
                }else{
                    channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
                }
                System.out.println("发送消息完成:" + message);
            }
        }
    }
}

消息消费者

public class Consumer {
    private static final String QUEUE_NAME="hello";
    public static void main(String[] args) throws Exception {
        Channel channel = RabbitMqUtils.getChannel();
        //设置队列的最大优先级 最大可以设置到 255 官网推荐 1-10 如果设置太高比较吃内存和 CPU
        Map<String, Object> params = new HashMap();
        params.put("x-max-priority", 10);
        channel.queueDeclare(QUEUE_NAME, true, false, false, params);
        System.out.println("消费者启动等待消费......");
        DeliverCallback deliverCallback=(consumerTag, delivery)->{
            String receivedMessage = new String(delivery.getBody());
            System.out.println("接收到消息:"+receivedMessage);
        };
        channel.basicConsume(QUEUE_NAME,true,deliverCallback,(consumerTag)->{
            System.out.println("消费者无法消费消息时调用，如队列被删除");
        });
    }
}

惰性队列

RabbitMQ 从 3.6.0 版本开始引入了惰性队列的概念。惰性队列会尽可能的将消息存入磁盘中，而在消费者消费到相应的消息时才会被加载到内存中，它的一个重要的设计目标是能够支持更长的队列，即支持更多的消息存储。当消费者由于各种各样的原因(比如消费者下线、宕机亦或者是由于维护而关闭等)而致使长时间内不能消费消息造成堆积时，惰性队列就很有必要了。

默认情况下，当生产者将消息发送到 RabbitMQ 的时候，队列中的消息会尽可能的存储在内存之中，这样可以更加快速的将消息发送给消费者。即使是持久化的消息，在被写入磁盘的同时也会在内存中驻留一份备份。当 RabbitMQ 需要释放内存的时候，会将内存中的消息换页至磁盘中，这个操作会耗费较长的时间，也会阻塞队列的操作，进而无法接收新的消息。虽然 RabbitMQ 的开发者们一直在升级相关的算法，但是效果始终不太理想，尤其是在消息量特别大的时候。

RabbitMq队列具备两种模式：default 和 lazy。默认的为 default 模式，在 3.6.0 之前的版本无需做任何变更。lazy模式即为惰性队列的模式，可以通过调用 channel.queueDeclare 方法的时候在参数中设置，也可以通过Policy 的方式设置，如果一个队列同时使用这两种方式设置的话，那么 Policy 的方式具备更高的优先级。
如果要通过声明的方式改变已有队列的模式的话，那么只能先删除队列，然后再重新声明一个新的。

在队列声明的时候可以通过“x-queue-mode”参数来设置队列的模式，取值为“default”和“lazy”。下面示
例中演示了一个惰性队列的声明细节：

Map<String, Object> args = new HashMap<String, Object>();
args.put("x-queue-mode", "lazy");
channel.queueDeclare("myqueue", false, false, false, args);

内存开销对比：在发送 1 百万条消息，每条消息大概占 1KB 的情况下，普通队列占用内存是 1.2GB，而惰性队列仅仅占用 1.5MB

镜像队列

如果 RabbitMQ 集群中只有一个 Broker 节点，那么该节点的失效将导致整体服务的临时性不可用，并且也可能会导致消息的丢失。可以将所有消息都设置为持久化，并且对应队列的durable属性也设置为true，但是这样仍然无法避免由于缓存导致的问题：因为消息在发送之后和被写入磁盘井执行刷盘动作之间存在一个短暂却会产生问题的时间窗。通过 publisherconfirm 机制能够确保客户端知道哪些消息己经存入磁盘，尽管如此，一般不希望遇到因单点故障导致的服务不可用。

在这里插入图片描述

停掉 node1 之后发现 node2 成为镜像队列

在这里插入图片描述

消息重试

SpringBoot中配置重试

SpringBoot整合使用

消费者：

在 Spring Boot 中，我们可以使用 @RabbitListener 注解来监听 RabbitMQ 中的消息。@RabbitListener 注解会自动创建一个监听器容器，用于接收和处理消息。默认情况下，Spring Boot 使用 SimpleRabbitListenerContainerFactory 来创建监听器容器。如果我们需要自定义监听器容器，可以使用 @RabbitListenerContainerFactory 注解。

当我们使用 @RabbitListener 注解时，Spring Boot 默认会使用 SimpleRabbitListenerContainerFactory 来创建监听器容器。如果我们不需要对监听器容器进行自定义配置，可以直接在方法上添加 @RabbitListener 注解，例如：

@RabbitListener(queues = "myQueue")
public void processMessage(String message) {
    // 处理消息
}

在这个示例中，我们使用 @RabbitListener 注解来监听名为 myQueue 的队列，并在 processMessage 方法中处理接收到的消息。

自定义监听器容器工厂

如果我们需要自定义监听器容器，可以使用 @RabbitListenerContainerFactory 注解来创建自定义的监听器容器工厂。以下是一个自定义监听器容器工厂的示例代码：

@Configuration
public class MyRabbitListenerContainerFactory {



    @Bean(name = "myListener")
    public MessageListenerAdapter myListener() {
        return new MessageListenerAdapter(new MyMessageListener());
    }

    @Bean
    public SimpleMessageListenerContainer myContainer(ConnectionFactory connectionFactory, @Qualifier("myListener") MessageListenerAdapter listenerAdapter) {
        SimpleMessageListenerContainer container = new SimpleMessageListenerContainer();
        container.setConnectionFactory(connectionFactory);
        container.setQueueNames("myQueue");
        container.setMessageListener(listenerAdapter);
        container.setAcknowledgeMode(AcknowledgeMode.AUTO);
        container.setConcurrency("3-10");
        return container;
    }

    @Bean(name = "myFactory")// 定义一个名为myFactory的SimpleRabbitListenerContainerFactory 
    public SimpleRabbitListenerContainerFactory myFactory(ConnectionFactory connectionFactory) {
        SimpleRabbitListenerContainerFactory factory = new SimpleRabbitListenerContainerFactory();
        factory.setConnectionFactory(connectionFactory);
        factory.setConcurrentConsumers(3);
        factory.setMaxConcurrentConsumers(10);
        factory.setAcknowledgeMode(AcknowledgeMode.AUTO);
        return factory;
    }


}

这个示例中，我们自定义创建一个名为 myFactory 的自定义监听器容器工厂。我们在 myFactory 中设置了一些监听器容器的属性，例如线程池大小、消息确认机制等。

@RabbitListenerContainerFactory 注解是一个用于创建 RabbitMQ 监听器容器工厂的注解。它可以用于自定义监听器容器的配置，例如线程池大小、消息确认机制、消息转换器等。

@RabbitListenerContainerFactory 注解

SimpleMessageListenerContainer用法

@RabbitListener 消费基本使用

unacked

RabbitMQ中的unacked表示未被ACK确认的消息数，如果大量堆积可能会导致消息积压和系统负荷过大（MQ会一直重复推送unacked消息至消费者）。造成unacked大量堆积的原因可能有很多，例如消费者处理消息的速度过慢、消费者不及时ACK确认消息、消息处理出现异常等等。
针对这种情况，可以考虑以下几点解决方案：

消费者处理消息的速度过慢时，可以增加消费者数量或者优化消费者代码，提高消息处理的效率。
消费者不及时ACK确认消息时，可以设置ACK超时时间或者手动ACK确认，避免消息长时间处于unacked状态。
对于消息处理出现异常的情况，可以在消费者代码中加入异常处理机制，避免消息一直处于unacked状态。
调整RabbitMQ服务器的配置参数，例如增加消息队列的大小、调整消息的过期时间等等，优化系统性能。

消息不会ack，在Queues中一直处于Unacked状态，直到关闭控制台程序，它才会自动将所有的Unacked的消息全部切换成Ready(虽然不知道它是怎么实现的)，从而保证，下一次重启消费端时可继续尝试消费那些"失败"的消息。
那么问题来了，假如我实际业务中，消费端不重启，那么那些Unacked的消息就不会变成Ready状态，就得不到重新处理了，我应该怎么处理这些Unacked的消息?
是不是应该在业务执行失败时，把这条消息存储到另一个队列Q2(专门处理业务失败的消息)同时ack当前队列(确保该消息不同时存在于当前队列和Q2队列，但是这里无法保证)。

若消息未被 ACK 则会发送给下一个消费者，如果某个服务忘记 ACK ，RabbitMQ 会认为该服务的处理能力有限，不会再发送数据给它

总之，解决unacked大量堆积的问题需要综合考虑多个方面，从消费者、消息队列、系统配置等多个方面入手，找到问题的根源并采取合适的措施。

RabbitMQ提供了一种QOS(服务质量保证)功能，即在开启手动确认消息的前提下，限制信道上的消费者所能保持的最大未确认的数量。可以通过设置PrefetchCount实现。

unacked是否会阻塞对列

常见问题

RabbitMQ 是一个开源的消息队列中间件，常用于在分布式系统中进行消息传递。以下是一些 RabbitMQ 常见问题：

什么是 RabbitMQ？ RabbitMQ 是一个消息队列中间件，它实现了 AMQP（Advanced Message Queuing Protocol）协议，并提供了可靠的消息传递机制。
RabbitMQ 的主要特点是什么？ RabbitMQ 的主要特点包括高度可靠性、灵活的路由机制、扩展性强、支持多种消息协议和模式、多种编程语言支持等。
如何安装和配置 RabbitMQ？你可以从 RabbitMQ 官方网站下载适合你操作系统的安装包，并按照官方文档进行安装和配置。
RabbitMQ 的主要组件是什么？ RabbitMQ 的主要组件包括生产者（Producer）、消费者（Consumer）、交换机（Exchange）和队列（Queue）。
如何发送和接收消息？生产者可以将消息发送到交换机，交换机根据指定的路由规则将消息路由到队列中，然后消费者可以从队列中接收消息进行处理。
RabbitMQ 支持哪些消息模式？ RabbitMQ 支持多种消息模式，包括点对点模式、发布/订阅模式、主题模式等，可以根据需求选择合适的模式。
RabbitMQ 如何处理消息丢失和重复消费的问题？ RabbitMQ 提供了消息持久化机制，可以确保消息在发送和接收过程中的可靠性。此外，使用消息确认机制和幂等性操作可以避免消息重复消费的问题。
如何监控和管理 RabbitMQ？ RabbitMQ 提供了可视化的管理界面，在浏览器中访问管理界面可以查看和管理队列、交换机、连接等信息。此外，还可以使用 RabbitMQ 提供的 API 进行监控和管理。

队列的一些设置参数