RabbitMQ消息堆积问题及惰性队列

一,消息堆积

1,消费者堆积问题

当生产者生产消息的速度超过了消费者处理消息的速度,就会导致消息在队列中进行堆积,一定时间后会造成队列达到存储的上限,那么最开始进入队列的消息可能变成死信,会被丢弃(有关死信以及死信消息的处理问题的详细介绍可以看我的另一篇博客:RabbitMQ死信交换机、TTL及延迟队列_蜡笔小心眼子!的博客-CSDN博客)。

 2,消息堆积的解决方案

解决消息堆积的方案一般是三种:

  1. 增加更多的消费者,多个消费者处于竞争的关系进行消息的消费(类似于RabbitMQ的工作模式);
  2. 对于单个消费者来说,可以采用线程池的方式进行消息的处理,消费者每拿到一个消息的时候就会创建一个线程来处理该消息;
  3. 扩大队列容积,提高堆积的上限。

二,惰性队列

1,惰性队列的特征

惰性队列(Lazy Queus),一般有如下三个特征:

  1. 接收到消息后直接存入磁盘而非内存;
  2. 消费者要消费消息时才会从磁盘中读取并加载到内存;
  3. 支持数百万条的消息存储。

2,设置惰性队列

2.1 将已经声明的队列设置成惰性队列

设置一个队列为惰性队列,只需要在声明队列时,指定x-queue-mode属性为lazy即可,可以通过命令行将一个运行中的队列修改为惰性队列:

rabbitmqctl set_policy Lazy "^lazy-queue$" '{"queue-mode":"lazy"}' --apply-to queues 
2.2 声明队列时将队列设置成惰性队列

@Bean方式:

    @Bean
    public Queue lazyQueue() {
        return QueueBuilder.durable("lazy.queue")
                .lazy()//开启x-queue-mode属性为lazy
                .build();
    }

注解方式:

 @RabbitListener(queuesToDeclare = @Queue(
            name = "lazy.queue",
            durable = "true",
            //开启x-queue-mode属性为lazy
            arguments = @Argument(name = "x-queue-mode", value = "lazy")
    ))
    public void listenLazyQueue(String msg) {
        log.info("接收到 lazy.queue的消息:{}", msg);
    }

3,惰性队列的优缺点

3.1 优点
  1. 基于磁盘存储,消息上限高;
  2. 没有间歇性的page-out,性能比较稳定。
3.2 缺点
  1. 基于磁盘存储,消息时效性会降低;
  2. 性能受限于磁盘的IO。
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RabbitMQ 消息堆积是指未能及时消费的消息队列中积累形成的现象。当消息的生产速度大于消费速度时,就会导致消息堆积消息堆积可能会带来以下问题: 1. 系统负载增加:随着消息堆积的增加,队列中的消息数量也会增加,导致系统的内存和存储资源占用增加,可能会影响系统的整体性能。 2. 延迟增加:消息堆积会导致消费者无法及时处理消息,从而增加消息的等待时间,延迟了消息的传递和处理。 3. 消息丢失风险:如果队列堆积消息超过队列的最大容量限制,新到达的消息可能会被丢弃或拒绝接收。这可能会导致消息丢失,造成数据的不一致性。 为了解决消息堆积问题,可以考虑以下几个方面: 1. 调整消费者的处理能力:增加消费者的数量或者调整消费者的处理速度,以提高消息的消费能力。 2. 增加队列的容量:通过增加队列的最大容量限制,可以减少消息堆积的风险。然而,需要注意设置合理的队列容量,避免过大的队列带来的资源消耗和延迟增加。 3. 监控和预警:实时监控消息队列堆积情况,并设置合适的预警机制,一旦消息堆积达到一定阈值,及时采取措施进行处理。 4. 消息重试和死信队列:当消费者处理消息失败时,可以将消息重新放回队列进行重试。如果消息重试多次仍然失败,可以将消息发送到死信队列进行后续处理。 总之,消息堆积RabbitMQ 中常见的问题,通过合理调整消费者的处理能力、增加队列容量、监控和预警等措施,可以有效应对和解决消息堆积带来的影响。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值