RabbitMQ消息模式之消费端限流

为什么要进行消费端限流

假设一个场景,我们RabbitMQ服务器有上万条未处理的消息,我们随便打开一个消费者客户端,会出现下面情况:巨量的消息瞬间全部推送过来,但是我们单个客户端无法同时处理这么多数据,所以我们需要进行消费端限流

针对消费端限流RabbitMQ提供的解决方案

RabbitMQ提供了一种qos(服务质量保证)功能,即在非自动确认消息的前提下,如果一定数目的消息(通过基于Consumer或者Channel设置Qos的值)未被确认前,不进行消费新的消息,即不管你来的数据有多少,但我只接收规定数目的消息

通过调用这个方法来实现:

Void BasicQos(uint prefetchSize, ushort prefetchCount, bool global);

参数解释:
#prefetchSize:为0则不限制消息大小

#prefetchSize:会告诉RabbitMQ不要同时给一个消费者推送多于N个消息,即一旦有N个消息还没有ack,
则该Consumer将block(阻塞)掉,直到有消息ack

#Global:true\false是否将上面设置应用于Channel;简单来说,就是上面限制是Channel级别的还是Consumer级别

注意:

prefetchSize和global这两项,RabbitMQ没有实现,暂且不研究

prefetch_count在no_ask=false的情况下生效,即在自动应答的情况下,这两个值是不生效的

自定义消费端代码:

package com.ue.limit;

import com.rabbitmq.client.*;

import java.io.IOException;

public class MyConsumer extends DefaultConsumer {
    private Channel channel ;

    public MyConsumer(Channel channel) {
        super(channel);
        this.channel = channel;
    }

    @Override
    public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
        System.err.println("-----------consume message----------");
        System.err.println("consumerTag: " + consumerTag);
        System.err.println("envelope: " + envelope);
        System.err.println("properties: " + properties);
        System.err.println("body: " + new String(body));

        channel.basicAck(envelope.getDeliveryTag(), false);
    }
}

消费端代码:

package com.ue.limit;

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class Consumer {
    public static void main(String[] args) throws Exception {
        ConnectionFactory connectionFactory = new ConnectionFactory();
        connectionFactory.setHost("192.168.14.758");
        connectionFactory.setPort(5672);
        connectionFactory.setVirtualHost("/");

        Connection connection = connectionFactory.newConnection();
        Channel channel = connection.createChannel();

        String exchangeName = "test_qos_exchange";
        String queueName = "test_qos_queue";
        String routingKey = "qos.#";

        channel.exchangeDeclare(exchangeName, "topic", true, false, null);
        channel.queueDeclare(queueName, true, false, false, null);
        channel.queueBind(queueName, exchangeName, routingKey);

        //限流方式:第一件事就是将autoAck设置为false
        channel.basicQos(0, 1, false);

        channel.basicConsume(queueName, false, new MyConsumer(channel));
    }
}

生产端代码:

package com.ue.limit;

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class Producer {
    public static void main(String[] args) throws Exception {
        ConnectionFactory connectionFactory = new ConnectionFactory();
        connectionFactory.setHost("192.168.14.758");
        connectionFactory.setPort(5672);
        connectionFactory.setVirtualHost("/");

        Connection connection = connectionFactory.newConnection();
        Channel channel = connection.createChannel();

        String exchange = "test_qos_exchange";
        String routingKey = "qos.save";

        String msg = "Hello RabbitMQ QOS Message";

        for(int i = 0; i < 5; i ++){
            channel.basicPublish(exchange, routingKey, true, null, msg.getBytes());
        }
    }
}

RabbitMQ 是一个开源的消息中间件,用于实现消息的异步传输。限流是指通过设置一定的规则,控制消息的发送速率,避免系统被过多的请求压垮。在 RabbitMQ 中,可以通过以下几种方式进行限流: 1. 预取计数(Prefetch Count):可以通过设置 channel.basicQos(prefetchCount) 方法来限制每个消费消费消息数量。这样可以确保每个消费者一次只处理指定数量消息,减少系统的负载。 2. 消费确认模式(Consumer Acknowledgements):RabbitMQ 支持消费手动确认消息模式,即消费者在处理完一条消息后,手动发送确认(ack)给 RabbitMQ,告知其可以继续发送下一条消息。通过这种方式,可以控制消费者处理消息的速度,从而实现限流。 3. 消息过期时间(Message TTL):可以设置消息的过期时间,在消息到达指定时间后如果还未被消费,则将其标记为过期并丢弃。通过设置合理的过期时间,可以控制消息在队列中的存活时间,避免队列中积压过多的消息。 4. 队列长度限制(Queue Length Limit):可以设置队列的最大长度,当队列中的消息数量达到最大值时,新的消息将会被拒绝或丢弃。通过限制队列的长度,可以防止队列无限增长,避免系统资源被耗尽。 这些方法可以单独或者组合使用,根据实际需求选择合适的限流策略来保证消息系统的稳定性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值