消费端限流
在实际场景中,如果 MQ 服务器上有数以万计未处理的消息,当我们打开一个消费者客户端时,海量消息瞬间全部推送过来,而单个客户端无法同时处理这么多数据,很可能导致服务性能下降、卡顿,甚至资源耗尽。
我们无法限制生产端生产消息,只能在消费端进行限流,以应对巨量消息待处理的情况。
RabbitMQ 提供了一种 qos(服务质量保证)功能,即在非自动确认消息的前提下,如果一定数目的消息在未被确认前,就不会消费(处理)新的消息。
MyProducer.java
public class MyProducer {
public static void main(String[] args) throws Exception {
ConnectionFactory connectionFactory = new ConnectionFactory();
connectionFactory.setHost("192.168.0.125");
connectionFactory.setPort(5672);
connectionFactory.setVirtualHost("/");
Connection connection = connectionFactory.newConnection();
Channel channel = connection.createChannel();
channel.confirmSelect();
String exchangeName = "exchange_qos";
String routingKey = "test.qos";
String msg = "hello, rabbitmq, test qos ";
// 发送10条消息
for(int i = 0; i < 10; i++) {
channel.basicPublish(exchangeName, routingKey, null, msg.getBytes());
}
System.out.println("生产端消息已发送==" + msg);
}
}
MyConsumer.java
public class MyConsumer {
public static void main(String[] args) throws Exception {
ConnectionFactory connectionFactory = new ConnectionFactory();
connectionFactory.setHost("192.168.0.125");
connectionFactory.setPort(5672);
connectionFactory.setVirtualHost("/");
Connection connection = connectionFactory.newConnection();
Channel channel = connection.createChannel();
channel.confirmSelect();
String exchangeName = "exchange_qos";
String routingKey = "*.qos";
String queueName = "queue_qos";
channel.exchangeDeclare(exchangeName, "topic", true);
channel.queueDeclare(queueName, true, false, false, null);
channel.queueBind(queueName, exchangeName, routingKey);
//channel.basicQos(prefetchSize, prefetchCount, global);
/**
* prefetchSize: 处理单条消息的大小限制,0 表示不限制
* prefetchCount: 单次处理的消息条数;处理完n条消息发送一个ack,然后再推送n条消息进行处理
* global: 是否将该设置应用在 channel; 该设置是 channel 级别还是 consumer 级别
*/
channel.basicQos(0, 3, false);
Consumer consumer = new DefaultConsumer(channel) {
@Override
public void handleDelivery(String consumerTag,
Envelope envelope,
AMQP.BasicProperties properties,
byte[] body) throws IOException {
String msg = new String(body, "UTF-8");
String exchange = envelope.getExchange();
String routingKey = envelope.getRoutingKey();
long deliveryTag = envelope.getDeliveryTag();
System.err.println("消费端收到 message : " + msg);
// 手动签收,返回 ack
// 如果注释该行,消费端只能处理第一次接收的n条消息;因为消费端没有返回 ack, Broker没有收到ack,以为消费端还没有处理完上一批消息而不再推送下一批消息。
// channel.basicAck(deliveryTag, false); //multiple:false---不批量处理
}
};
// 自动签收(autoAck)设置为 false
channel.basicConsume(queueName, false, consumer);
}
}
本例中生产者发送了10条信息,但是由于消费者这边自动签收设置为了 false,而且在消费者里面把手动签收的那行代码注释了,因此 mq 服务器没有收到确认消息,会认为消费者还没有处理完上一批消息,而不会继续推送消息。
从图片中看到,这里一次只受理了3条消息。
重回队列
消费端重回队列是为了对没有处理成功的消息,把消息重新投递给 Broker 端
但是在实际应用中,一般都会关闭重回队列,即设置为 false 。
channel.confirmSelect();
String exchangeName = "exchange_requeue";
String routingKey = "test.requeue";
// 发送5条消息
for(int i = 0; i < 5; i++) {
Map<String, Object> headers = new HashMap<String, Object>();
headers.put("count", i);
AMQP.BasicProperties properties = new AMQP.BasicProperties().builder()
.deliveryMode(2)
.contentEncoding("UTF-8")
.expiration("30000") // 该消息30 秒过期
.headers(headers)
.build();
String msg = "hello, rabbitmq, test requeue " + i;
channel.basicPublish(exchangeName, routingKey, properties, msg.getBytes());
}
channel.confirmSelect();
String exchangeName = "exchange_requeue";
String routingKey = "*.requeue";
String queueName = "queue_requeue";
channel.exchangeDeclare(exchangeName, "topic", true);
channel.queueDeclare(queueName, true, false, false, null);
channel.queueBind(queueName, exchangeName, routingKey);
Consumer consumer = new DefaultConsumer(channel) {
@Override
public void handleDelivery(String consumerTag,
Envelope envelope,
AMQP.BasicProperties properties,
byte[] body) throws IOException {
String msg = new String(body, "UTF-8");
System.out.println("消费端body==" + msg);
Integer count = (Integer)properties.getHeaders().get("count");
try {
Thread.sleep(3000);
} catch (InterruptedException e) {
e.printStackTrace();
}
if(count == 0) {
//channel.basicNack(deliveryTag, multiple, requeue);
channel.basicNack(envelope.getDeliveryTag(), false, true);
}else {
channel.basicAck(envelope.getDeliveryTag(), false);
}
}
};
// 自动签收(autoAck)设置为 false
channel.basicConsume(queueName, false, consumer);
本例中生产者发送了5条信息,30秒后过期。消费者这边每3秒返回一个ack,当收到编号为0的信息时返回Nack,即没有接收成功。从下图控制台可以看出,第0条消息第一次没接收成功后,重新放到了队列的末尾,得以再次发送。直到30秒到了过期时间被自动删除,才不再被消费。
TTL队列
Time To Live 的缩写,即生存时间。
RabbitMQ 可设置消息的过期时间,在消息发送时可以进行指定;可以设置队列的过期时间,从消息进入队列开始计算,只要超过了队列的超时时间配置,那么消息将自动清除。
TTL过期时间可如上例设置。
在管控台可设置队列的TTL,如图:
死信队列
DLX===Dead-Letter-Exchange
当消息在一个队列中变成死信之后,它能被重新 publish 到另一个 Exchange ,这个 Exchange 就是 DLX。
DLX 也是一个正常的 Exchange,和一般的 Exchange 一样,它能在任何的队列上被指定,就是能设置某个队列的属性。当这个队列中有死信时,RabbitMQ 会自动地把这个消息重新发布到设置好的 Exchange 中,进而被路由到另一个队列。死信队列可以监听这个队列中的消息,并做相应的处理。
消息变成死信有以下几种情况:
1)消息被拒绝,并且 requeue = false(没有设置重回队列);
2)消息 TTL 过期
3)队列到达最大长度
需要在我们的队列上加一个参数:arguments.put(“x-dead-letter-exchange”, “dlx.real.exchange”); 表示该队列中出现的死信将转发到名为 dlx-real-exchange (可自己命名)的交换机上
以消息过期为例:
channel.confirmSelect();
String exchangeName = "exchange_dlx";
String routingKey = "test.dlx";
String msg = "hello, rabbitmq, dlx qos ";
// 发送3条消息
for(int i = 0; i < 3; i++) {
AMQP.BasicProperties properties = new AMQP.BasicProperties().builder()
.deliveryMode(2)
.contentEncoding("UTF-8")
.expiration("10000") // 该消息10 秒过期,过期后将进入死信队列
.build();
channel.basicPublish(exchangeName, routingKey, properties, msg.getBytes());
}
System.out.println("生产端消息已发送==" + msg);
channel.confirmSelect();
String exchangeName = "exchange_dlx";
String routingKey = "*.dlx";
String queueName = "queue_dlx";
Map<String, Object> arguments = new HashMap<String, Object>();
arguments.put("x-dead-letter-exchange", "dlx.real.exchange"); // 值为 声明的死信队列的名称,自己取名
channel.exchangeDeclare(exchangeName, "topic", true);
// 设置死信队列属性,注意是设置在队列声明上
channel.queueDeclare(queueName, true, false, false, arguments);
channel.queueBind(queueName, exchangeName, routingKey);
// 声明死信队列
channel.exchangeDeclare("dlx.real.exchange", "topic", true); //注意名称与前面设置的死信队列的值一致
channel.queueDeclare("dlx.real.queue", true, false, false, null);
channel.queueBind("dlx.real.queue", "dlx.real.exchange", "#"); // # 表示所有的键都可以路由到这个队列
本例中消费端没有去消费消息,等待消息过期。
从下图可以看到,一开始消息是在 队列中的,由于这个队列设置了死信队列的属性,所以在该队列过期的消息(死信)将被转发到 队列中。