3.3.4 不公平分发
QoS(Quality of Service, 服务质量 )
指一个网络能够利用各种基础技术,为指定的网络通信提供更好的服务能力,是网络的一种安全机制, 是用来解决 网络延迟 和阻塞等问题的一种技术。
当一个消费者处理的快一个处理的慢的情况下,采用轮询分发是一个不明智的选择。但是mq也不知道那个快那个慢,所以我们告诉它!
为了避免这种情况,我们可以设置参数 channel.basicQos(1);
测试如下:
能力弱的也不是啥也不干,干的慢一点,干的少一点而已。不至于让它一直闲着
3.3.4 预取值
prefetch:预先载入
本身消息的发送就是异步发送的,所以在任何时候,channel 上肯定不止只有一个消息另外来自消费者的手动确认本质上也是异步的。因此这里就存在一个未确认的消息缓冲区,因此希望开发人员能限制此缓冲区的大小,以避免缓冲区里面无限制的未确认消息问题。这个时候就可以通过使用 basic.qos 方法设置“预取计数”值来完成的。该值定义通道上允许的未确认消息的最大数量。一旦数量达到配置的数量,RabbitMQ 将停止在通道上传递更多消息,除非至少有一个未处理的消息被确认。
测试
一旦数量达到配置的数量,RabbitMQ 将停止在通道上传递更多消息
=====================================================================
broker:中间件
生产者将信道设置成 confirm 模式,一旦信道进入 confirm 模式,所有在该信道上面发布的 消息都将会被指派一个唯一的 ID(从 1 开始),一旦消息被投递到所有匹配的队列之后,broker 就会发送一个确认给生产者(包含消息的唯一 ID),这就使得生产者知道消息已经正确到达目的队 列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出
4.2.1 开启发布确认的方法
//开启发布确认channel.confirmSelect();
4.2.2 单个确认发布
这是一种简单的确认方式,它是一种同步确认发布的方式,也就是发布一个消息之后只有它被确认发布,后续的消息才能继续发布,waitForConfirmsOrDie(long)这个方法只有在消息被确认的时候才返回,如果在指定时间范围内这个消息没有被确认那么它将抛出异常。
这种确认方式有一个最大的缺点就是:**发布速度特别的慢,**因为如果没有确认发布的消息就会阻塞所有后续消息的发布,这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某些应用程序来说这可能已经足够了。
public class ConfirmMessage { public static void main(String[] args) throws Exception { //单个确认 ConfirmMessage.publishMessageIndividual(); } // Individual 单独的,个别的 public static void publishMessageIndividual() throws Exception { Channel channel = RabbitMqUtils.getChannel(); String queueName = UUID.randomUUID().toString(); channel.queueDeclare(queueName, true, false, false, null); //开启发布确认 channel.confirmSelect(); //开始时间 long begin = System.currentTimeMillis(); //批量发消息 for (int i = 0; i < MESSAGE_COUNT; i++) { String message = i + “”; channel.basicPublish(“”, queueName, null, message.getBytes(StandardCharsets.UTF_8)); boolean flag = channel.waitForConfirms(); if (flag) { System.out.println(“消息发送成功”); } } long end = System.currentTimeMillis(); System.out.println(“发布” + MESSAGE_COUNT + “个单独确认消息,耗时” + (end - begin) + “ms”); }}
4.2.3 批量确认发布
上面那种方式非常慢,与单个等待确认消息相比,先发布一批消息然后一起确认可以极大地提高吞吐量,当然这种方式的缺点就是:当发生故障导致发布出现问题时,不知道是哪个消息出现问题了,我们必须将整个批处理保存在内存中,以记录重要的信息而后重新发布消息。当然这种方案仍然是同步的,也一样阻塞消息的发布。
public class ConfirmMessage { public static void main(String[] args) throws Exception { //单个确认 ConfirmMessage.publishMessageIndividual(); } //批量确认 public static void publishMessageBatch() throws Exception { Channel channel = RabbitMqUtils.getChannel(); String queueName = UUID.randomUUID().toString(); channel.queueDeclare(queueName, true, false, false, null); //开启发布确认 channel.confirmSelect(); //开始时间 long begin = System.currentTimeMillis(); //批量确认消息大小 int batchSize = 100;// 未确认消息的个数 for (int i = 0; i < MESSAGE_COUNT; i++) { String message = i + “”; channel.basicPublish(“”, queueName, null, message.getBytes(StandardCharsets.UTF_8)); //判断达到100条消息的时候 批量确认一次 if (i % batchSize == 0) { //发布确认 channel.waitForConfirms(); } } long end = System.currentTimeMillis(); System.out.println(“发布” + MESSAGE_COUNT + “个批量确认消息,耗时” + (end - begin) + “ms”); }}
4.2.4 异步确认发布
异步确认虽然编程逻辑比上两个要复杂,但是性价比最高,无论是可靠性还是效率都没得说, 他是利用回调函数来达到消息可靠性传递的,这个中间件也是通过函数回调来保证是否投递成功
public class ConfirmMessage { public static void main(String[] args) throws Exception { //单个确认 ConfirmMessage.publishMessageIndividual(); } //批量确认 //异步批量确认// Asynchronization 异步 public static void publishMessageAsync() throws Exception { Channel channel = RabbitMqUtils.getChannel(); String queueName = UUID.randomUUID().toString(); channel.queueDeclare(queueName, true, false, false, null); //开启发布确认 channel.confirmSelect(); //开始时间 long begin = System.currentTimeMillis(); //消息确认成功,回调函数 ConfirmCallback ackCallBack = (deliveryTag, multiple) -> { System.out.println(“确认的消息:”+ deliveryTag); }; //消息确认失败,回调函数 /** * 参数的含义 * 1.消息的标记 * 2.是否批量确认 / ConfirmCallback nackCallback = (deliveryTag, multiple) -> { System.out.println(“未确认的消息:”+ deliveryTag); }; //准备消息的监听器,监听哪些消息成功了,哪些消息失败了 /* * 1.监听哪些消息成功了 * 2.监听哪些消息失败了 */ channel.addConfirmListener(ackCallBack,nackCallback);//异步通知 //批量发送消息 for (int i = 0; i < MESSAGE_COUNT; i++) { String message = i + “”; channel.basicPublish(“”, queueName, null, message.getBytes(StandardCharsets.UTF_8)); } long end = System.currentTimeMillis(); System.out.println(“发布” + MESSAGE_COUNT + “个异步确认消息,耗时” + (end - begin) + “ms”); }}
4.2.5 如何处理异步未确认消息
最好的解决的解决方案就是把未确认的消息放到一个基于内存的能被发布线程访问的队列, 比如说用 ConcurrentLinkedQueue 这个队列在 confirm callbacks 与发布线程之间进行消息的传递
以后在更~,现在有点难理解
4.2.6 以上 3 种发布确认速度对比
单独发布消息 :
同步等待确认,简单,但吞吐量非常有限。
批量发布消息 :
批量同步等待确认,简单,合理的吞吐量,一旦出现问题但很难推断出是那条消息出现了问题。
异步处理:
最佳性能和资源使用,在出现错误的情况下可以很好地控制,但是实现起来稍微难些
====================================================================
路由 ( routing )就是通过互联的 网络 把 信息 从源地址传输到目的地址的活动
RabbitMQ 消息传递模型的核心思想是: 生产者生产的消息从不会直接发送到队列。实际上,通常生产者甚至都不知道这些消息传递传递到了哪些队列中。
相反,生产者只能将消息发送到交换机(exchange),交换机工作的内容非常简单,一方面它接收来自生产者的消息,另一方面将它们推入队列。交换机必须确切知道如何处理收到的消息。是应该把这些消息放到特定队列还是说把他们到许多队列中还是说应该丢弃它们。这就的由交换机的类型来决定。
5.1.2 交换机类型
共有以下类型:
直接(direct), 主题(topic) ,标题(headers) , 扇出(fanout)
5.1.3 无名交换机
前面我们其实都用到了交换机(默认),但它们属于交换机的无名类型,我们通过空字符串(“”)进行标识。
每当我们连接到 Rabbit 时,我们都需要一个全新的空队列,为此我们可以创建一个具有随机名称的队列,或者能让服务器为我们选择一个随机队列名称那就更好了。其次一旦我们断开了消费者的连接,队列将被自动删除。
创建临时队列的方式如下:
String queueName = channel.queueDeclare().getQueue();
binding 其实是 exchange 和 queue 之间的桥梁,它告诉我们 exchange 和那个队列进行了绑定关系
5.3.1 实现绑定
和我们图中写的内容一致,生产者把消息发送给交换机。交换机根据Routingkey将消息发送给对应的队列,最后队列把消息传递给消费者
Fanout 这种类型非常简单。正如从名称中猜到的那样,它是将接收到的所有消息广播到它知道的所有队列中。系统中默认有些 exchange 类型
5.4.1 Fanout 实战
我们写两个logs接受消息,看看交换机处于fanout状态下消息的处理情况
ReceiveLogs01 将接收到的消息打印在控制台
package com.caq.rabbitmq.five;import com.caq.rabbitmq.utils.RabbitMqUtils;import com.rabbitmq.client.Channel;import com.rabbitmq.client.DeliverCallback;/** * 负责消息的接受 /public class ReceiveLogs01 { private static final String EXCHANGE_NAME = “logs”; public static void main(String[] args) throws Exception { Channel channel = RabbitMqUtils.getChannel(); //声明一个交换机 channel.exchangeDeclare(EXCHANGE_NAME, “fanout”); //声明一个队列,临时队列(连接的时候存在,不连接的时候自动存在,名称随机) String queue = channel.queueDeclare().getQueue(); /* * 绑定交换机与队列 */ channel.queueBind(queue, EXCHANGE_NAME, “”); System.out.println(“等待接受消息,把接收到的消息打印在屏幕上…”); //接受消息 DeliverCallback deliverCallback = (consumerTag, message) -> { System.out.println(“ReceiveLogs01控制台打印接受到的消息” + new String(message.getBody())); }; //接受消息 channel.basicConsume(queue, true, deliverCallback, consumerTag -> {}); }}
ReceiveLogs02 将接收到的消息存储在磁盘
和上面类似
EmitLog 发送消息给两个消费者接收
package com.caq.rabbitmq.five;import com.caq.rabbitmq.utils.RabbitMqUtils;import com.rabbitmq.client.Channel;import java.util.Scanner;/** * 扇出就是发布订阅 */public class EmitLog { //交换机的名字 private static final String EXCHANGE_NAME = “logs”; //发送消息 public static void main(String[] args) throws Exception { Channel channel = RabbitMqUtils.getChannel(); //声明一个交换机 channel.exchangeDeclare(EXCHANGE_NAME, “fanout”); Scanner scanner = new Scanner(System.in); while (scanner.hasNext()) { String message = scanner.next(); channel.basicPublish(EXCHANGE_NAME, “”, null, message.getBytes()); System.out.println(“生产者发出消息” + message); } }}
处理的结果
回顾一下什么是 bindings,绑定是交换机和队列之间的桥梁关系。也可以这么理解: 队列只对它绑定的交换机的消息感兴趣。
-
绑定用参数:routingKey 来表示也可称该参数为 binding key,
-
创建绑定我们用代码:channel.queueBind(queueName, EXCHANGE_NAME, “routingKey”);
-
绑定之后的意义由其交换类型决定。
5.5.1 Direct exchange介绍
前面我们的日志系统将所有消息广播给所有消费者,对此我们想做一些改变,例如我们希望将日志消息写入磁盘的程序仅接收严重错误(errros),而不存储哪些警告(warning)或信息(info)日志消息避免浪费磁盘空间。Fanout 这种交换类型并不能给我们带来很大的灵活性—它只能进行无意识的广播,在这里我们将使用 direct 这种类型来进行替换,这种类型的工作方式是,消息只去到它绑定的routingKey 队列中去。
5.5.2 多重绑定
当然如果 exchange 的绑定类型是direct,但是它绑定的多个队列的 key 如果都相同,在这种情况下虽然绑定类型是 direct 但是它表现的就和 fanout 有点类似了,就跟广播差不多
5.5.3 实战
交换机绑定关系如下:
不要桥接校园网!!!
只有绑定了info的队列才会消费消息
只有绑定了error的队列才会消费消息
5.6.1 Topic 的介绍
就很像我们之前学的正则表达式一样,可以匹配多个
尽管使用 direct 交换机改进了我们的系统,但是它仍然存在局限性——比方说我们想接收的日志类型有 info.base 和 info.advantage,某个队列只想 info.base 的消息,那这个时候direct 就办不到了。这个时候就只能使用 topic 类型
发送到类型是 topic 交换机的消息的 routing_key 不能随意写,必须满足一定的要求,它必须是一个单词列表,以点号分隔开。这些单词可以是任意单词
比如说:“stock.usd.nyse”, “nyse.vmw”, “quick.orange.rabbit”.这种类型的。
当然这个单词列表最多不能超过 255 个字节。
在这个规则列表中,其中有两个替换符是大家需要注意的:
-
*(星号)可以代替一个单词
-
#(井号)可以替代零个或多个单词
5.6.2 Topic 匹配案例
下图绑定关系如下
-
Q1–>绑定的是
-
中间带 orange 带 3 个单词的字符串
(*.orange.*)
-
Q2–>绑定的是
-
最后一个单词是 rabbit 的 3 个单词
(*.*.rabbit)
-
第一个单词是 lazy 的多个单词
(lazy.#)
上图是一个队列绑定关系图,我们来看看他们之间数据接收情况是怎么样的
| 例子 | 说明 |
| — | — |
| quick.orange.rabbit | 被队列 Q1Q2 接收到 |
| azy.orange.elephant | 被队列 Q1Q2 接收到 |
| quick.orange.fox | 被队列 Q1 接收到 |
| lazy.brown.fox | 被队列 Q2 接收到 |
| lazy.pink.rabbit | 虽然满足两个绑定但只被队列 Q2 接收一次 |
| quick.brown.fox | 不匹配任何绑定不会被任何队列接收到会被丢弃 |
| quick.orange.male.rabbit | 是四个单词不匹配任何绑定会被丢弃 |
| lazy.orange.male.rabbit | 是四个单词但匹配 Q2 |
注意:
-
当一个队列绑定键是#,那么这个队列将接收所有数据,就有点像 fanout 了
-
如果队列绑定键当中没有#和*出现,那么该队列绑定类型就是 direct 了
5.6.3 Topic 实战
生产者代码
package com.caq.rabbitmq.topiclogs;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.Channel;
import java.util.HashMap;
import java.util.Map;
/**
- 生产者
*/
public class EmitLogTopic {
//交换机的名字
private static final String EXCHANGE_NAME = “topic_logs”;
//发送消息
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
Map<String, String> bindingKeyMap = new HashMap<>();
bindingKeyMap.put(“quick.orange.rabbit”, “被队列 Q1Q2 接收到”);
bindingKeyMap.put(“lazy.orange.elephant”, “被队列 Q1Q2 接收到”);
bindingKeyMap.put(“quick.orange.fox”, “被队列 Q1 接收到”);
bindingKeyMap.put(“lazy.brown.fox”, “被队列 Q2 接收到”);
/**
-
返回此映射中包含的映射的 Set 视图。
-
注意:Set 视图意思是 HashMap 中所有的键值对都被看作是一个 set 集合。
*/
for (Map.Entry<String, String> bindingKeyEntry : bindingKeyMap.entrySet()) {
String routingKey = bindingKeyEntry.getKey();
String message = bindingKeyEntry.getValue();
channel.basicPublish(EXCHANGE_NAME, routingKey, null, message.getBytes());
System.out.println(“生产者发出消息”+message);
}
}
}
消费者代码
package com.caq.rabbitmq.topiclogs;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
public class ReceiveLogsTopic01 {
private static final String EXCHANGE_NAME = “topic_logs”;
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
//声明一个交换机,通过枚举的形式指定交换机的类型
channel.exchangeDeclare(EXCHANGE_NAME, “topic”);
//声明一个队列
String queueName = “Q1”;
channel.queueDeclare(queueName, false, false, false, null);
channel.queueBind(queueName, EXCHANGE_NAME, “.orange.”);
System.out.println(“等待接受消息”);
//接受消息
DeliverCallback deliverCallback = (consumerTag, message) -> {
System.out.println(“ReceiveLogs02控制台打印接受到的消息” + new String(message.getBody()));
System.out.println(“接受队列” + queueName + “绑定键” + message.getEnvelope().getRoutingKey());
};
//接受消息
channel.basicConsume(queueName, true, deliverCallback, consumerTag -> {
});
}
}
消费者2代码
package com.caq.rabbitmq.topiclogs;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
public class ReceiveLogsTopic02 {
private static final String EXCHANGE_NAME = “topic_logs”;
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
//声明一个交换机,通过枚举的形式指定交换机的类型
channel.exchangeDeclare(EXCHANGE_NAME, “topic”);
//声明一个队列
String queueName = “Q2”;
channel.queueDeclare(queueName, false, false, false, null);
channel.queueBind(queueName, EXCHANGE_NAME, “..rabbit”);
channel.queueBind(queueName, EXCHANGE_NAME, “lazy.#”);
System.out.println(“等待接受消息”);
//接受消息
DeliverCallback deliverCallback = (consumerTag, message) -> {
System.out.println(“ReceiveLogs02控制台打印接受到的消息” + new String(message.getBody()));
System.out.println(“接受队列” + queueName + “绑定键” + message.getEnvelope().getRoutingKey());
};
//接受消息
channel.basicConsume(queueName, true, deliverCallback, consumerTag -> {
});
}
}
=====================================================================
死信,顾名思义就是无法被消费的消息字面意思可以这样理解,一般来说,producer 将消息投递到 broker 或者直接到queue 里了,consumer 从 queue 取出消息 进行消费,但某些时候由于特定的原因导致 queue 中的某些消息无法被消费,这样的消息如果没有后续的处理,就变成了死信,有死信自然就有了死信队列。
应用场景:为了保证订单业务的消息数据不丢失,需要使用到 RabbitMQ 的死信队列机制,当消息消费发生异常时,将消息投入死信队列中。还有比如说:用户在商城下单成功并点击去支付后在指定时间未支付时自动失效
- 消息 TTL 过期
TTL是Time To Live的缩写, 也就是生存时间
- 队列达到最大长度
队列满了,无法再添加数据到 mq 中
- 消息被拒绝
(basic.reject 或 basic.nack) 并且 requeue=false.
6.3.1 代码架构图
6.3.2 消息TTL过期
生产者代码
package com.caq.rabbitmq.deadqueue;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.impl.AMQBasicProperties;
import java.nio.charset.StandardCharsets;
import java.util.HashMap;
import java.util.Map;
/**
- 死信队列生产者
*/
public class Producer {
//交换机的名字
public static final String NORMAL_EXCHANGE = “normal_exchange”;
//发送消息
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
//死信消息,设置TTL时间
AMQP.BasicProperties properties =
new AMQP.BasicProperties()
.builder().expiration(“10000”).build();
for (int i = 0; i < 11; i++) {
String message = “info” + i;
channel.basicPublish(NORMAL_EXCHANGE, “zs”, properties,message.getBytes(StandardCharsets.UTF_8));
System.out.println(“生产者发送消息:”+message);
}
}
}
消费者 C1 代码:
package com.caq.rabbitmq.deadqueue;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
import java.util.HashMap;
import java.util.Map;
public class Consumer01 {
public static final String NORMAL_EXCHANGE = “normal_exchange”;
public static final String DEAD_EXCHANGE = “dead_exchange”;
public static final String NORMAL_QUEUE = “normal_queue”;
public static final String DEAD_QUEUE = “dead_queue”;
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
// 声明死信和普通交换机 类型为direct
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
// 声明普通队列
Map<String, Object> arguments = new HashMap<>();
//过期时间
// 正常队列设置死信交换机
arguments.put(“x-dead-letter-exchange”, DEAD_EXCHANGE);
// 设置死信routingkey
arguments.put(“x-dead-letter-routing-key”, “lisi”);
// 设置队列长度
// arguments.put(“x-max-length”, 6);
channel.queueDeclare(NORMAL_QUEUE, false, false, false, arguments);
// 声明死信队列
channel.queueDeclare(DEAD_QUEUE, false, false, false, null);
//绑定普通交换机与普通队列
channel.queueBind(NORMAL_QUEUE, NORMAL_EXCHANGE, “zs”);
//绑定死信交换机与死信队列
channel.queueBind(DEAD_QUEUE, DEAD_EXCHANGE, “lisi”);
System.out.println(“等待接受消息…”);
DeliverCallback deliverCallback = (consumerTag, message) -> {
String msg = new String(message.getBody());
System.out.println(“Consumer01 接收到消息”+message);
};
//开启手动应答
channel.basicConsume(NORMAL_QUEUE, true, deliverCallback, consumerTag -> {
});
}
}
启动 C1 ,之后关闭消费者,模拟其接收不到消息。再启动 Producer
消费者 C2 代码:
以上步骤完成后,启动 C2 消费者,它消费死信队列里面的消息
package com.caq.rabbitmq.deadqueue;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
import java.util.HashMap;
import java.util.Map;
/**
-
死信队列
-
消费者2
*/
public class Consumer02 {
public static final String NORMAL_QUEUE = “dead_queue”;
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
System.out.println(“等待接受消息…”);
DeliverCallback deliverCallback = (consumerTag, message) -> {
System.out.println(“Consumer02接受的消息是:” + new String(message.getBody()));
};
channel.basicConsume(NORMAL_QUEUE, true, deliverCallback, consumerTag -> {
});
}
}
6.3.3 队列达到最大长度
消息生产者代码去掉 TTL 属性
AMQP.BasicProperties properties =
new AMQP.BasicProperties()
.builder().expiration(“10000”).build();
消息生产者代码去掉 TTL 属性
package com.caq.rabbitmq.deadqueue;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.impl.AMQBasicProperties;
import java.nio.charset.StandardCharsets;
import java.util.HashMap;
import java.util.Map;
/**
- 死信队列生产者
*/
public class Producer {
//交换机的名字
public static final String NORMAL_EXCHANGE = “normal_exchange”;
//发送消息
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
for (int i = 0; i < 11; i++) {
String message = “info” + i;
channel.basicPublish(NORMAL_EXCHANGE, “zs”, null,message.getBytes(StandardCharsets.UTF_8));
System.out.println(“生产者发送消息:”+message);
}
}
}
C1 消费者修改以下代码**(启动之后关闭该消费者 模拟其接收不到消息)**
//设置正常队列的长度限制,例如发10个,4个则为死信
params.put(“x-max-length”,6);
注意此时需要把原先队列删除 因为参数改变了
package com.caq.rabbitmq.deadqueue;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
import java.util.HashMap;
import java.util.Map;
public class Consumer01 {
public static final String NORMAL_EXCHANGE = “normal_exchange”;
public static final String DEAD_EXCHANGE = “dead_exchange”;
public static final String NORMAL_QUEUE = “normal_queue”;
public static final String DEAD_QUEUE = “dead_queue”;
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
// 声明死信和普通交换机 类型为direct
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
// 声明普通队列
Map<String, Object> arguments = new HashMap<>();
// 正常队列设置死信交换机
arguments.put(“x-dead-letter-exchange”, DEAD_EXCHANGE);
// 设置死信routingkey
arguments.put(“x-dead-letter-routing-key”, “lisi”);
// 设置队列长度
arguments.put(“x-max-length”, 6);
channel.queueDeclare(NORMAL_QUEUE, false, false, false, arguments);
/******************************************************************/
// 声明死信队列
channel.queueDeclare(DEAD_QUEUE, false, false, false, null);
//绑定普通交换机与普通队列
channel.queueBind(NORMAL_QUEUE, NORMAL_EXCHANGE, “zs”);
//绑定死信交换机与死信队列
channel.queueBind(DEAD_QUEUE, DEAD_EXCHANGE, “lisi”);
System.out.println(“等待接受消息…”);
DeliverCallback deliverCallback = (consumerTag, delivery) -> { String message = new String(delivery.getBody(), “UTF-8”);
System.out.println(“Consumer01 接收到消息”+message);
channel.basicConsume(NORMAL_QUEUE, true, deliverCallback, consumerTag -> {
});
}
}
C2 消费者代码不变(启动 C2 消费者)
6.3.4 消息被拒
生产者,C2消费者代码同上生产者一致
C1 消费者代码(启动之后关闭该消费者 模拟其接收不到消息)
package com.caq.rabbitmq.deadqueue;
import com.caq.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
import java.util.HashMap;
import java.util.Map;
/**
-
死信队列
-
-
消费者1
*/
public class Consumer01 {
public static final String NORMAL_EXCHANGE = “normal_exchange”;
public static final String DEAD_EXCHANGE = “dead_exchange”;
public static final String NORMAL_QUEUE = “normal_queue”;
public static final String DEAD_QUEUE = “dead_queue”;
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
// 声明死信和普通交换机 类型为direct
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
// 声明普通队列
Map<String, Object> arguments = new HashMap<>();
//过期时间
// 正常队列设置死信交换机
arguments.put(“x-dead-letter-exchange”, DEAD_EXCHANGE);
// 设置死信routingkey
arguments.put(“x-dead-letter-routing-key”, “lisi”);
// 设置队列长度
// arguments.put(“x-max-length”, 6);
channel.queueDeclare(NORMAL_QUEUE, false, false, false, arguments);
/******************************************************************/
// 声明死信队列
channel.queueDeclare(DEAD_QUEUE, false, false, false, null);
//绑定普通交换机与普通队列
channel.queueBind(NORMAL_QUEUE, NORMAL_EXCHANGE, “zs”);
//绑定死信交换机与死信队列
channel.queueBind(DEAD_QUEUE, DEAD_EXCHANGE, “lisi”);
System.out.println(“等待接受消息…”);
DeliverCallback deliverCallback = (consumerTag, message) -> {
String msg = new String(message.getBody());
if (msg.equals(“info5”)) {
System.out.println(“消费者1接受的消息是” + msg + “:此消息是被c1拒绝的”);
channel.basicReject(message.getEnvelope().getDeliveryTag(),false);
} else {
System.out.println(“Consumer01接受的消息是:” + msg);
}
};
//开启手动应答
channel.basicConsume(NORMAL_QUEUE, false, deliverCallback, consumerTag -> {
});
}
}
=====================================================================
延时队列,队列内部是有序的,最重要的特性就体现在它的延时属性上,延时队列中的元素是希望在指定时间到了以后或之前取出和处理,简单来说,延时队列就是用来存放需要在指定时间被处理的元素的队列。
-
订单在十分钟之内未支付则自动取消
-
新创建的店铺,如果在十天内都没有上传过商品,则自动发送消息提醒。
-
用户注册成功后,如果三天内没有登陆则进行短信提醒。
-
用户发起退款,如果三天内没有得到处理则通知相关运营人员。
-
预定会议后,需要在预定的时间点前十分钟通知各个与会人员参加会议
这些场景都有一个特点,需要在某个事件发生之后或者之前的指定时间点完成某一项任务,
如: 发生订单生成事件,在十分钟之后检查该订单支付状态,然后将未支付的订单进行关闭;看起来似乎使用定时任务,一直轮询数据,每秒查一次,取出需要被处理的数据,然后处理不就完事了吗?
如果数据量比较少,确实可以这样做,比如:对于“如果账单一周内未支付则进行自动结算”这样的需求, 如果对于时间不是严格限制,而是宽松意义上的一周,那么每天晚上跑个定时任务检查一下所有未支付的账单,确实也是一个可行的方案。但对于数据量比较大,并且时效性较强的场景,
如:“订单十分钟内未支付则关闭“,短期内未支付的订单数据可能会有很多,活动期间甚至会达到百万甚至千万级别,对这么庞大的数据量仍旧使用轮询的方式显然是不可取的,很可能在一秒内无法完成所有订单的检查,同时会给数据库带来很大压力,无法满足业务要求而且性能低下。
TTL 是什么呢?TTL 是 RabbitMQ 中一个消息或者队列的属性,表明一条消息或者该队列中的所有消息的最大存活时间,单位是毫秒。
换句话说,**如果一条消息设置了 TTL 属性或者进入了设置TTL 属性的队列,那么这条消息如果在TTL 设置的时间内没有被消费,则会成为"死信"。**如果同时配置了队列的TTL 和消息的TTL,那么较小的那个值将会被使用,有两种方式设置 TTL。
7.3.1 队列设置TTL
在创建队列的时候设置队列的“x-message-ttl”属性
7.3.2 消息设置TTL
是针对每条消息设置TTL
如果设置了队列的 TTL 属性,那么一旦消息过期,就会被队列丢弃(如果配置了死信队列被丢到死信队列中),而第二种方式,消息即使过期,也不一定会被马上丢弃,因为消息是否过期是在即将投递到消费者之前判定的,如果当前队列有严重的消息积压情况,则已过期的消息也许还能存活较长时间;另外,还需要注意的一点是,如果不设置 TTL,表示消息永远不会过期,如果将 TTL 设置为 0,则表示除非此时可以直接投递该消息到消费者,否则该消息将会被丢弃。
刚刚又介绍了 TTL,至此利用 RabbitMQ 实现延时队列的两大要素已经集齐,接下来只需要将它们进行融合,再加入一点点调味料,延时队列就可以新鲜出炉了。想想看,延时队列,不就是想要消息延迟多久被处理吗,TTL 则刚好能让消息在延迟多久之后成为死信,另一方面, 成为死信的消息都会被投递到死信队列里,这样只需要消费者一直消费死信队列里的消息就完事了,因为里面的消息都是希望被立即处理的消息。
7.4.1 添加依赖
org.springframework.boot
spring-boot-starter
org.springframework.boot
spring-boot-starter-amqp
org.springframework.boot
spring-boot-starter-web
org.springframework.boot
spring-boot-starter-test
test
com.alibaba
fastjson
1.2.47
org.projectlombok
lombok
io.springfox
springfox-swagger2
3.0.0
io.springfox
springfox-swagger-ui
3.0.0
org.springframework.amqp
spring-rabbit-test
test
7.4.2 修改配置文件
spring:
rabbitmq:
host: 192.168.42.96
port: 5672
username: admin
password: 123
7.4.3 添加Swagger 配置类
package com.caq.config;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import springfox.documentation.builders.ApiInfoBuilder;
import springfox.documentation.service.ApiInfo;
import springfox.documentation.service.Contact;
import springfox.documentation.spi.DocumentationType;
import springfox.documentation.spring.web.plugins.Docket;
import springfox.documentation.swagger2.annotations.EnableSwagger2;
@Configuration
@EnableSwagger2
public class SwaggerConfig {
@Bean
public Docket webApiConfig() {
return new Docket(DocumentationType.SWAGGER_2)
.groupName(“webApi”)
.apiInfo(webApiInfo())
.select()
.build();
}
private ApiInfo webApiInfo() {
return new ApiInfoBuilder()
.title(“rabbitmq 接口文档”)
.description(“本文档描述了 rabbitmq 微服务接口定义”)
.version(“1.0”)
.contact(new Contact(“enjoy6288”, “http://mildcaq@163.com”, “2350938432@qq.com”))
.build();
}
}
7.5.1 代码架构图
它们的绑定关系如下:
7.5.2 配置类代码
package com.caq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
/**
-
TTL队列 配置文件类代码
-
通过配置类的形式完成交换机,信道的声明
-
之后只用做生产者和消费者的代码
*/
@Configuration
public class TtlQueueConfig {
//普通交换机名称
public static final String X_EXCHANGE = “X”;
//死信交换机名称
public static final String Y_DEAD_LETTER_MESSAGE = “Y”;
//普通队列名称
public static final String QUEUE_A = “QA”;
public static final String QUEUE_B = “QB”;
//死信队列名称
public static final String DEAD_LETTER_QUEUE = “QD”;
//声明xExchange 别名
@Bean(“xExchange”)
public DirectExchange xExchange() {
return new DirectExchange(X_EXCHANGE);
}
@Bean(“yExchange”)
public DirectExchange yExchange() {
return new DirectExchange(Y_DEAD_LETTER_MESSAGE);
}
//声明队列
@Bean(“queueA”)
public Queue queueA() {
Map<String, Object> arguments = new HashMap<>();
// 设置死信交换机
arguments.put(“x-dead-letter-exchange”,Y_DEAD_LETTER_MESSAGE);
//设置死信RoutingKey
arguments.put(“x-dead-letter-routing-key”,“YD”);
// 设置TTL 单位是ms
arguments.put(“x-message-ttl”,10000);
return QueueBuilder.durable(QUEUE_A).withArguments(arguments).build();
}
@Bean(“queueB”)
public Queue queueB() {
Map<String, Object> arguments = new HashMap<>();
arguments.put(“x-dead-letter-exchange”,Y_DEAD_LETTER_MESSAGE);
arguments.put(“x-dead-letter-routing-key”,“YD”);
arguments.put(“x-message-ttl”,40000);
return QueueBuilder.durable(QUEUE_B).withArguments(arguments).build();
}
//绑定QA
@Bean
public Binding queueABindingX(@Qualifier(“queueA”) Queue queueA,
@Qualifier(“xExchange”) DirectExchange xExchange){
return BindingBuilder.bind(queueA).to(xExchange).with(“XA”);
}
//绑定QB
@Bean
public Binding queueBBindingX(@Qualifier(“queueB”) Queue queueB,
@Qualifier(“xExchange”) DirectExchange xExchange){
return BindingBuilder.bind(queueB).to(xExchange).with(“XB”);
}
}
7.5.3 消息生产者代码
package com.caq.controller;
import com.caq.config.DelayQueueConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import java.util.Date;
/**
-
发送延迟消息
-
http://localhost:8080/ttl/sendMsg/哈哈哈哈哈哈
-
@RestController只返回内容,不进行页面跳转
-
@RequestMapping请求路径
*/
@Slf4j
@RestController
@RequestMapping(“/ttl”)
public class SendMsgController {
/**
-
{}是占位符,结果执行后会被后面的所替换
-
@param message
*/
//通过rabbitTemplate来发送消息
@Autowired
private RabbitTemplate rabbitTemplate;
@GetMapping(“/sendMsg/{message}”)
public void sendMsg(@PathVariable String message) {
log.info(“当前时间:{},发送一条信息给两个TTL队列:{}”, new Date().toString(), message);
rabbitTemplate.convertAndSend(“X”, “XA”, “消息来自ttl为10s的队列” + message);
rabbitTemplate.convertAndSend(“X”, “XB”, “消息来自ttl为40s的队列” + message);
}
}
7.5.4 消息消费者代码
package com.caq.consumer;
import com.rabbitmq.client.Channel;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
import java.util.Date;
@Slf4j
@Component
public class DeadLetterQueueConsumer {
//接收消息
@RabbitListener(queues = “QD”)
public void receiveD(Message message, Channel channel) throws Exception{
String msg = new String(message.getBody());
log.info(“当前时间:{},收到死信队列的消息:{}”,new Date().toString(),msg);
}
}
第一条消息在 10S 后变成了死信消息,然后被消费者消费掉,第二条消息在 40S 之后变成了死信消息, 然后被消费掉,这样一个延时队列就打造完成了。
我们能不能写一个队列,能适应所有情况呢?
在这里新增了一个队列 QC,绑定关系如下,该队列不设置TTL 时间
7.6.1 配置类代码
在原有代码加入队列QC并设置routingkey和绑定x交换机
package com.caq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
/**
-
TTL队列 配置文件类代码
-
通过配置类的形式完成交换机,信道的声明
-
之后只用做生产者和消费者的代码
*/
@Configuration
public class TtlQueueConfig {
//普通交换机名称
public static final String X_EXCHANGE = “X”;
//死信交换机名称
public static final String Y_DEAD_LETTER_MESSAGE = “Y”;
//普通队列名称
public static final String QUEUE_A = “QA”;
public static final String QUEUE_B = “QB”;
//死信队列名称
public static final String DEAD_LETTER_QUEUE = “QD”;
public static final String QUEUE_C = “QC”;
//声明xExchange 别名
@Bean(“xExchange”)
public DirectExchange xExchange() {
return new DirectExchange(X_EXCHANGE);
}
@Bean(“yExchange”)
public DirectExchange yExchange() {
return new DirectExchange(Y_DEAD_LETTER_MESSAGE);
}
//声明队列
@Bean(“queueA”)
public Queue queueA() {
Map<String, Object> arguments = new HashMap<>();
// 设置死信交换机
arguments.put(“x-dead-letter-exchange”,Y_DEAD_LETTER_MESSAGE);
//设置死信RoutingKey
arguments.put(“x-dead-letter-routing-key”,“YD”);
// 设置TTL 单位是ms
arguments.put(“x-message-ttl”,10000);
return QueueBuilder.durable(QUEUE_A).withArguments(arguments).build();
}
@Bean(“queueB”)
public Queue queueB() {
Map<String, Object> arguments = new HashMap<>();
arguments.put(“x-dead-letter-exchange”,Y_DEAD_LETTER_MESSAGE);
arguments.put(“x-dead-letter-routing-key”,“YD”);
arguments.put(“x-message-ttl”,40000);
return QueueBuilder.durable(QUEUE_B).withArguments(arguments).build();
}
// 声明QC
@Bean(“queueC”)
public Queue queueC(){
Map<String, Object> arguments = new HashMap<>();
// 设置死信交换机
arguments.put(“x-dead-letter-exchange”,Y_DEAD_LETTER_MESSAGE);
//设置死信RoutingKey
arguments.put(“x-dead-letter-routing-key”,“YD”);
return QueueBuilder.durable(QUEUE_C).withArguments(arguments).build();
}
//死信队列
@Bean(“queueD”)
public Queue queueD(){
return QueueBuilder.durable(DEAD_LETTER_QUEUE).build();
}
//绑定QA
@Bean
public Binding queueABindingX(@Qualifier(“queueA”) Queue queueA,
@Qualifier(“xExchange”) DirectExchange xExchange){
return BindingBuilder.bind(queueA).to(xExchange).with(“XA”);
}
//绑定QB
@Bean
public Binding queueBBindingX(@Qualifier(“queueB”) Queue queueB,
@Qualifier(“xExchange”) DirectExchange xExchange){
return BindingBuilder.bind(queueB).to(xExchange).with(“XB”);
}
//绑定QC
@Bean
public Binding queueCBindingX(@Qualifier(“queueC”) Queue queueC,
@Qualifier(“xExchange”) DirectExchange xExchange){
return BindingBuilder.bind(queueC).to(xExchange).with(“XC”);
}
}
7.6.2 生产者代码
@Slf4j
@RestController
@RequestMapping(“/ttl”)
public class SendMsgController {
@Autowired
private RabbitTemplate rabbitTemplate;
@GetMapping(“/sendExpirationOnMsg/{message}/{ttlTime}”)
public void sendMsg(@PathVariable String message,
@PathVariable String ttlTime) {
log.info(“当前时间:{},发送一条时长{}毫秒TTL信息给TTL队列QC:{}”, new Date().toString(), ttlTime, message);
rabbitTemplate.convertAndSend(“X”, “XC”, message, msg -> {
//发送消息的时候 延迟时长
msg.getMessageProperties().setExpiration(ttlTime);
return msg;
});
}
发起请求
http://localhost:8080/ttl/sendExpirationMsg/20s的消息/20000
http://localhost:8080/ttl/sendExpirationMsg/2s的消息/2000
看起来似乎没什么问题,但是在最开始的时候,就介绍过如果使用在消息属性上设置 TTL 的方式,消息可能并不会按时“死亡“
因为 RabbitMQ 只会检查第一个消息是否过期,如果过期则丢到死信队列, 如果第一个消息的延时时长很长,而第二个消息的延时时长很短,第二个消息并不会优先得到执行。
这也就是为什么第二个延时2秒,却后执行。
7.7.1 安装插件
如果不能实现在消息粒度上的 TTL,并使其在设置的TTL 时间及时死亡,就无法设计成一个通用的延时队列。那如何解决呢,接下来我们就去解决该问题。
我们用插件来实现别人写好的功能~
安装后,重启rabbitmq-server即可
安装成功后,交换机会出现新的类型
7.7.2 代码架构图
一个队列delayed.queue,一个自定义交换机 delayed.exchange,绑定关系如下
7.7.3 配置文件类代码
在我们自定义的交换机中,这是一种新的交换类型,该类型消息支持延迟投递机制 消息传递后并不会立即投递到目标队列中,而是存储在 mnesia(一个分布式数据系统)表中,当达到投递时间时,才投递到目标队列中。
package com.caq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
@Configuration
public class DelayQueueConfig {
// 交换机
public static final String DELAYED_QUEUE_NAME = “delayed_queue”;
// 队列
public static final String DELAYED_EXCHANGE_NAME = “delayed_exchange”;
// routingKey
public static final String DELAYED_ROUTING_KEY = “delayed_routingkey”;
@Bean
public Queue delayedQueue() {
return new Queue(DELAYED_QUEUE_NAME);
}
// public CustomExchange(String name, String type, boolean durable, boolean autoDelete, Map<String, Object> arguments)
@Bean(“delayedExchange”)
public CustomExchange delayedExchange() {
Map<String, Object> arguments = new HashMap<>();
arguments.put(“x-delayed-type”, “direct”);
return new CustomExchange(DELAYED_EXCHANGE_NAME, “x-delayed-message”,
true, false, arguments);
}
//绑定
@Bean
public Binding delayedQueueBindingDelayedExchange(
@Qualifier(“delayedQueue”) Queue delayedQueue,
@Qualifier(“delayedExchange”) CustomExchange delayedExchange) {
return BindingBuilder.bind(delayedQueue).to(delayedExchange).with(DELAYED_ROUTING_KEY).noargs();
}
}
7.7.4 消息生产者代码
package com.caq.controller;
import com.caq.config.DelayQueueConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import java.util.Date;
/**
-
发送延迟消息
-
http://localhost:8080/ttl/sendMsg/哈哈哈哈哈哈
-
@RestController只返回内容,不进行页面跳转
-
@RequestMapping请求路径
*/
@Slf4j
@RestController
@RequestMapping(“/ttl”)
public class SendMsgController {
/**
-
{}是占位符,结果执行后会被后面的所替换
-
@param message
*/
//通过rabbitTemplate来发送消息
@Autowired
private RabbitTemplate rabbitTemplate;
//开始发消息,基于插件的消息及延迟的时间
@GetMapping(“/sendDelayMsg/{message}/{delayTime}”)
public void sendMsg(@PathVariable String message,
@PathVariable Integer delayTime) {
log.info(“当前时间:{},发送一条时长{}毫秒信息给延迟队列delayed.queue:{}”,
new Date().toString(), delayTime, message);
rabbitTemplate.convertAndSend(DelayQueueConfig.DELAYED_EXCHANGE_NAME,
DelayQueueConfig.DELAYED_ROUTING_KEY, message, msg -> {
msg.getMessageProperties().setDelay(delayTime);
return msg;
});
}
}
7.7.5 消息消费者代码
消费者代码和之前的一样
package com.caq.consumer;
import com.caq.config.DelayQueueConfig;
import com.rabbitmq.client.Channel;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
import java.util.Date;
@Slf4j
@Component
public class DelayQueueConsumer {
//监听消息收消息
@RabbitListener(queues = DelayQueueConfig.DELAYED_QUEUE_NAME)
public void receiveDelayQueue(Message message) {
String msg = new String(message.getBody());
log.info(“当前时间:{},收到延迟队列的消息:{}”, new Date().toString(), msg);
}
}
发起请求测试:
http://localhost:8080/ttl/sendDelayMsg/come on baby1/20000
http://localhost:8080/ttl/sendDelayMsg/come on baby2/2000
延时队列在需要延时处理的场景下非常有用,使用 RabbitMQ 来实现延时队列可以很好的利用RabbitMQ 的特性,如:**消息可靠发送、消息可靠投递、死信队列来保障消息至少被消费一次以及未被正确处理的消息不会被丢弃。**另外,通过 RabbitMQ 集群的特性,可以很好的解决单点故障问题,不会因为单个节点挂掉导致延时队列不可用或者消息丢失。
当然,延时队列还有很多其它选择,比如利用 Java 的 DelayQueue,利用 Redis 的 zset,利用 Quartz或者利用 kafka 的时间轮,这些方式各有特点,看需要适用的场景
=======================================================================
correlated
adj. 有相互关系的
v. (使)相关联;(使)相互对照(correlate 的过去分词)
如何才能进行 RabbitMQ 的消息可靠投递呢? 特别是在这样比较极端的情况,RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢?
8.1.1确认机制方案
8.1.2 代码架构图
8.1.3 配置文件
在配置文件当中需要添加
spring.rabbitmq.publisher-confirm-type=correlated
- NONE
禁用发布确认模式,是默认值
- CORRELATED
发布消息成功到交换器后会触发回调方法
- SIMPLE
经测试有两种效果,其一效果和 CORRELATED 值一样会触发回调方法
其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法等待 broker 节点返回发送结果,根据返回结果来判定下一步的逻辑,要注意的点是
waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel,则接下来无法发送消息到 broker
spring:
rabbitmq:
host: 192.168.42.96
port: 5672
username: admin
password: 123
开启了交换机回调
publisher-confirm-type: correlated
开启回退消息
publisher-returns: true
8.1.4 配置类代码
package com.caq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class ConfirmConfig {
// 交换机
public static final String CONFIRM_EXCHANGE_NAME = “confirm_exchange_name”;
// 队列
public static final String CONFIRM_QUEUE_NAME = “confirm_queue”;
// routingKey
public static final String CONFIRM_ROUTING_KEY = “key1”;
//声明交换机
@Bean(“confirmExchange”)
public DirectExchange confirmExchange(){
return new DirectExchange(CONFIRM_EXCHANGE_NAME);
}
//交换机创建通过new的形式,队列的创建通过对象的方法QueueBuilder.durable
//声明队列
@Bean(“confirmQueue”)
public Queue confirmQueue(){
return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
}
//绑定
@Bean
public Binding confirmQueueBindingConfirmExchange(@Qualifier(“confirmQueue”) Queue confirmQueue,
@Qualifier(“confirmExchange”) DirectExchange confirmExchange){
return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY);
}
}
8.1.5 消息生产者
package com.caq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class ConfirmConfig {
// 交换机
public static final String CONFIRM_EXCHANGE_NAME = “confirm_exchange_name”;
// 队列
public static final String CONFIRM_QUEUE_NAME = “confirm_queue”;
// routingKey
public static final String CONFIRM_ROUTING_KEY = “key1”;
//声明交换机
@Bean(“confirmExchange”)
public DirectExchange confirmExchange(){
return new DirectExchange(CONFIRM_EXCHANGE_NAME);
}
//交换机创建通过new的形式,队列的创建通过对象的方法QueueBuilder.durable
//声明队列
@Bean(“confirmQueue”)
public Queue confirmQueue(){
return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
}
//绑定
@Bean
public Binding confirmQueueBindingConfirmExchange(@Qualifier(“confirmQueue”) Queue confirmQueue,
@Qualifier(“confirmExchange”) DirectExchange confirmExchange){
return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY);
}
}
8.1.6 回调接口
交换机确认回调方法 参数介绍:
1、发消息 交换机接收到了 回调
CorrelationData 保存回调消息的ID及相关信息
交换机收到消息 ack = true
cause null
2、发消息 交换机没有接收到 回调
CorrelationData 保存回调消息的ID及相关信息
交换机收到消息 ack = false
cause 失败的原因
correlation 相互关系
package com.caq.config;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.core.ReturnedMessage;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import javax.annotation.PostConstruct;
@Slf4j
@Component
public class MycallBack implements RabbitTemplate.ConfirmCallback{
@Autowired
private RabbitTemplate rabbitTemplate;
@PostConstruct
public void init(){
//注入
rabbitTemplate.setConfirmCallback(this);
rabbitTemplate.setReturnCallback(this);
}
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
//三元运算
String id = correlationData != null ? correlationData.getId() : “”;
if (ack) {
log.info(“交换机已经收到了Id为:{}的信息”, id);
} else {
log.info(“交换机还未收到了Id为:{}的信息,由于原因:{}”, id, cause);
}
}
}
8.1.7 消息消费者
package com.caq.consumer;
import com.caq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
@Slf4j
@Component
public class Consumer {
//接收消息
@RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE_NAME)
public void receiveConfirmMessage(Message message) {
String msg = new String(message.getBody());
log.info(“接受到的队列confirm,queue消息{}”,msg);
}
}
正常情况:发送消息到交换机
如果交换机收不到消息呢?
怎么回调呢?如果消息发不出去,那就给我返回过来然后保存下来
可以看到,发送了两条消息,第一条消息的 RoutingKey 为 “key1”,第二条消息的 RoutingKey 为"key2",两条消息都成功被交换机接收,也收到了交换机的确认回调,但消费者只收到了一条消息,因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致,也没有其它队列能接收这个消息,所有第二条消息被直接丢弃了。
8.1.1 Mandatory 参数
mandatory
adj. 强制性的,义务的;受(前国际联盟)委任统治的
n. 受托人,代理人(=mandatary)
在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。通过设置 mandatory 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。
8.1.2 在原有回调接口增加代码
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
//三元运算
String id = correlationData != null ? correlationData.getId() : “”;
if (ack) {
log.info(“交换机已经收到了Id为:{}的信息”, id);
} else {
log.info(“交换机还未收到了Id为:{}的信息,由于原因:{}”, id, cause);
}
}
生产者代码保持不变
Fanout类型的交换机是广播类型
有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?
在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时, 就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。
8.3.1 代码架构图
8.3.2 修改配置类
package com.caq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class ConfirmConfig {
// 交换机
public static final String CONFIRM_EXCHANGE_NAME = “confirm_exchange_name”;
// 队列
public static final String CONFIRM_QUEUE_NAME = “confirm_queue”;
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!
如果你觉得这些内容对你有帮助,可以扫码获取!!(备注Java获取)
![img](https://i-blog.csdnimg.cn/blog_migrate/c99917817a7a546e117e0076c6cf4f39.jpeg)
分享
1、算法大厂——字节跳动面试题
2、2000页互联网Java面试题大全
3、高阶必备,算法学习
《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》,点击传送门即可获取!
怎么回调呢?如果消息发不出去,那就给我返回过来然后保存下来
可以看到,发送了两条消息,第一条消息的 RoutingKey 为 “key1”,第二条消息的 RoutingKey 为"key2",两条消息都成功被交换机接收,也收到了交换机的确认回调,但消费者只收到了一条消息,因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致,也没有其它队列能接收这个消息,所有第二条消息被直接丢弃了。
8.1.1 Mandatory 参数
mandatory
adj. 强制性的,义务的;受(前国际联盟)委任统治的
n. 受托人,代理人(=mandatary)
在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。通过设置 mandatory 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。
8.1.2 在原有回调接口增加代码
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
//三元运算
String id = correlationData != null ? correlationData.getId() : “”;
if (ack) {
log.info(“交换机已经收到了Id为:{}的信息”, id);
} else {
log.info(“交换机还未收到了Id为:{}的信息,由于原因:{}”, id, cause);
}
}
生产者代码保持不变
Fanout类型的交换机是广播类型
有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?
在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时, 就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。
8.3.1 代码架构图
8.3.2 修改配置类
package com.caq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class ConfirmConfig {
// 交换机
public static final String CONFIRM_EXCHANGE_NAME = “confirm_exchange_name”;
// 队列
public static final String CONFIRM_QUEUE_NAME = “confirm_queue”;
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。[外链图片转存中…(img-yhIbqo87-1712184472158)]
[外链图片转存中…(img-EZCrxpki-1712184472159)]
[外链图片转存中…(img-Bxlgn98f-1712184472159)]
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!
如果你觉得这些内容对你有帮助,可以扫码获取!!(备注Java获取)
![img](https://i-blog.csdnimg.cn/blog_migrate/c99917817a7a546e117e0076c6cf4f39.jpeg)
分享
1、算法大厂——字节跳动面试题
[外链图片转存中…(img-emUWkQj3-1712184472159)]
2、2000页互联网Java面试题大全
[外链图片转存中…(img-1I1EbrwF-1712184472159)]
3、高阶必备,算法学习
[外链图片转存中…(img-bbqzopaq-1712184472160)]
《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》,点击传送门即可获取!