环境 JDK13 maven3.8.1
目录
一、RabbitMQ整合SpringBoot
建立一个SpringBoot工程,引入依赖
<dependencies> <!--启动器--> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter</artifactId> </dependency> <!--热部署插件--> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-devtools</artifactId> <scope>runtime</scope> <optional>true</optional> </dependency> <!--lombok--> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> <optional>true</optional> </dependency> <!--测试环境--> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> <scope>test</scope> <exclusions> <exclusion> <groupId>org.junit.vintage</groupId> <artifactId>junit-vintage-engine</artifactId> </exclusion> </exclusions> </dependency> <!--web环境--> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <!--RabbitMQ 测试依赖--> <dependency> <groupId>org.springframework.amqp</groupId> <artifactId>spring-rabbit-test</artifactId> <scope>test</scope> </dependency> <!--RabbitMQ 依赖--> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-amqp</artifactId> <version>2.5.3</version> </dependency> <!--swagger--> <dependency> <groupId>io.springfox</groupId> <artifactId>springfox-swagger2</artifactId> <version>2.9.2</version> </dependency> <dependency> <groupId>io.springfox</groupId> <artifactId>springfox-swagger-ui</artifactId> <version>2.9.2</version> </dependency> <!--fastJson--> <dependency> <groupId>com.alibaba</groupId> <artifactId>fastjson</artifactId> <version>1.2.47</version> </dependency> </dependencies>
整合完毕
二、延迟队列
延迟队列概念
延时队列,队列内部是有序的,最重要的特性就体现在它的延时属性上,延时队列中的元素是希望 在指定时间到了以后或之前取出和处理,简单来说,延时队列就是用来存放需要在指定时间被处理的 元素的队列。
延迟队列使用场景
1.订单在十分钟之内未支付则自动取消
2.新创建的店铺,如果在十天内都没有上传过商品,则自动发送消息提醒。
3.用户注册成功后,如果三天内没有登陆则进行短信提醒。
4.用户发起退款,如果三天内没有得到处理则通知相关运营人员。
5.预定会议后,需要在预定的时间点前十分钟通知各个与会人员参加会议
延迟队列实战
配置文件
# 应用名称
spring.application.name=springboot_rabbitmq
server.port=8080
spring.rabbitmq.host=192.168.0.103
spring.rabbitmq.username=root
spring.rabbitmq.password=root
spring.rabbitmq.port=5672
要实现浏览器输入
http://localhost:8080/ttl/sendMsg/嘻嘻嘻
延迟进入死信队列QD
配置类代码,按步骤声明5个构件,并绑定关系
package com.young.mq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
/*
延迟队列
*/
@Configuration
public class TtlQueueConfig {
//普通交换机
public static final String X_EXCHANGE = "X";
//普通队列
public static final String QUEUE_A = "QA";
public static final String QUEUE_B = "QB";
//死信交换机
public static final String DEAD_EXCHANGE = "Y";
//死信队列
public static final String DEAD_QUEUE_D = "QD";
//声明xExchange别名
@Bean("xExchange")
public DirectExchange xExchange(){
return new DirectExchange(X_EXCHANGE);
}
//声明yExchange别名
@Bean("yExchange")
public DirectExchange yExchange(){
return new DirectExchange(DEAD_EXCHANGE);
}
@Bean("queueA")
public Queue queueA(){
//设置参数
Map<String,Object> arguments = new HashMap<>();
//设置死信交换机,死信队列RoutingKey,以及队列消息的过期时间10s
arguments.put("x-dead-letter-exchange",DEAD_EXCHANGE);
arguments.put("x-dead-letter-routing-key","YD");
arguments.put("x-message-ttl",10000);
return QueueBuilder.durable(QUEUE_A).withArguments(arguments).build();
}
@Bean("queueB")
public Queue queueB(){
//设置参数
Map<String,Object> arguments = new HashMap<>();
//设置死信交换机,死信队列RoutingKey,以及队列消息的过期时间10s
arguments.put("x-dead-letter-exchange",DEAD_EXCHANGE);
arguments.put("x-dead-letter-routing-key","YD");
arguments.put("x-message-ttl",40000);
return QueueBuilder.durable(QUEUE_B).withArguments(arguments).build();
}
//死信队列QD
@Bean("queueD")
public Queue queueD(){
return QueueBuilder.durable(DEAD_QUEUE_D).build();
}
//绑定
@Bean
public Binding queueABindX(@Qualifier("queueA") Queue queueA,
@Qualifier("xExchange") DirectExchange xExchange){
return BindingBuilder.bind(queueA).to(xExchange).with("XA");
}
@Bean
public Binding queueBBindX(@Qualifier("queueB") Queue queueB,
@Qualifier("xExchange") DirectExchange xExchange){
return BindingBuilder.bind(queueB).to(xExchange).with("XB");
}
@Bean
public Binding queueDBindY(@Qualifier("queueD") Queue queueD,
@Qualifier("yExchange") DirectExchange yExchange){
return BindingBuilder.bind(queueD).to(yExchange).with("YD");
}
}
发送消息类代码
package com.young.mq.controller;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import java.util.Date;
@Slf4j
@RestController
@RequestMapping("/ttl")
public class SendMsgController {
@Autowired
RabbitTemplate rabbitTemplate;
//发消息 http://localhost:8080/ttl/sendMsg/嘻嘻嘻
@GetMapping("sendMsg/{msg}")
public void sendMsg(@PathVariable String msg){
log.info("{}-->发送消息 :{}",new Date().toString(),msg);
rabbitTemplate.convertAndSend("X","XA","消息是来自ttl为10s的队列:"+msg);
rabbitTemplate.convertAndSend("X","XB","消息是来自ttl为40s的队列:"+msg);
}
}
接收消息端代码
package com.young.mq.consumer;
import com.rabbitmq.client.Channel;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
import java.util.Date;
/*
ttl消费者
*/
@Slf4j
@Component
public class DeadQueueConsumer {
//接收消息
@RabbitListener(queues = "QD")
public void receiveD(Message message, Channel channel) throws Exception{
String msg = new String(message.getBody());
log.info("{}-->收到死信队列消息:{}",new Date().toString(),msg);
}
}
测试
启动SpringBoot工程,访问目标链接
控制台:
其中,第一条立刻显示,10s后第二条打印,再30秒后第三条打印,实验完成
不过,如果这样使用的话,岂不是每增加一个新的时间需求,就要新增一个队列,这里只有 10S 和 40S 两个时间选项,如果需要一个小时后处理,那么就需要增加 TTL 为一个小时的队列,我们需要对此进行改进
延时队列优化
代码架构图
在代码中加一个队列QC,不设置队列消息延时时长
//声明QC
@Bean("queueC")
public Queue queueC(){
Map<String,Object> arguments = new HashMap<>();
arguments.put("x-dead-letter-exchange",DEAD_EXCHANGE);
arguments.put("x-dead-letter-routing-key","YD");
return QueueBuilder.durable(QUEUE_C).withArguments(arguments).build();
}
//绑定QC
@Bean
public Binding queueCBindX(@Qualifier("queueC") Queue queueC,
@Qualifier("xExchange") DirectExchange xExchange){
return BindingBuilder.bind(queueC).to(xExchange).with("XC");
}
发送端代码:
//发送延迟消息
@GetMapping("sendTtlMsg/{msg}/{ttlTime}")
public void sendTtlMsg(@PathVariable String msg,
@PathVariable String ttlTime){
log.info("{}-->发送消息,时长:{}s给QC队列,消息信息 :{}",new Date().toString(),Integer.valueOf(ttlTime)/100,msg);
rabbitTemplate.convertAndSend("X","XC","消息是来自ttl为"+ttlTime+"ms的队列:"+msg,
message -> {
//设置发送消息的延迟时间
message.getMessageProperties().setExpiration(ttlTime);
return message;
});
}
测试输入:
http://localhost:8080/ttl/sendTtlMsg/你好1/20000
http://localhost:8080/ttl/sendTtlMsg/你好1/2000
控制台:
短时间的消息和长时间消息都进入死信队列
看起来似乎没什么问题,但是在最开始的时候,就介绍过如果使用在消息属性上设置 TTL 的方式,消 息可能并不会按时“死亡“,因为 RabbitMQ 只会检查第一个消息是否过期,如果过期则丢到死信队列, 如果第一个消息的延时时长很长,而第二个消息的延时时长很短,第二个消息并不会优先得到执行。
解决方法:
使用RabbitMQ插件解决这一问题
三、RabbitMQ插件实现延迟队列
docker中rabbitmq延迟队列插件的安装
环境rabbitmq3.7.8,插件rabbitmq_delayed_message_exchange-3.8.0.ez
1、将插件复制到镜像中插件文件夹
cp /usr/local/software/rabbitmq_delayed_message_exchange-3.8.0.ez [容器id]:/plugins
2、启用插件不需要带版本号
rabbitmq-plugins enable rabbitmq_delayed_message_exchange
3、查看插件列表
rabbitmq-plugins list
4、重启容器
docker restart [容器id]
5、进入图形管理页面,点击新建路由器
如图有延迟消息路由器,成功
基于插件的延迟流程图
基于插件的延迟队列代码实现
代码架构图
实现代码
在我们自定义的交换机中,这是一种新的交换类型,该类型消息支持延迟投递机制 消息传递后并 不会立即投递到目标队列中,而是存储在 mnesia(一个分布式数据系统)表中,当达到投递时间时,才 投递到目标队列中。
配置类
package com.young.mq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
@Configuration
public class DelayedQueueConfig {
//延迟队列名
public static final String DELAYED_QUEUE_NAME = "delayed.queue";
//延迟交换机
public static final String DELAYED_EXCHANGE_NAME = "delayed.exchange";
//RoutingKey
public static final String DELAYED_ROUTING_KEY = "delayed.routingkey";
//自定义交换机,基于插件
@Bean
public CustomExchange delayedExchange(){
Map<String,Object> args = new HashMap<>();
args.put("x-delayed-type","direct");
return new CustomExchange(DELAYED_EXCHANGE_NAME,"x-delayed-message",true,false,args);
}
//声明队列
@Bean
public Queue delayedQueue(){
return new Queue(DELAYED_QUEUE_NAME);
}
//绑定
@Bean
public Binding queueBindingExchange(@Qualifier("delayedQueue") Queue queue,
@Qualifier("delayedExchange") CustomExchange exchange){
return BindingBuilder.bind(queue).to(exchange).with(DELAYED_ROUTING_KEY).noargs();
}
}
生产者
//基于插件的延迟队列发送消息
@GetMapping("sendDelayedMsg/{msg}/{delayedTime}")
public void sendDelayedTime(@PathVariable String msg,
@PathVariable Integer delayedTime){
log.info("{}-->发送消息,时长:{}ms给延迟队列,消息信息 :{}",new Date(),delayedTime,msg);
rabbitTemplate.convertAndSend(DelayedQueueConfig.DELAYED_EXCHANGE_NAME,DelayedQueueConfig.DELAYED_ROUTING_KEY,msg,
message -> {
//设置发送消息的延迟时间
message.getMessageProperties().setDelay(delayedTime);
return message;
});
}
消费者
package com.young.mq.consumer;
import com.young.mq.config.DelayedQueueConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
import java.util.Date;
@Component
@Slf4j
public class DelayedConsumer {
@RabbitListener(queues = DelayedQueueConfig.DELAYED_QUEUE_NAME)
public void receiveDelayedMsg(Message msg){
String message = new String(msg.getBody());
log.info("时间:{}-->接收到消息:{}",new Date().toString(),message);
}
}
测试:
浏览器输入如下两个链接进行测试
localhost:8080/ttl/sendDelayedMsg/你好20000/20000
localhost:8080/ttl/sendDelayedMsg/你好2000/2000
结果:
我们 发现,20000ms延迟的消息先进行发送,再发送2000ms延迟的消息,结果2000ms延迟消息先被接收到,20000ms的消息后被接收到,解决了通过死信方式实现消息延迟发送的问题
总结
延时队列在需要延时处理的场景下非常有用,使用 RabbitMQ 来实现延时队列可以很好的利用 RabbitMQ 的特性,如:消息可靠发送、消息可靠投递、死信队列来保障消息至少被消费一次以及未被正 确处理的消息不会被丢弃。另外,通过 RabbitMQ 集群的特性,可以很好的解决单点故障问题,不会因为 单个节点挂掉导致延时队列不可用或者消息丢失。
当然,延时队列还有很多其它选择,比如利用 Java 的 DelayQueue,利用 Redis 的 zset,利用 Quartz 或者利用 kafka 的时间轮,这些方式各有特点,看需要适用的场景
四、发布确认高级
代码架构
配置文件
在配置文件当中需要添加 spring.rabbitmq.publisher-confirm-type=correlated
⚫ NONE 禁用发布确认模式,是默认值
⚫ CORRELATED 发布消息成功到交换器后会触发回调方法
⚫ SIMPLE
经测试有两种效果,
其一效果和 CORRELATED 值一样会触发回调方法,
其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法 等待 broker 节点返回发送结果,根据返回结果来判定下一步的逻辑,
要注意的点是 waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel,则接下来无法发送消息到 broker
代码实现
下面实现上图流程
1 正常通信
配置类代码:
package com.young.mq.config;
import net.bytebuddy.asm.MemberSubstitution;
import org.springframework.amqp.core.Binding;
import org.springframework.amqp.core.BindingBuilder;
import org.springframework.amqp.core.DirectExchange;
import org.springframework.amqp.core.Queue;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
/*
发布确认高级内容
*/
@Configuration
public class ConfirmConfig {
//声明交换机和队列名称
public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
public static final String ROUTING_KEY = "key1";
//交换机
@Bean
public DirectExchange confirmExchange(){
Map<String,Object> args = new HashMap<>();
return new DirectExchange(CONFIRM_EXCHANGE_NAME,true,false);
}
//队列
@Bean
public Queue confirmQueue(){
return new Queue(CONFIRM_QUEUE_NAME,true,false,false);
}
//绑定队列和交换机
@Bean
public Binding bindingConfirmQueueExchange(@Qualifier("confirmQueue") Queue queue,
@Qualifier("confirmExchange") DirectExchange exchange){
return BindingBuilder.bind(queue).to(exchange).with(ROUTING_KEY);
}
}
消费者代码
package com.young.mq.consumer;
import com.young.mq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
@Component
@Slf4j
public class ConfirmConsumer {
@RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE_NAME)
public void getConfirmMsg(Message message){
String msg = new String(message.getBody());
log.info("接收的消息:-->"+msg);
}
}
生产者代码
package com.young.mq.controller;
import com.young.mq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
@RestController
@RequestMapping("/confirm")
@Slf4j
public class ProducerController {
@Autowired
private RabbitTemplate rabbitTemplate;
//确认发布高级 ---生产者(测试交换机接收不到消息如何处理)
@GetMapping("sendConfirm/{msg}")
public void sendConfirm(@PathVariable String msg){
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.ROUTING_KEY,msg);
log.info("发送消息,内容为-->{}",msg);
}
}
正常测试发送消息
控制台结果
2 交换机宕机,收不到消息
我们需要开启发布确认模式,默认它是关闭的,配置文件加上:
#开启发布确认模式 spring.rabbitmq.publisher-confirm-type=correlated
除此之外,还需要实现一个RabbitTemplate中的回调函数,ConfirmCallback,不论交换机是否接收到消息,它均会被回调
package com.young.mq.config;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import javax.annotation.PostConstruct;
@Slf4j@Component
public class MyCallBack implements RabbitTemplate.ConfirmCallback {
@Autowired
private RabbitTemplate rabbitTemplate;
@PostConstruct
public void init(){
rabbitTemplate.setConfirmCallback(this);
}
/*
交换机确认回调方法
1 发消息 交换机收到 回调
1.1 保存回调消息的ID及相关消息
1.2 交换机收到消息 true
1.3 失败的原因,成功为null
*/
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
String id = correlationData != null ? correlationData.getId() : "";
if (ack){
log.info("交换机已收到id为-->{}的消息",id);
}else {
log.info("交换机未收到id为-->{}的消息,原因-->{}",id,cause);
}
}
}
而接口的方法中有一个CorrelationData参数,它是消息相关信息,需要生产者调用convertAndSend方法发送消息时写入,修改生产者的代码:
//确认发布高级 ---生产者(测试交换机接收不到消息如何处理)
@GetMapping("sendConfirm/{msg}")
public void sendConfirm(@PathVariable String msg){
CorrelationData correlationData = new CorrelationData("1");
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.ROUTING_KEY,msg,correlationData);
log.info("发送消息,内容为-->{}",msg);
}
测试:
修改发送消息方法中交换机的RoutingKey,模拟交换机宕机
结果:
日志打印出了失败原因,即我们写的回调接口被调用
队列发生意外,接收不到消息
交换机代码正确,修改生产者中队列RoutingKey代码为错误信息
增加一个发送方法,RoutingKey为正确值
@GetMapping("sendConfirm/{msg}")
public void sendConfirm(@PathVariable String msg){
CorrelationData correlationData = new CorrelationData("1");
CorrelationData correlationData2 = new CorrelationData("2");
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.ROUTING_KEY+"2",msg,correlationData);
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.ROUTING_KEY,msg,correlationData2);
log.info("发送消息,内容为-->{}",msg);
log.info("发送消息,内容为-->{}",msg);
}
消费者增加打印RoutingKey方法:
@RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE_NAME)
public void getConfirmMsg(Message message){
String msg = new String(message.getBody());
String routingKey = message.getMessageProperties().getReceivedRoutingKey();
log.info("接收的消息:-->{},RoutingKey-->{}",msg,routingKey);
}
测试:
结果:
交换机均显示接收到消息,而消费者只打印接收到了RoutingKey为key1信道的消息,但是信道丢失消息后并未有任何回调,所以需要回调消息
回退消息
Mandatory 参数
在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如 果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。那么如何 让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。通过设置 mandatory 参 数可以在当消息传递过程中不可达目的地时将消息返回给生产者。
代码实现
先设置配置文件消息退回为开启,默认关闭,交换机路由信道失败自动丢弃消息
#开启失败消息退回 spring.rabbitmq.publisher-returns=true
基于两条消息,但是一条消息的RoutingKey不正确实现,需要实现消息不可达时的回调接口
实现接口中如下方法,参数如图:
/**
* Returned message callback.
*
* @param message the returned message.
* @param replyCode the reply code.
* @param replyText the reply text.
* @param exchange the exchange.
* @param routingKey the routing key.
*/
//可以在当消息传递过程中不可达目的地时将消息返回给生产者。
@Override
public void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey) {
log.error("消息-->{}接收失败,错误码->{},原因:{},交换机:{},RoutingKey:{}",new String(message.getBody()),replyCode,replyText,
exchange,routingKey);
}
将接口注入RabbitTemplate:
下面我们进行测试:
这次同样没有收到第二条消息,但是不同的是错误信息通过回调可以显示
五、备份交换机
有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息 无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然 后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者 所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增 加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的 复杂性,该怎么做呢?前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些 处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。 在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份 交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时, 就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由 备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑 定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都 进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。
代码架构图
代码实现
配置类实现上图架构造
package com.young.mq.config;
import net.bytebuddy.asm.MemberSubstitution;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
/*
发布确认高级内容
*/
@Configuration
public class ConfirmConfig {
//声明交换机和队列名称
public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
public static final String ROUTING_KEY = "key1";
//备份交换机
public static final String BACKUP_EXCHANGE_NAME = "backup.exchange";
//备份队列
public static final String BACKUP_QUEUE_NAME = "backup.queue";
//报警队列
public static final String WARNING_QUEUE_NAME = "warning.queue";
//交换机
@Bean
public DirectExchange confirmExchange(){
Map<String,Object> args = new HashMap<>();
args.put("alternate-exchange",BACKUP_EXCHANGE_NAME);
return ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME).durable(true).withArguments(args).build();
// return new DirectExchange(CONFIRM_EXCHANGE_NAME,true,false);
}
//备份交换机
@Bean
public FanoutExchange backupExchange(){
return new FanoutExchange(BACKUP_EXCHANGE_NAME,true,false);
}
//队列
@Bean
public Queue confirmQueue(){
return new Queue(CONFIRM_QUEUE_NAME,true,false,false);
}
//备份队列
@Bean
public Queue backupQueue(){
return new Queue(BACKUP_QUEUE_NAME,true,false,false);
}
//报警队列
@Bean
public Queue warningQueue(){
return new Queue(WARNING_QUEUE_NAME,true,false,false);
}
//绑定队列和交换机
@Bean
public Binding bindingConfirmQueueExchange(@Qualifier("confirmQueue") Queue queue,
@Qualifier("confirmExchange") DirectExchange exchange){
return BindingBuilder.bind(queue).to(exchange).with(ROUTING_KEY);
}
//绑定备份队列,报警队列和备份交换机
@Bean
public Binding backupQueueBackupExchange(@Qualifier("backupQueue") Queue queue,
@Qualifier("backupExchange") FanoutExchange exchange){
return BindingBuilder.bind(queue).to(exchange);
}
@Bean
public Binding warningQueueBackupExchange(@Qualifier("warningQueue") Queue queue,
@Qualifier("backupExchange") FanoutExchange exchange){
return BindingBuilder.bind(queue).to(exchange);
}
}
注意:普通交换机应修改代码,指定它的备份交换机
报警队列消费者
package com.young.mq.consumer;
import com.young.mq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
@Component
@Slf4j
public class WarningConsumer {
@RabbitListener(queues = ConfirmConfig.WARNING_QUEUE_NAME)
public void receiveWarningMsg(Message message){
log.error("报警队列-->发现不路由消息:{}",message.getBody());
}
}
其余部分复用发布确认模块(上一章节末尾代码)
结果
成功,消息队列触发警告
注意:我们配置的队列回退回调函数并没有触发,可以发现,mandatory 参数与备份交换机可以一起使用的时候,如果两者同时开启,经过上面结果显示答案是备份交换机优先级高。
六、RabbitMQ其他知识点
1 幂等性
概念
用户对于同一操作发起的一次请求或者多次请求的结果是一致的,不会因为多次点击而产生了副作用。 举个最简单的例子,那就是支付,用户购买商品后支付,支付扣款成功,但是返回结果的时候网络异常, 此时钱已经扣了,用户再次点击按钮,此时会进行第二次扣款,返回结果成功,用户查询余额发现多扣钱 了,流水记录也变成了两条。在以前的单应用系统中,我们只需要把数据操作放入事务中即可,发生错误 立即回滚,但是再响应客户端的时候也有可能出现网络中断或者异常等等
消息重复消费
消费者在消费 MQ 中的消息时,MQ 已把消息发送给消费者,消费者在给 MQ 返回 ack 时网络中断, 故 MQ 未收到确认信息,该条消息会重新发给其他的消费者,或者在网络重连后再次发送给该消费者,但 实际上该消费者已成功消费了该条消息,造成消费者消费了重复的消息。
消费端的幂等性保障
在海量订单生成的业务高峰期,生产端有可能就会重复发生了消息,这时候消费端就要实现幂等性, 这就意味着我们的消息永远不会被消费多次,即使我们收到了一样的消息。业界主流的幂等性有两种操作:a. 唯一 ID+指纹码机制,利用数据库主键去重, b.利用 redis 的原子性去实现
唯一 ID+指纹码机制
指纹码:我们的一些规则或者时间戳加别的服务给到的唯一信息码,它并不一定是我们系统生成的,基 本都是由我们的业务规则拼接而来,但是一定要保证唯一性,然后就利用查询语句进行判断这个 id 是否存 在数据库中,优势就是实现简单就一个拼接,然后查询判断是否重复;劣势就是在高并发时,如果是单个数 据库就会有写入性能瓶颈当然也可以采用分库分表提升性能,但也不是我们最推荐的方式。
Redis 原子性(推荐)
利用 redis 执行 setnx 命令,天然具有幂等性。从而实现不重复消费
2 优先级队列
使用场景
在我们系统中有一个订单催付的场景,我们的客户在天猫下的订单,淘宝会及时将订单推送给我们,如 果在用户设定的时间内未付款那么就会给用户推送一条短信提醒,很简单的一个功能对吧,但是,tmall 商家对我们来说,肯定是要分大客户和小客户的对吧,比如像苹果,小米这样大商家一年起码能给我们创 造很大的利润,所以理应当然,他们的订单必须得到优先处理,而曾经我们的后端系统是使用 redis 来存 放的定时轮询,大家都知道 redis 只能用 List 做一个简简单单的消息队列,并不能实现一个优先级的场景, 所以订单量大了后采用 RabbitMQ 进行改造和优化,如果发现是大客户的订单给一个相对比较高的优先级, 否则就是默认优先级。
如何添加
声明信道时指定最高优先级,
然后为消息设置优先级
3 惰性队列
使用场景
RabbitMQ 从 3.6.0 版本开始引入了惰性队列的概念。惰性队列会尽可能的将消息存入磁盘中,而在消 费者消费到相应的消息时才会被加载到内存中,它的一个重要的设计目标是能够支持更长的队列,即支持 更多的消息存储。当消费者由于各种各样的原因(比如消费者下线、宕机亦或者是由于维护而关闭等)而致 使长时间内不能消费消息造成堆积时,惰性队列就很有必要了。
默认情况下,当生产者将消息发送到 RabbitMQ 的时候,队列中的消息会尽可能的存储在内存之中, 这样可以更加快速的将消息发送给消费者。即使是持久化的消息,在被写入磁盘的同时也会在内存中驻留 一份备份。当 RabbitMQ 需要释放内存的时候,会将内存中的消息换页至磁盘中,这个操作会耗费较长的 时间,也会阻塞队列的操作,进而无法接收新的消息。虽然 RabbitMQ 的开发者们一直在升级相关的算法, 但是效果始终不太理想,尤其是在消息量特别大的时候。
两种模式
队列具备两种模式:default 和 lazy。默认的为 default 模式,在 3.6.0 之前的版本无需做任何变更。lazy 模式即为惰性队列的模式,可以通过调用 channel.queueDeclare 方法的时候在参数中设置,也可以通过 Policy 的方式设置,如果一个队列同时使用这两种方式设置的话,那么 Policy 的方式具备更高的优先级。 如果要通过声明的方式改变已有队列的模式的话,那么只能先删除队列,然后再重新声明一个新的。 在队列声明的时候可以通过“x-queue-mode”参数来设置队列的模式,取值为“default”和“lazy”。
下面示 例中演示了一个惰性队列的声明细节:
Map args = new HashMap(); args.put("x-queue-mode", "lazy"); channel.queueDeclare("myqueue", false, false, false, args);
在发送 1 百万条消息,每条消息大概占 1KB 的情况下,普通队列占用内存是 1.2GB,而惰性队列仅仅 占用 1.5MB
七、Federation Exchange(联邦交换机)
使用它的原因
(broker 北京),(broker 深圳)彼此之间相距甚远,网络延迟是一个不得不面对的问题。有一个在北京 的业务(Client 北京) 需要连接(broker 北京),向其中的交换器 exchangeA 发送消息,此时的网络延迟很小, (Client 北京)可以迅速将消息发送至 exchangeA 中,就算在开启了 publisherconfirm 机制或者事务机制的 情况下,也可以迅速收到确认信息。此时又有个在深圳的业务(Client 深圳)需要向 exchangeA 发送消息, 那么(Client 深圳) (broker 北京)之间有很大的网络延迟,(Client 深圳) 将发送消息至 exchangeA 会经历一 定的延迟,尤其是在开启了 publisherconfirm 机制或者事务机制的情况下,(Client 深圳) 会等待很长的延 迟时间来接收(broker 北京)的确认信息,进而必然造成这条发送线程的性能降低,甚至造成一定程度上的 阻塞。
将业务(Client 深圳)部署到北京的机房可以解决这个问题,但是如果(Client 深圳)调用的另些服务都部 署在深圳,那么又会引发新的时延问题,总不见得将所有业务全部部署在一个机房,那么容灾又何以实现? 这里使用 Federation 插件就可以很好地解决这个问题
搭建步骤
1.需要保证每台节点单独运行
2.在每台机器上开启 federation 相关插件
rabbitmq-plugins enable rabbitmq_federation
rabbitmq-plugins enable rabbitmq_federation_management
3.原理图
(先运行 consumer 在 node2 创建 fed_exchange)
八、Shovel
使用它的原因
Federation 具备的数据转发功能类似,Shovel 够可靠、持续地从一个 Broker 中的队列(作为源端,即 source)拉取数据并转发至另一个 Broker 中的交换器(作为目的端,即 destination)。作为源端的队列和作 为目的端的交换器可以同时位于同一个 Broker,也可以位于不同的 Broker 上。Shovel 可以翻译为"铲子", 是一种比较形象的比喻,这个"铲子"可以将消息从一方"铲子"另一方。Shovel 行为就像优秀的客户端应用 程序能够负责连接源和目的地、负责消息的读写及负责连接失败问题的处理。
搭建
1.开启插件(需要的机器都开启)
rabbitmq-plugins enable rabbitmq_shovel
rabbitmq-plugins enable rabbitmq_shovel_management
2.原理图(在源头发送的消息直接回进入到目的地队列)