开篇
首先此篇笔记是看B站尚硅谷的RabbitMQ的教学视频,结合自身实践所做,整体笔记结构跟视频给出的笔记结构不大,之中加入了一些自己的理解。相关源码及其插件和笔记文件我都已上传到本人码云上:
https://gitee.com/zhi-shou/rabbit-mq-study.git
学者自取哈。
1.消息队列
1.1 MQ的相关概念
1.1.1 什么是MQ
MQ(message queue),从字面意思上看,本质是个队列,FIFO 先入先出,只不过队列中存放的内容是message 而已,还是一种跨进程的通信机制,用于上下游传递消息。在互联网架构中,MQ 是一种非常常见的上下游“逻辑解耦+物理解耦”的消息通信服务。使用了 MQ 之后,消息发送上游只需要依赖 MQ,不用依赖其他服务。
1.1.2 为什么要用MQ
-
流量消峰
举个例子,如果订单系统最多能处理一万次订单,这个处理能力应付正常时段的下单时绰绰有余,正常时段我们下单一秒后就能返回结果。但是在高峰期,如果有两万次下单操作系统是处理不了的,只能限制订单超过一万后不允许用户下单。使用消息队列做缓冲,我们可以取消这个限制,把一秒内下的订单分散成一段时间来处理,这时有些用户可能在下单十几秒后才能收到下单成功的操作,但是比不能下单的体验要好。
-
应用解耦
以电商应用为例,应用中有订单系统、库存系统、物流系统、支付系统。用户创建订单后,如果耦合调用库存系统、物流系统、支付系统,任何一个子系统出了故障,都会造成下单操作异常。当转变成基于消息队列的方式后,系统间调用的问题会减少很多,比如物流系统因为发生故障,需要几分钟来修复。在这几分钟的时间里,物流系统要处理的内存被缓存在消息队列中,用户的下单操作可以正常完成。当物流系统恢复后,继续处理订单信息即可,中单用户感受不到物流系统的故障,提升系统的可用性。
-
异步处理
有些服务间调用是异步的,例如 A 调用 B,B 需要花费很长时间执行,但是 A 需要知道 B 什么时候可以执行完,以前一般有两种方式,A 过一段时间去调用 B 的查询 api 查询。或者 A 提供一个 callback api, B 执行完之后调用 api 通知 A 服务。这两种方式都不是很优雅,使用消息总线,可以很方便解决这个问题, A 调用 B 服务后,只需要监听 B 处理完成的消息,当 B 处理完成后,会发送一条消息给 MQ,MQ 会将此消息转发给 A 服务。这样 A 服务既不用循环调用 B 的查询 api,也不用提供 callback api。同样B 服务也不用做这些操作。A 服务还能及时的得到异步处理成功的消息。
1.1.3 MQ的分类
-
ActiveMQ
优点:单机吞吐量万级,时效性 ms 级,可用性高,基于主从架构实现高可用性,消息可靠性较低的概率丢失数据
缺点:官方社区现在对 ActiveMQ 5.x 维护越来越少,高吞吐量场景较少使用。
-
Kafka
大数据的杀手锏,谈到大数据领域内的消息传输,则绕不开 Kafka,这款为大数据而生的消息中间件, 以其百万级TPS 的吞吐量名声大噪,迅速成为大数据领域的宠儿,在数据采集、传输、存储的过程中发挥着举足轻重的作用。目前已经被 LinkedIn,Uber, Twitter, Netflix 等大公司所采纳。
优点: 性能卓越,单机写入 TPS 约在百万条/秒,最大的优点,就是吞吐量高。时效性 ms 级可用性非常高,kafka 是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用,消费者采用 Pull 方式获取消息, 消息有序, 通过控制能够保证所有消息被消费且仅被消费一次;有优秀的第三方Kafka Web 管理界面 Kafka-Manager;在日志领域比较成熟,被多家公司和多个开源项目使用;功能支持: 功能较为简单,主要支持简单的 MQ 功能,在大数据领域的实时计算以及日志采集被大规模使用
缺点:Kafka 单机超过 64 个队列/分区,Load 会发生明显的飙高现象,队列越多,load 越高,发送消息响应时间变长,使用短轮询方式,实时性取决于轮询间隔时间,消费失败不支持重试;支持消息顺序, 但是一台代理宕机后,就会产生消息乱序,社区更新较慢;
-
RocketMQ
RocketMQ 出自阿里巴巴的开源产品,用 Java 语言实现,在设计时参考了 Kafka,并做出了自己的一些改进。被阿里巴巴广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,binglog 分发等场景。
优点:单机吞吐量十万级,可用性非常高,分布式架构,消息可以做到0丢失,MQ 功能较为完善,还是分布式的,扩展性好,支持10亿级别的消息堆积,不会因为堆积导致性能下降,源码是 java 我们可以自己阅读源码,定制自己公司的 MQ
缺点:支持的客户端语言不多,目前是 java 及 c++,其中 c++不成熟;社区活跃度一般,没有在MQ核心中去实现 JMS 等接口,有些系统要迁移需要修改大量代码
-
RabbitMQ
2007 年发布,是一个在AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前主流的消息中间件之一。
优点:由于 erlang 语言的高并发特性,性能较好;吞吐量到万级,MQ 功能比较完备,健壮、稳定、易用、跨平台、支持多种语言 如:Python、Ruby、.NET、Java、JMS、C、PHP、ActionScript、XMPP、STOMP 等,支持 AJAX 文档齐全;开源提供的管理界面非常棒,用起来很好用,社区活跃度高;更新频率相当高
https://www.rabbitmq.com/news.html
缺点:商业版需要收费,学习成本较高
1.1.4 MQ的选择
-
Kafka
kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输,适合产生大量数据的互联网服务的数据收集业务,大型公司建议可以选用,如果有日志采集功能,肯定是首选Kafka了。
-
RocketMQ
天生为金融互联网领域而生,对于可靠性要求很高的场景,尤其是电商里面的订单扣款,以及业务削峰,在大量交易涌入时,后端可能无法及时处理的情况。RocketMQ在稳定性上可能更值得信赖,这些业务场景在阿里双11已经经历了多次考研,如果业务有上述并发场景,建议可用RocketMQ。
-
RabbitMQ
结合erlang语言本身的并发优势,性能好时效性微秒级,社区活跃度比较高,管理界面用起来十分方便,如果数据量没有那么大,中小型公司优先选择功能比较完备的RabbitMQ。
1.2 RabbitMQ
1.2.1 RabbitMQ的概念
RabbitMQ 是一个消息中间件:它接受并转发消息。你可以把它当做一个快递站点,当你要发送一个包裹时,你把你的包裹放到快递站,快递员最终会把你的快递送到收件人那里,按照这种逻辑 RabbitMQ 是一个快递站,一个快递员帮你传递快件。RabbitMQ 与快递站的主要区别在于,它不处理快件而是接收,存储和转发消息数据。
1.2.2 四大核心概念
生产者
产生数据发送消息的程序是生产者
交换机
交换机是 RabbitMQ 非常重要的一个部件,一方面它接收来自生产者的消息,另一方面它将消息推送到队列中。交换机必须确切知道如何处理它接收到的消息,是将这些消息推送到特定队列还是推送到多个队列,亦或者是把消息丢弃,这个得有交换机类型决定
队列
队列RabbitMQ 内部使用的一种数据结构,尽管消息流经 RabbitMQ 和应用程序,但它们只能存储在队列中。队列仅受主机的内存和磁盘限制的约束,本质上是一个大的消息缓冲区。许多生产者可以将消息发送到一个队列,许多消费者可以尝试从一个队列接收数据。这就是我们使用队列的方式
消费者
消费与接收具有相似的含义。消费者大多时候是一个等待接收消息的程序。请注意生产者,消费者和消息中间件很多时候并不在同一机器上。同一个应用程序既可以是生产者又是可以是消费者。
1.2.3 RabbitMQ核心部分
1.2.4 各个名词介绍
Broker:接收和分发消息的应用,RabbitMQ Server 就是 Message Broker
Virtual host:出于多租户和安全因素设计的,把 AMQP 的基本组件划分到一个虚拟的分中,类似于网络中的 namespace 概念。当多个不同的用户使用同一个 RabbitMQ server 提供的服务时,可以划分出多个 vhost,每个用户在自己的 vhost 创建 exchange/queue 等
Connection:publisher/consumer 和 broker 之间的 TCP 连接
Channel:如果每一次访问 RabbitMQ 都建立一个 Connection,在消息量大的时候建立 TCP,Connection 的开销将是巨大的,效率也较低。Channel 是在 connection 内部建立的逻辑连接,如果应用程序支持多线程,通常每个 thread 创建单独的 channel 进行通讯,AMQP method 包含了 channel id 帮助客户端和 message broker 识别 channel,所以 channel 之间是完全隔离的。Channel 作为轻量级的Connection 极大减少了操作系统建立 TCP connection 的开销
Exchange:message 到达 broker 的第一站,根据分发规则,匹配查询表中的 routing key,分发消息到 queue 中去。常用的类型有:direct (point-to-point), topic (publish-subscribe) and fanout(multicast)
Queue:消息最终被送到这里等待 consumer 取走
Binding:exchange 和 queue 之间的虚拟连接,binding 中可以包含 routing key,Binding 信息被保存到 exchange 中的查询表中,用于 message 的分发依据
1.2.5 安装
1.官网地址
https://www.rabbitmq.com/download.html
2.文件上传
上传到/usr/local/software 目录下(如果没有 software 需要自己创建)
3.安装文件(分别按照以下顺序安装)
rpm -ivh erlang-21.3-1.el7.x86_64.rpm
yum install socat -y
rpm -ivh rabbitmq-server-3.8.8-1.el7.noarch.rpm
3.常用命令(按照以下顺序执行)
添加开机启动 RabbitMQ 服务
chkconfig rabbitmq-server on
启动服务
/sbin/service rabbitmq-server start
查看服务状态
/sbin/service rabbitmq-server status
停止服务(选择执行)
/sbin/service rabbitmq-server stop
开启 web 管理插件
rabbitmq-plugins enable rabbitmq_management
用默认账号密码(guest)访问地址 http://127.0.0.1:15672/出现权限问题
4.添加一个新的用户
创建账号
rabbitmqctl add_user admin 123
设置用户角色
rabbitmqctl set_user_tags admin administrator
设置用户权限
set_permissions [-p <vhostpath>] <user> <conf> <write> <read>
rabbitmqctl set_permissions -p “/” admin “." ".” “.*”
用户 user_admin 具有/vhost1 这个 virtual host 中所有资源的配置、写、读权限
当前用户和角色
rabbitmqctl list_users
5.再次利用 admin 用户登录
6.重置命令
关闭应用的命令为
rabbitmqctl stop_app
清除的命令为
rabbitmqctl reset
重新启动命令为
rabbitmqctl start_app
2. Hello World(简单队列模式)
在本教程的这一部分中,我们将用 Java 编写两个程序。发送单个消息的生产者和接收消息并打印出来的消费者。我们将介绍 Java API 中的一些细节。
在下图中,“ P”是我们的生产者,“ C”是我们的消费者。中间的框是一个队列-RabbitMQ 代表使用者保留的消息缓冲区
2.1 依赖
<build>
<plugins>
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-compiler-plugin</artifactId>
<configuration>
<source>8</source>
<target>8</target>
</configuration>
</plugin>
</plugins>
</build>
<dependencies>
<dependency>
<groupId>com.rabbitmq</groupId>
<artifactId>amqp-client</artifactId>
<version>5.7.3</version>
</dependency>
<dependency>
<groupId>commons-io</groupId>
<artifactId>commons-io</artifactId>
<version>2.6</version>
</dependency>
</dependencies>
2.2 消息生产者
package com.zs.rabbitmq.one;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 生产者--->发消息
* @author: lxf
* @create: 2021-07-13 15:14
**/
public class Producer {
//队列名称
public static final String QUEUE_NAME = "hello";
//发消息
public static void main(String[] args) {
//创建一个连接工厂
ConnectionFactory connFactory = new ConnectionFactory();
//工厂IP 连接RabbitMQ的队列
connFactory.setHost("127.0.0.1");
//用户名
connFactory.setUsername("admin");
//密码
connFactory.setPassword("admin");
Connection conn = null;
try {
//创建连接
conn = connFactory.newConnection();
// 获取信道
Channel channel = conn.createChannel();
/**
* 生成一个队列
* com.rabbitmq.client.AMQP.Queue.DeclareOk queueDeclare(String var1, boolean var2, boolean var3, boolean var4, Map<String, Object> var5) throws IOException;
* 第一个参数var1:队列名称(默认为空)
* 第二个参数var2:数据是否持久化(默认为false,消息存储在内存中)
* 第三个参数var3: 该队列是否只供给一个消费者进行消费,是否进行消息共享(默认为true 可以多个消费者消费)
* 第四个参数var4: 最后一个消费者消费完毕后,是否自动删除(默认为true 自动删除)
* 第五个参数var5:其他参数
*/
channel.queueDeclare(QUEUE_NAME,false,false,false,null);
//发消息
String message = "hello world!";
/**
* void basicPublish(String var1, String var2, BasicProperties var3, byte[] var4) throws IOException;
* 第一个参数var1:发送到哪一个交换机
* 第二个参数var2:路由的key值是哪个
* 第三个参数var3: 其他消息信息
* 第四个参数var4: 消息本体
*/
channel.basicPublish("",QUEUE_NAME,null,message.getBytes(StandardCharsets.UTF_8));
System.out.println("消息发送完毕");
} catch (IOException e) {
e.printStackTrace();
} catch (TimeoutException e) {
e.printStackTrace();
}
}
}
运行结果:
SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder".
SLF4J: Defaulting to no-operation (NOP) logger implementation
SLF4J: See http://www.slf4j.org/codes.html#StaticLoggerBinder for further details.
消息发送完毕
RabbitMQ 的UI界面显示:
2.3 消息消费者
package com.zs.rabbitmq.one;
import com.rabbitmq.client.*;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 消息消费者
* @author: lxf
* @create: 2021-07-14 14:54
**/
public class Consumer {
// 队列名称
public static final String QUEUE_NAME = "hello";
// 接收消息
public static void main(String[] args) throws IOException, TimeoutException {
//创建连接工程
ConnectionFactory factory = new ConnectionFactory();
factory.setHost("127.0.0.1");
factory.setUsername("admin");
factory.setPassword("admin");
Connection conn = factory.newConnection();
Channel channel = conn.createChannel();
/*
* 消费者消费消息
* String basicConsume(String var1, boolean var2, DeliverCallback var3, CancelCallback var4) throws IOException;
* var1:消费队列名
* var2:消费成功后是否要自动应答
* var3:消费者未成功消费的回调(函数式结构,详情请看JDK1.8新特性)
* var4:消费者取消消费的回调(函数式结构,详情请看JDK1.8新特性)
*
*/
String str = channel.basicConsume(QUEUE_NAME, true, (var1, var2) -> {
System.out.println(new String(var2.getBody()));
}, var1 -> {
System.out.println("消息被中断");
;
});
System.out.println(str);
}
}
运行结果
SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder".
SLF4J: Defaulting to no-operation (NOP) logger implementation
SLF4J: See http://www.slf4j.org/codes.html#StaticLoggerBinder for further details.
amq.ctag--SPXl24SxBxZ6zU0ZgRe2g
hello world!
3. Work Queues(工作模式)
工作队列(又称任务队列)的主要思想是避免立即执行资源密集型任务,而不得不等待它完成。相反我们安排任务在之后执行。我们将任务封装为消息,并将其发送到队列。在后台运行的工作进程将弹出任务并最终执行作业。当有多个工作线程时,这些工作线程将一起处理这些任务。
3.1 轮训分发消息
在这个案例中将启动两个工作线程,一个消息发送线程,查看两个工作线程如何工作。
个人理解:默认为轮训模式下,队列分发均匀,在两个消费者消费时长不一样的情况下,在任何一方程序不会挂掉的情况下,消息依旧能均匀分发。
3.1.1 工具类
package com.zs.rabbitmq.utils;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import java.io.IOException;
import com.rabbitmq.client.Channel;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: lxf
* @create: 2021-07-14 15:44
**/
public class RabbitMqUtil {
public static Channel getChannel() throws IOException, TimeoutException {
ConnectionFactory factory = new ConnectionFactory();
factory.setHost("127.0.0.1");
factory.setUsername("admin");
factory.setPassword("admin");
Connection conn = factory.newConnection();
return conn.createChannel() ;
}
}
3.1.2 消息生产者
思路:从控制台输入消息发送到队列
package com.zs.rabbitmq.two;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.Scanner;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 消息生产者
* @author: lxf
* @create: 2021-07-14 15:51
**/
public class Producer {
// 队列名称
public static final String QUEUE_NAME = "two";
public static void main(String[] args) throws IOException, TimeoutException {
//消息的发送
Channel channel = RabbitMqUtil.getChannel();
//生成队列
channel.queueDeclare(QUEUE_NAME,false,false,false,null);
// 从控制台当中接收信息
Scanner scanner = new Scanner(System.in);
while (scanner.hasNext()){
String message = scanner.next();
channel.basicPublish("",QUEUE_NAME,null, message.getBytes(StandardCharsets.UTF_8));
System.out.println("发送消息:"+message);
}
}
}
运行结果:
1发送消息:1
2发送消息:2
3发送消息:3
4发送消息:4
5发送消息:5
6发送消息:6
7发送消息:7
8发送消息:8
9发送消息:9
10发送消息:10
3.1.3 消息消费者
思路:创建两个消费者,消费队列中的消息
package com.zs.rabbitmq.two;import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;import java.io.IOException;
import java.nio.charset.StandardCharsets;import java.util.Scanner;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 消息消费者1
* @author: lxf
* @create: 2021-07-14 15:51
**/
public class Producer {
// 队列名称 public static final String QUEUE_NAME = "two";
public static void main(String[] args) throws IOException, TimeoutException {
//消息的发送
Channel channel = RabbitMqUtil.getChannel();
//生成队列
channel.queueDeclare(QUEUE_NAME,false,false,false,null);
// 从控制台当中接收信息
Scanner scanner = new Scanner(System.in);
while (scanner.hasNext()){
String message = scanner.next();
channel.basicPublish("",QUEUE_NAME,null, message.getBytes(StandardCharsets.UTF_8)); System.out.println("发送消息:"+message);
}
}}
运行结果:
收到消息:2
收到消息:4
收到消息:6
收到消息:8
收到消息:10
package com.zs.rabbitmq.two;import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 消息消费者2
* @author: lxf
* @create: 2021-07-14 16:15 **/
public class ConsumerTwo {
public static final String QUEUE_NAME = "two";
public static void main(String[] args) throws IOException, TimeoutException {
//接收消息
Channel channel = RabbitMqUtil.getChannel();
channel.basicConsume(QUEUE_NAME,true,(var1, var2)->{ System.out.println("收到消息:" + new String(var2.getBody())); },var1->{System.out.println("消息失败:"+ var1); });
}}
运行结果:
收到消息:1
收到消息:3
收到消息:5
收到消息:7
收到消息:9
3.2 消息应答
3.2.1 概念
消费者完成一个任务可能需要一段时间,如果其中一个消费者处理一个长的任务并仅只完成了部分突然它挂掉了,会发生什么情况。RabbitMQ 一旦向消费者传递了一条消息,便立即将该消息标记为删除。在这种情况下,突然有个消费者挂掉了,我们将丢失正在处理的消息。以及后续发送给该消费这的消息,因为它无法接收到。
为了保证消息在发送过程中不丢失,rabbitmq 引入消息应答机制,消息应答就是:消费者在接收到消息并且处理该消息之后,告诉 rabbitmq 它已经处理了,rabbitmq 可以把该消息删除了。
3.2.2 自动应答
消息发送后立即被认为已经传送成功,这种模式需要在高吞吐量和数据传输安全性方面做权衡,因为这种模式如果消息在接收到之前,消费者那边出现连接或者 channel 关闭,那么信息就丢失 了,当然另一方面这种模式消费者那边可以传递过载的消息,没有对传递的消息数量进行限制,当然这样有可能使得消费者这边由于接收太多还来不及处理的消息,导致这些消息的积压,最终使得内存耗尽,最终这些消费者线程被操作系统杀死,所以这种模式仅适用在消费者可以高效并以某种速率能够处理这些消息的情况下使用。
3.2.3 手动应答
A.Channel.basicAck(用于肯定确认)
RabbitMQ 已知道该消息并且成功的处理消息,可以将其丢弃了
B.Channel.basicNack(用于否定确认)
C.Channel.basicReject(用于否定确认[拒绝])
与 Channel.basicNack 相比少一个参数(批量处理参数)
不处理该消息了直接拒绝,可以将其丢弃了
3.2.4 Multple 的解释
手动应答的好处是可以批量应答并且减少网络拥堵
void basicAck(long deliveryTag, boolean multiple) throws IOException;
multiple 的 true 和 false 代表不同意思
true 代表批量应答 channel 上未应答的消息
比如说 channel 上有传送 tag 的消息 5,6,7,8 当前 tag 是8 那么此时
5-8 的这些还未应答的消息都会被确认收到消息应答
false 同上面相比
只会应答 tag=8 的消息 5,6,7 这三个消息依然不会被确认收到消息应答
3.2.5 消息自动重新入队
如果消费者由于某些原因失去连接(其通道已关闭,连接已关闭或 TCP 连接丢失),导致消息未发送 ACK 确认,RabbitMQ 将了解到消息未完全处理,并将对其重新排队。如果此时其他消费者可以处理,它将很快将其重新分发给另一个消费者。这样,即使某个消费者偶尔死亡,也可确保不会丢失任何消息。
3.2.6 消息手动应答代码
3.2.6.1 消息生产者
package com.zs.rabbitmq.three;import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;import java.io.IOException;
import java.nio.charset.StandardCharsets;import java.util.Scanner;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: lxf
* @create: 2021-07-14 15:51 **/
public class Producer {
// 队列名称
public static final String QUEUE_NAME = "three";
public static void main(String[] args) throws IOException, TimeoutException {
//消息的发送
Channel channel = RabbitMqUtil.getChannel();
//生成队列
channel.queueDeclare(QUEUE_NAME,false,false,false,null);
// 从控制台当中接收信息
Scanner scanner = new Scanner(System.in);
while (scanner.hasNext()){
String message = scanner.next();
channel.basicPublish("",QUEUE_NAME,null, message.getBytes(StandardCharsets.UTF_8)); System.out.println("发送消息:"+message);
}
}}
运行结果:
1发送消息:1
2发送消息:2
3发送消息:3
4发送消息:4
5发送消息:5
6发送消息:6
7发送消息:7
8发送消息:8
9发送消息:9
10发送消息:10
3.2.6.2 消息消费者
思路:消费者1手动抛出异常,消费者2正常执行,测试消息回插入队列
package com.zs.rabbitmq.three;import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;
public class Consumer {
public static final String QUEUE_NAME = "three";
public static void main(String[] args) throws IOException, TimeoutException {
//接收消息
Channel channel = RabbitMqUtil.getChannel();
channel.basicConsume(QUEUE_NAME,false,(var1, var2)->{
//模拟抛出异常
if (true){
throw new RuntimeException("模拟异常:" + new String(var2.getBody()));
}
System.out.println("收到消息:" + new String(var2.getBody()));
//手动应答
var2.getEnvelope().getDeliveryTag()--->当前消息的标记 multiple 是否批量应答 channel.basicAck(var2.getEnvelope().getDeliveryTag(), false); },var1->{ System.out.println("消息失败:"+ var1); });
}}
运行结果为空
package com.zs.rabbitmq.three;import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;import java.io.IOException;
import java.util.concurrent.TimeUnit;import java.util.concurrent.TimeoutException;
public class ConsumerTwo {
public static final String QUEUE_NAME = "three";
public static void main(String[] args) throws IOException, TimeoutException {
//接收消息
Channel channel = RabbitMqUtil.getChannel();
channel.basicConsume(QUEUE_NAME,false,(var1, var2)->{
//模拟2s延时
try {
TimeUnit.SECONDS.sleep(2);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println("收到消息:" + new String(var2.getBody()));
//手动应答 var2.getEnvelope().getDeliveryTag()--->当前消息的标记 multiple 是否批量应答
channel.basicAck(var2.getEnvelope().getDeliveryTag(), false); },var1->{ System.out.println("消息失败:"+ var1); }); }}
运行结果:
收到消息:1
收到消息:2
收到消息:3
收到消息:4
收到消息:5
收到消息:6
收到消息:7
收到消息:8
收到消息:9
收到消息:10
3.3 RabbitMQ持久化
3.3.1 概念
刚刚我们已经看到了如何处理任务不丢失的情况,但是如何保障当 RabbitMQ 服务停掉以后消息生产者发送过来的消息不丢失。默认情况下 RabbitMQ 退出或由于某种原因崩溃时,它忽视队列和消息,除非告知它不要这样做。确保消息不会丢失需要做两件事:我们需要将队列和消息都标记为持久化。
3.2.2 队列如何实现持久化
前面创建的队列都是非持久化的,RabbitMQ如果重启的话,该队列就会被删掉,如果要队列实现持久化,需要在声明队列的时候吧durable参数设置为持久化
**注意点:**如果队列已经创建,且创建的不是持久化队列,则需要将原先队列删除。或者重新创建一个持久化队列,否则会抛出异常。
UI界面展示持久队列:
3.3.3 消息实现持久化
如果想让队列中消息也实现持久化,则需要在往队列添加消息的方法中,添加属性:MessageProperties.PERSISTENT_TEXT_PLAIN
将消息标记为持久化并不能完全保证不会丢失消息。尽管它告诉 RabbitMQ 将消息保存到磁盘,但是这里依然存在当消息刚准备存储在磁盘的时候 但是还没有存储完,消息还在缓存的一个间隔点。此时并没有真正写入磁盘。持久性保证并不强,但是对于我们的简单任务队列而言,这已经绰绰有余了。
3.4 不公平消息分发(能者多劳)
在最开始的时候我们学习到 RabbitMQ 分发消息采用的轮训分发,但是在某种场景下这种策略并不是很好,比方说有两个消费者在处理任务,其中有个消费者 1 处理任务的速度非常快,而另外一个消费者 2处理速度却很慢,这个时候我们还是采用轮训分发的化就会到这处理速度快的这个消费者很大一部分时间处于空闲状态,而处理慢的那个消费者一直在干活,这种分配方式在这种情况下其实就不太好,但是RabbitMQ 并不知道这种情况它依然很公平的进行分发。
意思就是如果这个任务我还没有处理完或者我还没有应答你,你先别分配给我,我目前只能处理一个任务,然后 rabbitmq 就会把该任务分配给没有那么忙的那个空闲消费者,当然如果所有的消费者都没有完成手上任务,队列还在不停的添加新任务,队列有可能就会遇到队列被撑满的情况,这个时候就只能添加新的 worker 或者改变其他存储任务的策略。
3.5 预取值
本身消息的发送就是异步发送的,所以在任何时候,channel 上肯定不止只有一个消息另外来自消费者的手动确认本质上也是异步的。因此这里就存在一个未确认的消息缓冲区,因此希望开发人员能限制此缓冲区的大小,以避免缓冲区里面无限制的未确认消息问题。这个时候就可以通过使用 basic.qos 方法设置“预取计数”值来完成的。该值定义通道上允许的未确认消息的最大数量。一旦数量达到配置的数量,RabbitMQ 将停止在通道上传递更多消息,除非至少有一个未处理的消息被确认,例如,假设在通道上有未确认的消息 5、6、7,8,并且通道的预取计数设置为 4,此时RabbitMQ 将不会在该通道上再传递任何消息,除非至少有一个未应答的消息被 ack。比方说 tag=6 这个消息刚刚被确认 ACK,RabbitMQ 将会感知这个情况到并再发送一条消息。消息应答和 QoS 预取值对用户吞吐量有重大影响。通常,增加预取将提高向消费者传递消息的速度。虽然自动应答传输消息速率是最佳的,但是,在这种情况下已传递但尚未处理的消息的数量也会增加,从而增加了消费者的 RAM 消耗(随机存取存储器)应该小心使用具有无限预处理的自动确认模式或手动确认模式,消费者消费了大量的消息如果没有确认的话,会导致消费者连接节点的内存消耗变大,所以找到合适的预取值是一个反复试验的过程,不同的负载该值取值也不同 100 到 300 范围内的值通常可提供最佳的吞吐量,并且不会给消费者带来太大的风险。预取值为 1 是最保守的。当然这将使吞吐量变得很低,特别是消费者连接延迟很严重的情况下,特别是在消费者连接等待时间较长的环中。对于大多数应用来说,稍微高一点的值将是最佳的。
4. 发布确认
发布确认是rabbitMQ的消息持久化的加强,如下图所示:
消息持久化:具体可以分为队列持久化和队列中的消息持久化,但是在消息持久化的过程中,消息由生产者传输给队列,队列在将消息进行持久化。在这个过程中队列存在着一个数据缓冲区,假如缓冲区出现状况导致消息还没存储到磁盘,这部分消息也就丢失了 。从这个意义上讲,这个过程还是不安全的。因此需要队列把消息存储到磁盘后,通知生产者消息持久化完成。这个过程就叫做发布确认。
4.1 发布确认原理
生产者将信道设置成 confirm 模式,一旦信道进入 confirm 模式,所有在该信道上面发布的消息都将会被指派一个唯一的 ID(从 1 开始),一旦消息被投递到所有匹配的队列之后,broker 就会发送一个确认给生产者(包含消息的唯一 ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker 回传给生产者的确认消息中 delivery-tag 域包含了确认消息的序列号,此外 broker 也可以设置basic.ack 的multiple 域,表示到这个序列号之前的所有消息都已经得到了处理。confirm 模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信道返回确认的同时继续发送下一条消息,当消息终得到确认之后,生产者应用便可以通过回调方法来处理该确认消息,如果 RabbitMQ 因为自身内部错误导致消息丢失,就会发送一条 nack 消息,生产者应用程序同样可以在回调方法中处理该 nack 消息。
4.2 发布确认的策略
4.2.1 发布确认的开启方法
发布确认默认是没有开启的,如果要开启需要调用方法 confirmSelect,每当你要想使用发布确认,都需要在 channel 上调用该方法
4.2.2 单个确认发布
这是一种简单的确认方式,它是一种同步确认发布的方式,也就是发布一个消息之后只有它被确认发布,后续的消息才能继续发布,waitForConfirmsOrDie(long)这个方法只有在消息被确认的时候才返回,如果在指定时间范围内这个消息没有被确认那么它将抛出异常。
这种确认方式有一个最大的缺点就是:**发布速度特别的慢,**因为如果没有确认发布的消息就会阻塞所有后续消息的发布,这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某些应用程序来说这可能已经足够了。
package com.zs.rabbitmq.four;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.MessageProperties;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.Scanner;
import java.util.concurrent.TimeoutException;
public class Producer {
// 队列名称
public static final String QUEUE_NAME = "four_one";
// 消息数量
public static final int MESSAGE_NUM = 1000;
public static void main(String[] args) throws IOException, TimeoutException, InterruptedException { //消息的发送
Channel channel = RabbitMqUtil.getChannel();
//开启发布确认
channel.confirmSelect();
//生成队列
channel.queueDeclare(QUEUE_NAME,true,false,false,null);
//开始时间
long begin = System.currentTimeMillis();
for (int i = 0; i < MESSAGE_NUM; i++) {
channel.basicPublish("",QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN, ("知守"+i).getBytes(StandardCharsets.UTF_8));
// 单个消息就马上发布确认
boolean flag = channel.waitForConfirms();
if (flag){
System.out.println("消息发送成功:"+ "知守"+i);
}
}
long end = System.currentTimeMillis();
System.out.println("共用时:"+(end-begin));
}}
运行结果:
消息发送成功.....消息发送成功共用时:10522ms
4.2.3 批量确认发布
上面那种方式非常慢,与单个等待确认消息相比,先发布一批消息然后一起确认可以极大地提高吞吐量,当然这种方式的缺点就是:当发生故障导致发布出现问题时,不知道是哪个消息出现问题了,我们必须将整个批处理保存在内存中,以记录重要的信息而后重新发布消息。当然这种方案仍然是同步的,也一样阻塞消息的发布。
package com.zs.rabbitmq.four;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.MessageProperties;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.Scanner;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 批量发布确认
* @author: lxf
* @create: 2021-07-15 11:21
**/
public class ProducerOne {
// 队列名称
public static final String QUEUE_NAME = "four_batch";
public static final int MESSAGE_NUM = 1000;
//批量确认消息大小
public static final int Length = 100;
public static void main(String[] args) throws IOException, TimeoutException, InterruptedException {
//消息的发送
Channel channel = RabbitMqUtil.getChannel();
//开启发布确认
channel.confirmSelect();
//生成队列
channel.queueDeclare(QUEUE_NAME,true,false,false,null);
//开始时间
long begin = System.currentTimeMillis();
// 批量消息发送,批量发布确认
for (int i = 0; i < MESSAGE_NUM; i++) {
channel.basicPublish("",QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN, ("知守"+i).getBytes(StandardCharsets.UTF_8));
// 判断达到100条 批量确认一次
if (i%Length == 0 ){
channel.waitForConfirms();
}
}
// 不满100条最终确认一次
channel.waitForConfirms();
long end = System.currentTimeMillis();
System.out.println("共用时:"+(end-begin)+"ms");
}
}
运行结果:
共用时:281ms
4.2.4 异步确认发布
异步确认虽然编程逻辑比上两个要复杂,但是性价比最高。无论是可靠性还是效率都没得说,他是利用回调函数来达到消息可靠性传递的,这个中间件也是通过函数回调来保证是否投递成功。
package com.zs.rabbitmq.four;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.MessageProperties;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.Scanner;
import java.util.concurrent.ConcurrentLinkedQueue;
import java.util.concurrent.ConcurrentNavigableMap;
import java.util.concurrent.ConcurrentSkipListMap;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 异步发布确认
* @author: lxf
* @create: 2021-07-15 11:22
**/
public class ProducerTwo {
// 队列名称
public static final String QUEUE_NAME = "four_synchron";
public static final int MESSAGE_NUM = 1000;
public static void main(String[] args) throws IOException, TimeoutException {
//消息的发送
Channel channel = RabbitMqUtil.getChannel();
//开启发布确认
channel.confirmSelect();
//生成队列
channel.queueDeclare(QUEUE_NAME,true,false,false,null);
/*
* 线程安全有序的一个哈希表,适用于高并发的情况下
* 1.轻松的将序号与消息进行关联
* 2.轻松批量删除条目 只要给到序号
* 3.支持高并发
*/
ConcurrentSkipListMap<Long, String> queue = new ConcurrentSkipListMap<>();
/*
* 准备消息的监听器 监听哪些消息成功了 哪些消息失败了
* ConfirmListener addConfirmListener(ConfirmCallback ackCallback, ConfirmCallback nackCallback);
* ackCallback: 成功回调函数 deliveryTag:消息的编号 ,multiple 是否批量确认
* nackCallback: 失败回调函数
*/
channel.addConfirmListener((deliveryTag,multiple)->{
//确认到消息,把消息从总消息中删除
if (multiple){
ConcurrentNavigableMap<Long, String> map = queue.headMap(deliveryTag);
map.clear();
}else {
queue.remove(deliveryTag);
}
System.out.println("确认的编号:"+ deliveryTag);
},(deliveryTag,multiple)->{
System.out.println("未确认的消息是:"+ queue.get(deliveryTag));
});//异步通知
//开始时间
long begin = System.currentTimeMillis();
for (int i = 0; i < MESSAGE_NUM; i++) {
channel.basicPublish("",QUEUE_NAME, null, ("知守"+i).getBytes(StandardCharsets.UTF_8));
// 1.记录所有要发送的消息 消息的综合
queue.put(channel.getNextPublishSeqNo(), "知守"+i);
}
long end = System.currentTimeMillis();
System.out.println("共用时:"+(end-begin)+ "ms");
}
}
运行结果:
共用时:40ms
4.2.5 如何处理异步未确认消息
最好的解决的解决方案就是把未确认的消息放到一个基于内存的能被发布线程访问的队列,比如说用 ConcurrentLinkedQueue 这个队列在 confirm callbacks 与发布线程之间进行消息的传递。
4.2.6 三种发布对比
单独发布消息
同步等待确认,简单,但吞吐量非常有限。
批量发布消息
批量同步等待确认,简单,合理的吞吐量,一旦出现问题但很难推断出是那条
消息出现了问题。
异步处理:
最佳性能和资源使用,在出现错误的情况下可以很好地控制,但是实现起来稍微难些
5. 交换机
上面中创建了 一个工作队列,假设工作队列背后,每个任务都恰好交付给一个消费者(工作进程)。将消息传达给多个消费者。这种模式成为”发布/订阅“。
为了说明这种模式,我们将构建一个简单的日志系统。它将由两个程序组成:第一个程序将发出日志消息,第二个程序是消费者。其中我们会启动两个消费者,其中一个消费者接收到消息后把日志存储在磁盘,另外一个消费者接收到消息后把消息打印在屏幕上,事实上第一个程序发出的日志消息将广播给所有消费者
5.1. Exchanges
5.1.1 Exchanges概念
RabbitMQ消息传递模型的核心思想是:生产者生产的消息从不会直接发送到队列。实际上,通产生产者是指都不知道这些消息传递到了那些队列中。
相反,生产者智能将消息发送到交换机(exchange),交换机工作的内容非常简单,一方面它接收来自生产者的消息,另一方面将他们推入队列。交换机必须确切知道如何处理收到的消息。是应该把这些消息放到特定队列还是把它们放到许多队列还是应该丢弃它们。这就由交换机的类型来决定。
5.1.2 Exchanges 的类型
总共有一下类型:
直接(direct):生产者发送消息,相同交换机下的所有消费者接受
主体(topic):生产者发送消息,相同交换机下的相同的routingKey的下的相同topic的所有消费者接收
标题(headers)
扇出(fanout):生产者发送消息,相同交换机下的相同的routingKey的所有消费者接收
5.1.3 无名exchange
在前面部分我们对exchange一无所知,但仍然能将消息发送到队列。原因是我们使用的事默认交换,我们通过空字符串(”“)进行标识
第一个阐述是交换机名称。空字符串标识默认或者无名称交换机;消息能路由发送到队列中其实是有routingKey(bindingkey)绑定key指定的。
5.2. 临时队列
之前的章节我们使用的是具有特定名称的队列。队列名称至关重要-关系到指定消费者具体到去消费哪个队列的消息。
当连接到RabbitMQ时,我们都需要一个全新的空队列,为此我们可以创建一个具有随机名称的队列,或者能让服务器为我们选择一个随机队列名称。其次一旦我们断开了消费者的连接,队列将被自动删除。
创建临时队列的方式如下
String queueName = channel.queueDeclare().getQueue();
5.3. 绑定(bindings)
什么是bindings?
binding是exchange和queue之间的桥梁,它告诉我们exchange和那个队列进行了绑定关系。比如说下面这张图告诉我们的就是X与Q1和Q2进行了绑定。
5.4. Fanout(发布/订阅模式)
5.4.1 Fanout介绍
Fanout这种类型非常简单。正如从名称中猜到的那样,它是将接收到的所有消息广播到它知道的所有队列中。系统中默认有些exchange类型。
5.4.2 Fanout实战
5.4.2.1 消息发布者
package com.zs.rabbitmq.five;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.Scanner;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 发送方
* @author: lxf
* @create: 2021-07-16 15:11
**/
public class EmitLog {
// 交换机名称
private static final String EXCHANGE_NAME = "logs";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(EXCHANGE_NAME, "fanout");
Scanner scanner = new Scanner(System.in);
while (scanner.hasNext()){
String message = scanner.next();
channel.basicPublish(EXCHANGE_NAME,"", null, message.getBytes(StandardCharsets.UTF_8));
System.out.println("成功发布:"+message);
}
}
}
运行结果:
公告:服务器即将维护,请上线玩家尽快下线!!!
成功发布:公告:服务器即将维护,请上线玩家尽快下线!!!
公告:服务器维护完成,具体开服时间请看具体通知!!
成功发布:公告:服务器维护完成,具体开服时间请看具体通知!!
5.4.2.2 消息接收者1
package com.zs.rabbitmq.five;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: lxf
* @create: 2021-07-16 15:12
**/
public class ReceiveLog01 {
// 交换机名称
private static final String EXCHANGE_NAME = "logs";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//声明交换机
channel.exchangeDeclare(EXCHANGE_NAME, "fanout");
//声明一个队列 临时队列
/**
* 声明一个临时队列,队列名称是随机的
* 当消费者断开与队列的连接的时候 队列自动删除
*/
String queueName = channel.queueDeclare().getQueue();
// 绑定交换机与队列
channel.queueBind(queueName,EXCHANGE_NAME,"");
System.out.println("ReceiveLog01等待接收消息,把接收到的消息打印在公屏上。。。。。");
channel.basicConsume(queueName,true, (var1,var2)->{
System.out.println("接收到的消息为:"+new String(var2.getBody(),"UTF-8"));
},var1->{});
}
}
运行结果:
ReceiveLog01等待接收消息,把接收到的消息打印在公屏上。。。。。
接收到的消息为:公告:服务器即将维护,请上线玩家尽快下线!!!
接收到的消息为:公告:服务器维护完成,具体开服时间请看具体通知!!
5.4.2.3 消息接收者2
package com.zs.rabbitmq.five;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: lxf
* @create: 2021-07-16 15:12
**/
public class ReceiveLog02 {
// 交换机名称
private static final String EXCHANGE_NAME = "logs";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//声明交换机
channel.exchangeDeclare(EXCHANGE_NAME, "fanout");
//声明一个队列 临时队列
/*
* 声明一个临时队列,队列名称是随机的
* 当消费者断开与队列的连接的时候 队列自动删除
*/
String queueName = channel.queueDeclare().getQueue();
// 绑定交换机与队列
channel.queueBind(queueName,EXCHANGE_NAME,"");
System.out.println("ReceiveLog02等待接收消息,把接收到的消息打印在公屏上。。。。。");
channel.basicConsume(queueName,true, (var1,var2)->{
System.out.println(new String(var2.getBody(),"UTF-8"));
},var1->{});
}
}
运行结果:
ReceiveLog02等待接收消息,把接收到的消息打印在公屏上。。。。。
公告:服务器即将维护,请上线玩家尽快下线!!!
公告:服务器维护完成,具体开服时间请看具体通知!!
5.5. direct(路由模式)
5.5.1 direct 介绍
Fanout(发布/订阅模式)是将消息广播给所有的生产者,其并不能对消息进行分类传输给不同的队列及其消费者,缺少灵活性。而direct(路由模式)可以对绑定相同的bandingkey的队列传出特定的消息,实现对消息的分类发布。拥有很大的灵活性。
5.2.2 单重绑定
在上面这张图中,我们可以看到 X 绑定了两个队列,绑定类型是 direct。队列Q1 绑定键为 orange,队列 Q2 绑定键有两个:一个绑定键为 black,另一个绑定键为 green.在这种绑定情况下,生产者发布消息到 exchange 上,绑定键为 orange 的消息会被发布到队列Q1。绑定键为 blackgreen 和的消息会被发布到队列 Q2,其他消息类型的消息将被丢弃。
5.2.3 多重绑定
当然如果 exchange 的绑定类型是direct,但是它绑定的多个队列的 key 如果都相同,在这种情况下虽然绑定类型是 direct 但是它表现的就和 fanout 有点类似了,就跟广播差不多,如上图所示。
5.2.3 实战
例子:QQ的用户分为四种,person(普通用户)、vip(会员用户)、svip(超级会员)、bigvip(大会员),管理员针对四种用户发布不同的信息。
5.2.3.1 消息发布者
package com.zs.rabbitmq.six;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.Scanner;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 管理员
* @author: 李向飞
* @create: 2021-07-16 15:51
**/
public class Admin {
private static final String EXCHANGE_NAME = "level";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
// 创建交换机
channel.exchangeDeclare(EXCHANGE_NAME,"direct");
String message1 = "普通用户没有特权";
String message2 = "会员用户享受1.25成长加速,拥有创建500人群";
String message3 = "超级会员享受1.5成长加速,拥有创建1000人群";
String message4 = "会员用户享受1.75成长加速,拥有创建2000人群";
channel.basicPublish(EXCHANGE_NAME,"person", null, message1.getBytes(StandardCharsets.UTF_8));
System.out.println("成功发布:"+message1);
channel.basicPublish(EXCHANGE_NAME,"vip", null, message2.getBytes(StandardCharsets.UTF_8));
System.out.println("成功发布:"+message2);
channel.basicPublish(EXCHANGE_NAME,"svip", null, message3.getBytes(StandardCharsets.UTF_8));
System.out.println("成功发布:"+message3);
channel.basicPublish(EXCHANGE_NAME,"bigvip", null, message4.getBytes(StandardCharsets.UTF_8));
System.out.println("成功发布:"+message4);
}
}
运行结果:
成功发布:普通用户没有特权
成功发布:会员用户享受1.25成长加速,拥有创建500人群
成功发布:超级会员享受1.5成长加速,拥有创建1000人群
成功发布:会员用户享受1.75成长加速,拥有创建2000人群
5.2.3.2 消息接收者1
package com.zs.rabbitmq.six;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 普通用户
* @author: 李向飞
* @create: 2021-07-16 16:04
**/
public class Person {
private static final String EXCHANGE_NAME = "level";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//声明一个队列 临时队列
/**
* 声明一个临时队列,队列名称是随机的
* 当消费者断开与队列的连接的时候 队列自动删除
*/
String queueName = channel.queueDeclare().getQueue();
channel.queueBind(queueName,EXCHANGE_NAME,"person");
System.out.println("普通用户:");
channel.basicConsume(queueName,true, (var1,var2)->{
System.out.println("接收到的消息为:"+new String(var2.getBody(),"UTF-8"));
},var1->{});
}
}
运行结果:
普通用户:
接收到的消息为:普通用户没有特权
5.2.3.3 消息接收者2
package com.zs.rabbitmq.six;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 会员用户
* @author: 李向飞
* @create: 2021-07-16 16:04
**/
public class Vip {
private static final String EXCHANGE_NAME = "level";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//声明一个队列 临时队列
/**
* 声明一个临时队列,队列名称是随机的
* 当消费者断开与队列的连接的时候 队列自动删除
*/
String queueName = channel.queueDeclare().getQueue();
channel.queueBind(queueName,EXCHANGE_NAME,"vip");
System.out.println("会员用户:");
channel.basicConsume(queueName,true, (var1,var2)->{
System.out.println("接收到的消息为:"+new String(var2.getBody(),"UTF-8"));
},var1->{});
}
}
运行结果:
会员用户:
接收到的消息为:会员用户享受1.25成长加速,拥有创建500人群
5.2.3.4 消息接收者3
package com.zs.rabbitmq.six;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 超级会员
* @author: 李向飞
* @create: 2021-07-16 16:05
**/
public class Svip {
private static final String EXCHANGE_NAME = "level";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//声明一个队列 临时队列
/**
* 声明一个临时队列,队列名称是随机的
* 当消费者断开与队列的连接的时候 队列自动删除
*/
String queueName = channel.queueDeclare().getQueue();
channel.queueBind(queueName,EXCHANGE_NAME,"svip");
System.out.println("超级用户:");
channel.basicConsume(queueName,true, (var1,var2)->{
System.out.println("接收到的消息为:"+new String(var2.getBody(),"UTF-8"));
},var1->{});
}
}
运行结果:
超级用户:
接收到的消息为:超级会员享受1.5成长加速,拥有创建1000人群
5.2.3.5 消息接收者4
package com.zs.rabbitmq.six;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description: 大会员
* @author: 李向飞
* @create: 2021-07-16 16:05
**/
public class BigVip {
private static final String EXCHANGE_NAME = "level";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//声明一个队列 临时队列
/**
* 声明一个临时队列,队列名称是随机的
* 当消费者断开与队列的连接的时候 队列自动删除
*/
String queueName = channel.queueDeclare().getQueue();
channel.queueBind(queueName,EXCHANGE_NAME,"bigvip");
System.out.println("大会员:");
channel.basicConsume(queueName,true, (var1,var2)->{
System.out.println("接收到的消息为:"+new String(var2.getBody(),"UTF-8"));
},var1->{});
}
}
运行结果:
大会员:
接收到的消息为:会员用户享受1.75成长加速,拥有创建2000人群
5.6 Topics(主题模式)
5.6.1 Topics介绍
在上面direct(路由模式)中,消息通过不同的routing key,发送到不同的队列中,但仍然存在局限性,比方说此时会员分了等级vip.level1,vip.level2。某个队列只能存vip.level1的消息,这个时候direct就办不到了,这个时候就只能使用topic类型。
5.6.2 Topic的要求
发送到类型是topic交换机的消息的routing_key不能随意写。必须满足一定的要求,它必须是一个单词列表,以点号分开。这些单词可以使任意的单词,比如说:“stock.usd.nyse”,“nyse.vmmw”。其最大长度不能超过255个字节。
在这个规则列表中,其中有两个替换符是大家需要注意的。
*(星号)可以代替一个单词
#(井号)可以代替零个或多个单词
5.6.3 Topic匹配案例
下图绑定关系如下:
Q1 ----> 绑定的是
中间带ornge带3个单词的字符串(*.orange.*)
Q2 ----->绑定的是
最后一个单词是rabbit的三个单词(*.*.rabbit)
第一个单词是lazy的多个单词(lazy.#)
上图是一个队列绑定关系,下面展示它们之间的数据接收情况:
quick.orange.rabbit 被队列Q1 Q2接收
lazy,orange.elephant 被队列Q1 Q2接收
quick.orange.fox 被队列Q1 接收
lazy.brown.fox 被队列Q2 接收
lazy.pink.rabbit 虽然满足两个绑定但只被队列 Q2 接收一次
quick.brown.fox 不匹配任何绑定不会被任何队列接收到会被丢弃
quick.orange.male.rabbit 是四个单词不匹配任何绑定会被丢弃
lazy.orange.male.rabbit 是四个单词但匹配 Q2
当队列绑定关系是下列这种情况时需要引起注意
当一个队列绑定键是**#,**那么这个队列将接收所有数据,就有点像 fanout 了
如果队列绑定键当中没有**#和***出现,那么该队列绑定类型就是 direct 了
5.6.4 实战
5.6.4.1 消息发送者
package com.zs.rabbitmq.seven;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.HashMap;
import java.util.Map;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 15:03
**/
public class EmitLogTopic {
private static final String EXCHANGE_NAME = "topic_logs";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(EXCHANGE_NAME, "topic");
Map<String, String> bindingKeyMap = new HashMap<String, String>();
bindingKeyMap.put("quick.orange.rabbit", "被队列Q1Q2接收到");
bindingKeyMap.put("lazy,orange.elephant", "被队列Q1Q2接收到");
bindingKeyMap.put("quick.orange.fox", "被队列Q1接收到");
bindingKeyMap.put("lazy.brown.fox", "被队列Q2接收到");
bindingKeyMap.put("lazy.pink.rabbit", "虽然满足两个绑定但只被队列 Q2 接收一次");
bindingKeyMap.put("quick.brown.fox", "不匹配任何绑定不会被任何队列接收到会被丢弃");
bindingKeyMap.put("quick.orange.male.rabbit", "是四个单词不匹配任何绑定会被丢弃");
bindingKeyMap.put("lazy.orange.male.rabbit", "是四个单词不匹配任何绑定会被丢弃");
for (Map.Entry<String, String> entry : bindingKeyMap.entrySet()) {
String bindingKey = entry.getKey();
String message = entry.getValue();
channel.basicPublish(EXCHANGE_NAME, bindingKey, null, message.getBytes(StandardCharsets.UTF_8));
System.out.println("消息发送成功:" + message);
}
}
}
运行结果:
SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder".
SLF4J: Defaulting to no-operation (NOP) logger implementation
SLF4J: See http://www.slf4j.org/codes.html#StaticLoggerBinder for further details.
消息发送成功:是四个单词不匹配任何绑定会被丢弃
消息发送成功:不匹配任何绑定不会被任何队列接收到会被丢弃
消息发送成功:被队列Q2接收到
消息发送成功:被队列Q1Q2接收到
消息发送成功:被队列Q1Q2接收到
消息发送成功:被队列Q1接收到
消息发送成功:虽然满足两个绑定但只被队列 Q2 接收一次
消息发送成功:是四个单词不匹配任何绑定会被丢弃
5.6.4.2 消息接收者1
package com.zs.rabbitmq.seven;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 15:30
**/
public class ReceiveLogsTopic01 {
private static final String EXCHANGE_NAME = "topic_logs";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(EXCHANGE_NAME,"topic");
//声明与Q1队列绑定关系
String queueName = "Q1";
channel.queueDeclare(queueName,false, false,false,null);
channel.queueBind(queueName,EXCHANGE_NAME,"*.orange.*");
System.out.println("Q1等待接收消息.............");
channel.basicConsume(queueName,true,(consumerTag, message) -> {
System.out.println("接收队列:"+ queueName+",绑定键:"+message.getEnvelope().getRoutingKey()+",消息为:"+new String(message.getBody()));
}, consumerTag -> {});
}
}
运行结果:
SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder".
SLF4J: Defaulting to no-operation (NOP) logger implementation
SLF4J: See http://www.slf4j.org/codes.html#StaticLoggerBinder for further details.
Q1等待接收消息.............
接收队列:Q1,绑定键:lazy.brown.fox,消息为:被队列Q2接收到
接收队列:Q1,绑定键:quick.orange.fox,消息为:被队列Q1接收到
接收队列:Q1,绑定键:lazy.orange.male.rabbit,消息为:是四个单词不匹配任何绑定会被丢弃
5.6.4.3 消息接收者2
package com.zs.rabbitmq.seven;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 15:38
**/
public class ReceiveLogsTopic02 {
private static final String EXCHANGE_NAME = "topic_logs";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(EXCHANGE_NAME,"topic");
//声明与Q1队列绑定关系
String queueName = "Q1";
channel.queueDeclare(queueName,false, false,false,null);
channel.queueBind(queueName,EXCHANGE_NAME,"*.*.rabbit");
channel.queueBind(queueName,EXCHANGE_NAME,"lazy.#");
System.out.println("Q2等待接收消息.............");
channel.basicConsume(queueName,true,(consumerTag, message) -> {
System.out.println("接收队列:"+ queueName+",绑定键:"+message.getEnvelope().getRoutingKey()+",消息为:"+new String(message.getBody()));
}, consumerTag -> {});
}
}
运行结果:
Q2等待接收消息.............
接收队列:Q1,绑定键:quick.orange.rabbit,消息为:被队列Q1Q2接收到
接收队列:Q1,绑定键:lazy.pink.rabbit,消息为:虽然满足两个绑定但只被队列 Q2 接收一次
6. 死信队列
6.1 死信的概念
死信,顾名思义就是无法被消费的消息,字面意思可以这样理解,一般来说,producer将消息投递到broker或者直接到Queue里了,consumer从queue取出消息进行消费,但某些时候由于特定的原因导致queue中的某些消息无法被消费,这样的消息如果没有后续的处理,就变成了死信,有死信自然就有了死信队列。
应用场景:为了保证订单业务的消息数据不丢失,需要使用到RabbitMQ的死信队列机制,当消息消费发生异常时,将消息投入死信队列中,还有比如说:用户在商城下单成功并点击去支付后,在指定的时间未支付时自动失效。
6.2 死信的来源
消息TTL过期
队列达到最大程度(队列满了,无法再添加数据到mq中)
消息被拒绝(basic.reject 或 basic.nack)并且requeue=false
6.3 死信实战
6.3.1 代码架构图
6.3.2 消息TTL过期
生产者代码
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 17:10
**/
public class Producer {
private static final String NORMAL_EXCHANGE = "normal_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
AMQP.BasicProperties properties = new AMQP.BasicProperties().builder().expiration("5000").build();
// 设置消息的TTL时间
for (int i = 1; i < 11; i++) {
String message = "info"+i;
channel.basicPublish(NORMAL_EXCHANGE,"zhangsan", properties, message.getBytes(StandardCharsets.UTF_8));
System.out.println("生产者发送消息:"+message);
}
}
}
消费者C1代码(启动后关闭该消费者,模拟其接收不到消息)
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.HashMap;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 17:26
**/
public class Consumer01 {
private static final String NORMAL_EXCHANGE = "normal_exchange";
private static final String DEAD_EXCHANGE = "dead_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//正产队列绑定死信队列信息
HashMap<String, Object> params = new HashMap<>();
// 正常队列设置死信交换机 参数key为固定值
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
// 正常队列设置死信routing-key 参数key是固定值
params.put("x-dead-letter-routing-key", "lisi");
// 声明交换机类型
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
// 声明死信、普通队列
String deadQueue = "dead-queue";
channel.queueDeclare(deadQueue, false, false, false, null);
String normalQueue = "normal-queue";
channel.queueDeclare(normalQueue, false, false, false, params);
// 普通、死信队列绑定交换机与routingkey
channel.queueBind(deadQueue, DEAD_EXCHANGE, "lisi");
channel.queueBind(normalQueue, NORMAL_EXCHANGE, "zhangsan");
//声明正常队列
System.out.println("等待接收消息");
channel.basicConsume(normalQueue,true,(consumerTag, message) -> {
System.out.println("Consumer01接收到消息:"+ new String(message.getBody()));
},(consumerTag)->{});
}
}
结果:
消费者C2代码:
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 18:19
**/
public class Consumer02 {
private static final String DEAD_EXCHANGE = "dead_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
String deadQueue = "dead-queue";
channel.queueBind(deadQueue, DEAD_EXCHANGE, "lisi");
System.out.println("等待接收死信队列......");
channel.basicConsume(deadQueue,true,(consumerTag, message) -> {
System.out.println("Consumer02接收到消息:"+ new String(message.getBody()));
},(consumerTag)->{});
}
}
结果:
等待接收死信队列......
Consumer02接收到消息:info1
Consumer02接收到消息:info2
Consumer02接收到消息:info3
Consumer02接收到消息:info4
Consumer02接收到消息:info5
Consumer02接收到消息:info6
Consumer02接收到消息:info7
Consumer02接收到消息:info8
Consumer02接收到消息:info9
Consumer02接收到消息:info10
6.3.3 队列达到最大长度
生产者代码
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-20 16:59
**/
public class ProducerMax {
private static final String NORMAL_EXCHANGE = "normal_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
for (int i = 1; i < 11; i++) {
String message = "info" + i;
channel.basicPublish(NORMAL_EXCHANGE, "zhangsan", null, message.getBytes());
System.out.println("生产者发送消息:" + message);
}
}
}
消费者1代码:
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.HashMap;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-20 17:22
**/
public class ConsumerMax01 {
private static final String NORMAL_EXCHANGE = "normal_exchange";
private static final String DEAD_EXCHANGE = "dead_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//正产队列绑定死信队列信息
HashMap<String, Object> params = new HashMap<>();
// 正常队列设置死信交换机 参数key为固定值
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
// 正常队列设置死信routing-key 参数key是固定值
params.put("x-dead-letter-routing-key", "lisi");
// 设置队列最大长度
params.put("x-max-length",6);
// 声明交换机类型
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
// 声明死信、普通队列
String deadQueue = "dead-queue";
channel.queueDeclare(deadQueue, false, false, false, null);
String normalQueue = "normal-queue-max";
channel.queueDeclare(normalQueue, false, false, false, params);
// 普通、死信队列绑定交换机与routing-key
channel.queueBind(deadQueue, DEAD_EXCHANGE, "lisi");
channel.queueBind(normalQueue, NORMAL_EXCHANGE, "zhangsan");
System.out.println("等待接收消息");
channel.basicConsume(normalQueue,true,(consumerTag, message) -> {
System.out.println("Consumer01接收到消息:"+ new String(message.getBody()));
},(consumerTag)->{});
}
}
运行结果:
消费者2代码:
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 18:19
**/
public class ConsumerMax02 {
private static final String DEAD_EXCHANGE = "dead_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
String deadQueue = "dead-queue";
channel.queueBind(deadQueue, DEAD_EXCHANGE, "lisi");
System.out.println("等待接收死信队列......");
channel.basicConsume(deadQueue,true,(consumerTag, message) -> {
System.out.println("Consumer02接收到消息:"+ new String(message.getBody()));
},(consumerTag)->{});
}
}
运行结果:
等待接收死信队列......
Consumer02接收到消息:info1
Consumer02接收到消息:info2
Consumer02接收到消息:info3
Consumer02接收到消息:info4
6.3.4 消息被拒
消息生产者:
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-20 17:40
**/
public class ProducerRefuse {
private static final String NORMAL_EXCHANGE = "normal_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
for (int i = 1; i < 11; i++) {
String message = "info" + i;
channel.basicPublish(NORMAL_EXCHANGE, "zhangsan", null, message.getBytes());
System.out.println("生产者发送消息:" + message);
}
}
}
消费者01:
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.HashMap;
import java.util.Map;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-20 17:40
**/
public class ConsumerRefuse01 {
private static final String NORMAL_EXCHANGE = "normal_exchange";
private static final String DEAD_EXCHANGE = "dead_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
//声明交换机
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
//制造参数
Map<String, Object> params = new HashMap<>();
// 正常队列设置死信交换机、routing-key 参数key为固定值
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
params.put("x-dead-letter-routing-key", "lisi");
//声明队列
String normalQueue = "normal-queue-refuse";
String deadQueue = "dead-queue";
channel.queueDeclare(deadQueue, false, false, false, null);
channel.queueDeclare(normalQueue, true, false, false, params);
//绑定交换机、队列
channel.queueBind(deadQueue, DEAD_EXCHANGE, "lisi");
channel.queueBind(normalQueue, NORMAL_EXCHANGE, "zhangsan");
// 接收信息
System.out.println("ConsumerRefuse01开始接收消息........");
channel.basicConsume(normalQueue, false, (consumerTag, delivery) -> {
String message = new String(delivery.getBody());
if ("info5".equals(message)) {
System.out.println("ConsumerRefuse01 接收到消息" + message + "并拒绝签收该消息");
//requeue 设置为 false 代表拒绝重新入队 该队列如果配置了死信交换机将发送到死信队列中
channel.basicReject(delivery.getEnvelope().getDeliveryTag(), false);
} else {
System.out.println("ConsumerRefuse01 接收到消息" + message);
}
}, (consumerTag) -> {
});
}
}
运行结果:
消费者2:
package com.zs.rabbitmq.eight;
import com.rabbitmq.client.BuiltinExchangeType;
import com.rabbitmq.client.Channel;
import com.zs.rabbitmq.utils.RabbitMqUtil;
import java.io.IOException;
import java.util.concurrent.TimeoutException;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-19 18:19
**/
public class Consumer02 {
private static final String DEAD_EXCHANGE = "dead_exchange";
public static void main(String[] args) throws IOException, TimeoutException {
Channel channel = RabbitMqUtil.getChannel();
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
String deadQueue = "dead-queue";
channel.queueBind(deadQueue, DEAD_EXCHANGE, "lisi");
System.out.println("等待接收死信队列......");
channel.basicConsume(deadQueue,true,(consumerTag, message) -> {
System.out.println("Consumer02接收到消息:"+ new String(message.getBody()));
},(consumerTag)->{});
}
}
运行结果:
等待接收死信队列......
Consumer02接收到消息:info5
7. 延迟队列
7.1 延迟队列概念
延迟队列,队列内部中是有序的,最重要的特性就是体现在它的延时属性上,延时队列中的元素是希望在指定时间到了以后或之前取出和处理,简单来说,延时队列就是用来存放需要在指定时间被处理的元素的队列。
7.2 延迟队列使用场景
1、订单在十分钟之内未支付则自动取消
2、新创建的店铺,如果在十天内都没有上传过商品,则自动发送消息提醒。
3、用户注册成功后,如果三天内没有登录则进行短信提醒。
4、用户发起退款,如果三天内没有得到处理则通知相关运营人员。
5、预定会议后,需要在预定的时间点前十分钟通知各个参会人员参加会议
这些场景都有一个特点,需要在某个时间发生之后或者之前的指定时间点完成某一项任务。如:发生订单生成时间,在十分钟之后检查该订单支付状态,然后将未支付的订单进行关闭;看起来使用定时任务,一直轮询数据,每一秒查一次,取出需要被处理的数据,然后处理就可以了。但这只适用于数据量较少的情况。就如”如果账单一周内未支付则进行自动结算“这样的需求。对于时间不是严格限制,而是宽松意义上的一周,那么每天晚上跑个定时任务检查一下所有未支付的账单,确实也是一个可行的方案,但对于数据量比较大,并且时效性强的场景。如”订单十分钟内未支付则关闭“。短期内未支付的订单数据可能会有很多,活动期间甚至会达到百万甚至千万级别。对这个庞大的数据量仍旧使用轮训的方式显然是不可取的。很可能在一秒内无法完成所有订单的检查,同时会给数据库带来很大的压力,无法满足业务要求而且性能低下。
7.3 RabbitMQ中的TTL
TTL 是什么呢?TTL 是 RabbitMQ 中一个消息或者队列的属性,表明一条消息或者该队列中的所有消息的最大存活时间,单位是毫秒。换句话说,如果一条消息设置了 TTL 属性或者进入了设置TTL 属性的队列,那么这条消息如果在TTL 设置的时间内没有被消费,则会成为"死信"。如果同时配置了队列的TTL 和消息的TTL,那么较小的那个值将会被使用,有两种方式设置 TTL。
7.3.1 消息设置TTL
@GetMapping("/sendMsgTime/{message}/{time}")
public String sendMsgTime(@PathVariable String message,@PathVariable int time){
log.info("当前时间:{},发送一条延迟为{}s的消息到优化队列:{}", new Date().toString(),time,message);
rabbitTemplate.convertAndSend("X","XC",message,var1->{
var1.getMessageProperties().setExpiration(String.valueOf(time*1000));
return var1;
});
return "消息发送成功";
}
7.3.2 队列设置TTL
@GetMapping("/sendMsgTime/{message}/{time}")
public String sendMsgTime(@PathVariable String message,@PathVariable int time){
log.info("当前时间:{},发送一条延迟为{}s的消息到优化队列:{}", new Date().toString(),time,message);
rabbitTemplate.convertAndSend("X","XC",message,var1->{
var1.getMessageProperties().setExpiration(String.valueOf(time*1000));
return var1;
});
return "消息发送成功";
}
7.3.3 两者的区别
如果设置了队列的 TTL 属性,那么一旦消息过期,就会被队列丢弃(如果配置了死信队列被丢到死信队列中),而第二种方式,消息即使过期,也不一定会被马上丢弃,因为消息是否过期是在即将投递到消费者之前判定的,如果当前队列有严重的消息积压情况,则已过期的消息也许还能存活较长时间;另外,还需要注意的一点是,如果不设置 TTL,表示消息永远不会过期,如果将 TTL 设置为 0,则表示除非此时可以直接投递该消息到消费者,否则该消息将会被丢弃。
前一小节我们介绍了死信队列,刚刚又介绍了 TTL,至此利用 RabbitMQ 实现延时队列的两大要素已经集齐,接下来只需要将它们进行融合,再加入一点点调味料,延时队列就可以新鲜出炉了。想想看,延时队列,不就是想要消息延迟多久被处理吗,TTL 则刚好能让消息在延迟多久之后成为死信,另一方面,成为死信的消息都会被投递到死信队列里,这样只需要消费者一直消费死信队列里的消息就完事了,因为里面的消息都是希望被立即处理的消息。
7.4 整合SpringBoot
7.4.1 创建项目
7.4.2 引入依赖
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>fastjson</artifactId>
<version>1.2.75</version>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<version>1.18.18 </version>
</dependency>
<dependency>
<groupId>io.springfox</groupId>
<artifactId>springfox-swagger2</artifactId>
<version>2.9.2</version>
</dependency>
<dependency>
<groupId>io.springfox</groupId>
<artifactId>springfox-swagger-ui</artifactId>
<version>2.9.2</version>
</dependency>
<dependency>
<groupId>org.springframework.amqp</groupId>
<artifactId>spring-rabbit-test</artifactId>
<version>2.3.9</version>
</dependency>
</dependencies>
7.4.3 修改配置文件
spring.rabbitmq.host=127.0.0.1
spring.rabbitmq.port=5672
spring.rabbitmq.username=admin
spring.rabbitmq.password=admin
7.4.4 添加Swagger配置类
package com.zs.springrabbitmq.config;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import springfox.documentation.builders.ApiInfoBuilder;
import springfox.documentation.service.ApiInfo;
import springfox.documentation.service.Contact;
import springfox.documentation.spi.DocumentationType;
import springfox.documentation.spring.web.plugins.Docket;
import springfox.documentation.swagger2.annotations.EnableSwagger2;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-21 13:57
**/
@Configuration
@EnableSwagger2
public class SwaggerConfig {
@Bean
public Docket webApiConfig() {
return new Docket(DocumentationType.SWAGGER_2)
.groupName("webApi")
.apiInfo(webApiInfo())
.select()
.build();
}
private ApiInfo webApiInfo() {
return new ApiInfoBuilder()
.title("rabbitmq 接口文档")
.description("本文档描述了 rabbitmq 微服务接口定义")
.version("1.0")
.contact(new Contact("zhishou", "xxxxx","xxxxx"))
.build();
}
}
7.5 队列TTL
7.5.1 代码架构图
创建两个队列QA与QB,两者队列TTL分别设置为10s和40s,然后在创建一个交换机X和死信交换机Y,它们的类型都是direct,创建一个死信队列QD,它们的绑定关系如下:
7.5.2 配置类文件代码
package com.zs.springrabbitmq.config;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-21 15:32
**/
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
/**
* TTL队列 配置文件类代码
*/
@Configuration
public class TtlQueueConfig {
//普通交换机名称
private final static String NORMAL_EXCHANGE = "X";
//死信交换机名称
private final static String DEAD_EXCHANGE = "Y";
//普通队列名称、routing-key
private final static String NORMAL_QUEUE_A = "QA";
private final static String NORMAL_A_ROUTING_KEY = "XA";
private final static String NORMAL_QUEUE_B = "QB";
private final static String NORMAL_B_ROUTING_KEY = "XB";
// 优化队列名称、routing-key
// private final static String OPTIMIZATION_QUEUE_C = "QC";
// private final static String OPTIMIZATION_C_ROUTING_KEY = "XC";
//死信队列名称、死信routing-key
private final static String DEAD_QUEUE = "QD";
private final static String DEAD_ROUTING_KEY = "YD";
//声明交换机
@Bean("normalExchange")
public DirectExchange normalExchange() {
return new DirectExchange(NORMAL_EXCHANGE);
}
@Bean("deadExchange")
public DirectExchange deadExchange() {
return new DirectExchange(DEAD_EXCHANGE);
}
// 声明普通队列
@Bean
public Queue normalQueueA() {
HashMap<String, Object> params = new HashMap<>();
//设置死信交换机
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
//设置死信Routing-key
params.put("x-dead-letter-routing-key", DEAD_ROUTING_KEY);
//设置过期时间(TTL)
params.put("x-message-ttl", 10000);
return QueueBuilder.durable(NORMAL_QUEUE_A).withArguments(params).build();
}
@Bean
public Queue normalQueueB() {
HashMap<String, Object> params = new HashMap<>();
//设置死信交换机
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
//设置死信Routing-key
params.put("x-dead-letter-routing-key", DEAD_ROUTING_KEY);
//设置过期时间(TTL)
params.put("x-message-ttl", 40000);
return QueueBuilder.durable(NORMAL_QUEUE_B).withArguments(params).build();
}
// 优化点:声明优化队列
// @Bean
// public Queue optimizationQueueC() {
// HashMap<String, Object> params = new HashMap<>();
// //设置死信交换机
// params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
// //设置死信Routing-key
// params.put("x-dead-letter-routing-key", DEAD_ROUTING_KEY);
// return QueueBuilder.durable(OPTIMIZATION_QUEUE_C).withArguments(params).build();
// }
@Bean
public Queue deadQueue() {
return QueueBuilder.durable(DEAD_QUEUE).build();
}
//绑定
@Bean
public Binding queueABindingX(@Qualifier("normalQueueA") Queue queueA,
@Qualifier("normalExchange") DirectExchange normalExchange) {
return BindingBuilder.bind(queueA).to(normalExchange).with(NORMAL_A_ROUTING_KEY);
}
@Bean
public Binding queueBBindingX(@Qualifier("normalQueueB") Queue queueB,
@Qualifier("normalExchange") DirectExchange normalExchange) {
return BindingBuilder.bind(queueB).to(normalExchange).with(NORMAL_B_ROUTING_KEY);
}
@Bean
public Binding queueABindingY(@Qualifier("deadQueue") Queue deadQueue,
@Qualifier("deadExchange") DirectExchange deadExchange) {
return BindingBuilder.bind(deadQueue).to(deadExchange).with(DEAD_ROUTING_KEY);
}
// 优化点:绑定
// @Bean
// public Binding queueCBindingX(@Qualifier("optimizationQueueC") Queue queueC,
// @Qualifier("normalExchange") DirectExchange normalExchange) {
// return BindingBuilder.bind(queueC).to(normalExchange).with(OPTIMIZATION_C_ROUTING_KEY);
// }
}
7.5.3 消息生产者代码
package com.zs.springrabbitmq.controller;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;
import java.util.Date;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-21 16:36
**/
@Slf4j
@CrossOrigin
@RestController
@RequestMapping("/ttl")
public class SendMsgController {
@Autowired
private RabbitTemplate rabbitTemplate;
//开始发消息
@GetMapping("/sendMsg/{message}")
public String sendMsg(@PathVariable String message){
log.info("当前时间:{},发送一条信息给两个TTL队列:{}", new Date().toString(),message);
rabbitTemplate.convertAndSend("X","XA","消息来自TTL为10s的队列:"+message);
rabbitTemplate.convertAndSend("X","XB","消息来自TTL为40s的队列:"+message);
return "消息发送成功";
}
//开始发消息
@GetMapping("/sendMsgTime/{message}/{time}")
public String sendMsgTime(@PathVariable String message,@PathVariable int time){
log.info("当前时间:{},发送一条延迟为{}s的消息到优化队列:{}", new Date().toString(),time,message);
rabbitTemplate.convertAndSend("X","XC",message,var1->{
var1.getMessageProperties().setExpiration(String.valueOf(time*1000));
return var1;
});
return "消息发送成功";
}
}
7.5.4 消息消费者代码
package com.zs.springrabbitmq.consumer;
import com.rabbitmq.client.Channel;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
import java.util.Date;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-21 16:51
**/
@Slf4j
@Component
public class DeadLetterQueueConsumer {
//接收消息
@RabbitListener(queues = "QD")
public void receiveD(Message message, Channel channel){
String msg = new String(message.getBody());
log.info("当前时间:{},收到死信队列的消息:{}",new Date().toString(),msg);
}
}
发送请求:http://localhost:8080/ttl/sendMsg/_
第一条消息在 10S 后变成了死信消息,然后被消费者消费掉,第二条消息在 40S 之后变成了死信消息,然后被消费掉,这样一个延时队列就打造完成了。
不过,如果这样使用的话,岂不是每增加一个新的时间需求,就要新增一个队列,这里只有 10S 和 40S两个时间选项,如果需要一个小时后处理,那么就需要增加TTL 为一个小时的队列,如果是预定会议室然后提前通知这样的场景,岂不是要增加无数个队列才能满足需求?
7.6 延时队列
7.6.1 代码架构图
在这里新增了一个队列QC,绑定关系如下,该队列不设置TTL时间
7.6.2 配置文件类
package com.zs.springrabbitmq.config;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-21 15:32
**/
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
/**
* TTL队列 配置文件类代码
*/
@Configuration
public class TtlQueueConfig {
//普通交换机名称
private final static String NORMAL_EXCHANGE = "X";
//死信交换机名称
private final static String DEAD_EXCHANGE = "Y";
//普通队列名称、routing-key
private final static String NORMAL_QUEUE_A = "QA";
private final static String NORMAL_A_ROUTING_KEY = "XA";
private final static String NORMAL_QUEUE_B = "QB";
private final static String NORMAL_B_ROUTING_KEY = "XB";
// 优化队列名称、routing-key
private final static String OPTIMIZATION_QUEUE_C = "QC";
private final static String OPTIMIZATION_C_ROUTING_KEY = "XC";
//死信队列名称、死信routing-key
private final static String DEAD_QUEUE = "QD";
private final static String DEAD_ROUTING_KEY = "YD";
//声明交换机
@Bean("normalExchange")
public DirectExchange normalExchange() {
return new DirectExchange(NORMAL_EXCHANGE);
}
@Bean("deadExchange")
public DirectExchange deadExchange() {
return new DirectExchange(DEAD_EXCHANGE);
}
// 声明普通队列
@Bean
public Queue normalQueueA() {
HashMap<String, Object> params = new HashMap<>();
//设置死信交换机
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
//设置死信Routing-key
params.put("x-dead-letter-routing-key", DEAD_ROUTING_KEY);
//设置过期时间(TTL)
params.put("x-message-ttl", 10000);
return QueueBuilder.durable(NORMAL_QUEUE_A).withArguments(params).build();
}
@Bean
public Queue normalQueueB() {
HashMap<String, Object> params = new HashMap<>();
//设置死信交换机
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
//设置死信Routing-key
params.put("x-dead-letter-routing-key", DEAD_ROUTING_KEY);
//设置过期时间(TTL)
params.put("x-message-ttl", 40000);
return QueueBuilder.durable(NORMAL_QUEUE_B).withArguments(params).build();
}
// 优化点:声明优化队列
@Bean
public Queue optimizationQueueC() {
HashMap<String, Object> params = new HashMap<>();
//设置死信交换机
params.put("x-dead-letter-exchange", DEAD_EXCHANGE);
//设置死信Routing-key
params.put("x-dead-letter-routing-key", DEAD_ROUTING_KEY);
return QueueBuilder.durable(OPTIMIZATION_QUEUE_C).withArguments(params).build();
}
@Bean
public Queue deadQueue() {
return QueueBuilder.durable(DEAD_QUEUE).build();
}
//绑定
@Bean
public Binding queueABindingX(@Qualifier("normalQueueA") Queue queueA,
@Qualifier("normalExchange") DirectExchange normalExchange) {
return BindingBuilder.bind(queueA).to(normalExchange).with(NORMAL_A_ROUTING_KEY);
}
@Bean
public Binding queueBBindingX(@Qualifier("normalQueueB") Queue queueB,
@Qualifier("normalExchange") DirectExchange normalExchange) {
return BindingBuilder.bind(queueB).to(normalExchange).with(NORMAL_B_ROUTING_KEY);
}
@Bean
public Binding queueABindingY(@Qualifier("deadQueue") Queue deadQueue,
@Qualifier("deadExchange") DirectExchange deadExchange) {
return BindingBuilder.bind(deadQueue).to(deadExchange).with(DEAD_ROUTING_KEY);
}
// 优化点:绑定
@Bean
public Binding queueCBindingX(@Qualifier("optimizationQueueC") Queue queueC,
@Qualifier("normalExchange") DirectExchange normalExchange) {
return BindingBuilder.bind(queueC).to(normalExchange).with(OPTIMIZATION_C_ROUTING_KEY);
}
}
7.6.3 消息生产者代码
package com.zs.springrabbitmq.controller;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;
import java.util.Date;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-21 16:36
**/
@Slf4j
@CrossOrigin
@RestController
@RequestMapping("/ttl")
public class SendMsgController {
@Autowired
private RabbitTemplate rabbitTemplate;
//开始发消息
@GetMapping("/sendMsg/{message}")
public String sendMsg(@PathVariable String message){
log.info("当前时间:{},发送一条信息给两个TTL队列:{}", new Date().toString(),message);
rabbitTemplate.convertAndSend("X","XA","消息来自TTL为10s的队列:"+message);
rabbitTemplate.convertAndSend("X","XB","消息来自TTL为40s的队列:"+message);
return "消息发送成功";
}
//开始发消息
@GetMapping("/sendMsgTime/{message}/{time}")
public String sendMsgTime(@PathVariable String message,@PathVariable int time){
log.info("当前时间:{},发送一条延迟为{}s的消息到优化队列:{}", new Date().toString(),time,message);
rabbitTemplate.convertAndSend("X","XC",message,var1->{
var1.getMessageProperties().setExpiration(String.valueOf(time*1000));
return var1;
});
return "消息发送成功";
}
}
发起请求:
http://localhost:8080/ttl/sendMsgTime/hello/10
http://localhost:8080/ttl/sendMsgTime/meate/20
看起来似乎没什么问题,但是在最开始的时候,就介绍过如果使用在消息属性上设置 TTL 的方式,消息可能并不会按时“死亡“,因为 RabbitMQ 只会检查第一个消息是否过期,如果过期则丢到死信队列,如果第一个消息的延时时长很长,而第二个消息的延时时长很短,第二个消息并不会优先得到执行。
7.7 RabbitMQ插件实现延迟队列
上文中提到的问题,确实是一个问题,如果不能实现在消息粒度上的 TTL,并使其在设置的TTL 时间及时死亡,就无法设计成一个通用的延时队列。那如何解决呢,接下来我们就去解决该问题。
7.7.1 安装延时队列插件
注:具体的插件我放到我的码云项目中了
插件安装流程:
1、去官网 https://www.rabbitmq.com/community-plugins.html
找到rabbitmq_delayed_message_exchange插件。
进入 RabbitMQ 的安装目录下的 plgins 目录,执行下面命令让该插件生效,然后重启 RabbitMQ
rabbitmq-plugins enable rabbitmq_delayed_message_exchange
7.7.2 代码架构图
新增一个队列delayed.queue,一个自定义delayed.exchange
7.7.3 配置文件类代码
在自定义的交换机中,这是一种新的交换类型,该类型消息支持延迟投递机制,消息传递后并不会立即投递到目标队列中,而是村住在mnesia(一个分布式数据系统)表中,当达到投递时间,才会投递到目标队列中。
package com.zs.springrabbitmq.config;
import org.springframework.amqp.core.Binding;
import org.springframework.amqp.core.BindingBuilder;
import org.springframework.amqp.core.CustomExchange;
import org.springframework.amqp.core.Queue;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-23 15:03
**/
@Configuration
public class DelayedQueueConfig {
//队列
public static final String DELAYED_QUEUE_NAME = "delayed.queue";
//交换机
public static final String DELAYED_EXCHANGE_NAME = "delayed.exchange";
//routingKey
public static final String DELAYED_ROUTINGKEY_NAME = "delayed.routingKey";
//声明队列
@Bean
public Queue delayedQueue() {
return new Queue(DELAYED_QUEUE_NAME);
}
//声明交换机
@Bean
public CustomExchange delayedExchange() {
/**
* 1、交换机的名称
* 2、交换机的类型
* 3、是否需要持久化
* 4、是否需要自动删除
* 5、其他参数
*/
HashMap<String, Object> params = new HashMap<>();
params.put("x-delayed-type", "direct");
return new CustomExchange(DELAYED_EXCHANGE_NAME, "x-delayed-message", true, false, params);
}
//绑定
@Bean
public Binding delayedQueueBindingDelayedExchange(@Qualifier("delayedQueue") Queue delayedQueue,
@Qualifier("delayedExchange") CustomExchange delayedExchange) {
return BindingBuilder.bind(delayedQueue).to(delayedExchange).with(DELAYED_ROUTINGKEY_NAME).noargs();
}
}
7.7.4 消息生产者代码
//开始发消息 基于插件
@GetMapping("/sendDelayMsg/{message}/{time}")
public String sendDelayMsg(@PathVariable String message,@PathVariable Integer time){
log.info("当前时间:{},发送一条延迟为{}s的消息到插件队列:{}", new Date().toString(),time,message);
rabbitTemplate.convertAndSend("delayed.exchange","delayed.routingKey",message,var1->{
var1.getMessageProperties().setDelay(time*1000);
return var1;
});
return "消息发送成功";
}
7.7.5 消息消费者代码
package com.zs.springrabbitmq.consumer;
import com.rabbitmq.client.Channel;
import com.zs.springrabbitmq.config.DelayedQueueConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
import java.util.Date;
/**
* @program: rabbit-mq-study
* @description: 基于插件的延迟消息
* @author: 李向飞
* @create: 2021-07-23 15:28
**/
@Slf4j
@Component
public class DelayQueueConsumer {
//接收消息
@RabbitListener(queues = DelayedQueueConfig.DELAYED_QUEUE_NAME)
public void receiveD(Message message, Channel channel){
String msg = new String(message.getBody());
log.info("当前时间:{},收到插件延迟队列的消息:{}",new Date().toString(),msg);
}
}
发送请求:
http://localhost:8080/ttl/sendDelayMsg/comeon01/30
http://localhost:8080/ttl/sendDelayMsg/comeon02/10
7.8 总结
延时队列在需要延时处理的场景下非常有用,使用 RabbitMQ 来实现延时队列可以很好的利用RabbitMQ 的特性,如:消息可靠发送、消息可靠投递、死信队列来保障消息至少被消费一次以及未被正确处理的消息不会被丢弃。另外,通过 RabbitMQ 集群的特性,可以很好的解决单点故障问题,不会因为单个节点挂掉导致延时队列不可用或者消息丢失。
当然,延时队列还有很多其它选择,比如利用 Java 的 DelayQueue,利用 Redis 的 zset,利用 Quartz或者利用 kafka 的时间轮,这些方式各有特点,看需要适用的场景
8. 发布确认高级
在生产环境中由于一些不明原因,导致 rabbitmq 重启,在 RabbitMQ 重启期间生产者消息投递失败,导致消息丢失,需要手动处理和恢复。于是,我们开始思考,如何才能进行 RabbitMQ 的消息可靠投递呢? 特别是在这样比较极端的情况,RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢?
8.1 发布确认SpringBoot版本
8.1.1 确认机制方案
8.1.2 代码架构图
8.1.3 配置文件
在配置文件中需要添加
# 交换机进行确认消息
spring.rabbitmq.publisher-confirm-type=correlated
其中:
NONE(禁用发布确认模式,是默认值)
CORRELATED(发布消息成功后交换器后会触发回调方法)
SIMPLE(经测试有两种效果,其一效果和CORRELATED值一样会触发回调方法。其二在发布消息成功后使用rabbitTemplate调用waitForConfirms或者waitForConfirmsOrDie方法等待broker节点返回发送结果,根据返回结果来判定下一步的逻辑,要注意的是waitForConfirmsOrDie方法如果返回false则会关闭channel,则接下来无法发送消息到broker)
8.1.4 添加配置类
package com.zs.springrabbitmq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.stereotype.Component;
import java.util.HashMap;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 10:03
**/
/**
* 配置类 发布确认
*
*/
@Configuration
public class ConfirmConfig {
//交换机
public final static String CONFIRM_EXCHANGE_NAME = "confirm_exchange";
//队列
public final static String CONFIRM_QUEUE_NAME = "confirm_queue";
//Routing-key
public final static String CONFIRM_ROUTING_KEY = "key1";
//声明交换机
@Bean
public DirectExchange confirmExchange(){
return ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME).withArgument("alternate-exchange",BACKUP_EXCHANGE_NAME).build();
}
//声明队列
@Bean
public Queue confirmQueue(){
return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
}
//绑定交换机
@Bean
public Binding queueBindingExchange(@Qualifier("confirmExchange")DirectExchange directExchange,
@Qualifier("confirmQueue")Queue queue){
return BindingBuilder.bind(queue).to(directExchange).with(CONFIRM_ROUTING_KEY);
}
}
8.1.5 消息生产者
//开始发消息 测试确认
@GetMapping("/send/{message}")
public String send(@PathVariable String message){
log.info("当前时间:{},发送一条信息给队列:{}", new Date().toString(),message);
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.CONFIRM_ROUTING_KEY,"队列:"+message,new CorrelationData("1"));
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.CONFIRM_ROUTING_KEY+"2","队列:"+message,new CorrelationData("2"));
return "消息发送成功";
}
8.1.6 回调接口
package com.zs.springrabbitmq.config;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.ReturnedMessage;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import javax.annotation.PostConstruct;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 10:40
**/
@Slf4j
@Component
public class MyCallBack implements RabbitTemplate.ConfirmCallback {
//注入
@Autowired
private RabbitTemplate rabbitTemplate;
@PostConstruct
public void init(){
rabbitTemplate.setConfirmCallback(this);
}
/**
* 交换机确认回调方法
* 1、发消息 交换机收到了 回调
* 1.1 correlationData 保存回调消息的ID及其相关信息
* 1.2 交换机收到消息 ack = true
* 1.3 cause null
* 2、发消息 交换机接收失败 回调
* 2.1 correlationData 保存回调消息的ID及其相关信息
* 2.2 交换机收到消息 ack = false
* 2.3 cause 失败圆心
*/
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
String id = correlationData != null? correlationData.getId(): "";
if (ack) {
log.info("交换机已经收到Id为:{}的消息",id);
}else {
log.info("交换机未收到Id为:{}的消息,原因:{}",id,cause);
}
}
}
8.1.7 消息消费者
package com.zs.springrabbitmq.consumer;
import com.zs.springrabbitmq.config.ConfirmConfig;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 10:24
**/
@Component
public class Consumer {
@RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE_NAME)
public void receiveConfirmMessage(Message message){
System.out.println(new String(message.getBody()));
}
}
8.1.8 结果分析
2021-07-26 14:41:44.926 INFO 66820 --- [nio-8080-exec-1] c.z.s.controller.SendMsgController : 当前时间:Mon Jul 26 14:41:44 CST 2021,发送一条信息给队列:知守
2021-07-26 14:41:44.938 INFO 66820 --- [nectionFactory1] com.zs.springrabbitmq.config.MyCallBack : 交换机已经收到Id为:2的消息
2021-07-26 14:41:44.947 INFO 66820 --- [nectionFactory1] com.zs.springrabbitmq.config.MyCallBack : 交换机已经收到Id为:1的消息
队列:知守
可以看到发送了两条消息,第一条的消息的routing-key为key1,第二条的为key12,两条消息都被对应的交换机接收,也都收到了交换机的确认回调,但是消费者只收到了一条消息,因为第二条消息的routingkey与队列的BindingKey不一致,也没有其它队列能够接收到这条消息,所以第二条消息被直接丢弃了。
8.2 回退消息
8.2.1 Mandatory 参数
在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事情的。那么如何让无法被路由的消息通知消费者,通过mandatory参数可以当消息传递过程中不可达目的地时将消息返回给生产者。
8.2.2 消息生产者代码
//开始发消息 测试确认
@GetMapping("/send/{message}")
public String send(@PathVariable String message){
log.info("当前时间:{},发送一条信息给队列:{}", new Date().toString(),message);
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.CONFIRM_ROUTING_KEY,"队列:"+message,new CorrelationData("1"));
rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,ConfirmConfig.CONFIRM_ROUTING_KEY+"2","队列:"+message,new CorrelationData("2"));
return "消息发送成功";
}
8.2.3 回调接口
package com.zs.springrabbitmq.config;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.ReturnedMessage;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import javax.annotation.PostConstruct;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 10:40
**/
@Slf4j
@Component
public class MyCallBack implements RabbitTemplate.ConfirmCallback,RabbitTemplate.ReturnsCallback {
//注入
@Autowired
private RabbitTemplate rabbitTemplate;
@PostConstruct
public void init(){
rabbitTemplate.setConfirmCallback(this);
rabbitTemplate.setReturnsCallback(this);
}
/**
* 交换机确认回调方法
* 1、发消息 交换机收到了 回调
* 1.1 correlationData 保存回调消息的ID及其相关信息
* 1.2 交换机收到消息 ack = true
* 1.3 cause null
* 2、发消息 交换机接收失败 回调
* 2.1 correlationData 保存回调消息的ID及其相关信息
* 2.2 交换机收到消息 ack = false
* 2.3 cause 失败圆心
*/
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
String id = correlationData != null? correlationData.getId(): "";
if (ack) {
log.info("交换机已经收到Id为:{}的消息",id);
}else {
log.info("交换机未收到Id为:{}的消息,原因:{}",id,cause);
}
}
//可以当消息传递过程中不可达目的地时将消息返回给生产者
@Override
public void returnedMessage(ReturnedMessage returned) {
log.info("消息:{},被交换机{}退回,退回原因:{},路由key{}",new String(returned.getMessage().getBody()),returned.getExchange(),returned.getReplyText(),returned.getRoutingKey());
}
}
8.2.4 结果分析
021-07-26 14:41:44.926 INFO 66820 --- [nio-8080-exec-1] c.z.s.controller.SendMsgController : 当前时间:Mon Jul 26 14:41:44 CST 2021,发送一条信息给队列:知守
2021-07-26 14:41:44.937 INFO 66820 --- [nectionFactory1] com.zs.springrabbitmq.config.MyCallBack : 消息:队列:知守,被交换机confirm_exchange退回,退回原因:NO_ROUTE,路由keykey12
2021-07-26 14:41:44.938 INFO 66820 --- [nectionFactory1] com.zs.springrabbitmq.config.MyCallBack : 交换机已经收到Id为:2的消息
2021-07-26 14:41:44.947 INFO 66820 --- [nectionFactory1] com.zs.springrabbitmq.config.MyCallBack : 交换机已经收到Id为:1的消息
队列:知守
可以看到发送的routing-key为key12的第二条消息,被回调接口成功抓取,并退回,通知了结果。
8.3 备份交换机
有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时,就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。
8.3.1 代码架构图
8.3.2 修改配置类
package com.zs.springrabbitmq.config;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.stereotype.Component;
import java.util.HashMap;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 10:03
**/
/**
* 配置类 发布确认
*
*/
@Configuration
public class ConfirmConfig {
//交换机
public final static String CONFIRM_EXCHANGE_NAME = "confirm_exchange";
//队列
public final static String CONFIRM_QUEUE_NAME = "confirm_queue";
//Routing-key
public final static String CONFIRM_ROUTING_KEY = "key1";
//备份交换机
public final static String BACKUP_EXCHANGE_NAME = "backup_exchange";
//备份队列
public final static String BACKUP_QUEUE_NAME = "backup_queue";
//报警队列
public final static String WARNING_QUEUE_NAME = "warning_queue";
//声明交换机
@Bean
public DirectExchange confirmExchange(){
return ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME).withArgument("alternate-exchange",BACKUP_EXCHANGE_NAME).build();
}
//声明队列
@Bean
public Queue confirmQueue(){
return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
}
//绑定交换机
@Bean
public Binding queueBindingExchange(@Qualifier("confirmExchange")DirectExchange directExchange,
@Qualifier("confirmQueue")Queue queue){
return BindingBuilder.bind(queue).to(directExchange).with(CONFIRM_ROUTING_KEY);
}
//备份交换机创建
@Bean
public FanoutExchange backupExchange(){
return new FanoutExchange(BACKUP_EXCHANGE_NAME);
}
//备份队列
@Bean
public Queue backupQueue(){
return QueueBuilder.durable(BACKUP_QUEUE_NAME).build();
}
//备份交换机 队列绑定
@Bean
public Binding backupExchangeBindingBackupQueue(@Qualifier("backupExchange")FanoutExchange exchange,
@Qualifier("backupQueue")Queue queue){
return BindingBuilder.bind(queue).to(exchange);
}
//告警队列
@Bean
public Queue warningQueue(){
return QueueBuilder.durable(WARNING_QUEUE_NAME).build();
}
//报警队列绑定
@Bean
public Binding backupExchangeBindingWarningQueue(@Qualifier("backupExchange")FanoutExchange exchange,
@Qualifier("warningQueue")Queue queue){
return BindingBuilder.bind(queue).to(exchange);
}
}
8.3.3 报警消费者
package com.zs.springrabbitmq.consumer;
import com.zs.springrabbitmq.config.ConfirmConfig;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 14:21
**/
@Component
public class WarningConsumer {
@RabbitListener(queues = ConfirmConfig.WARNING_QUEUE_NAME)
public void receiveConfirmMessage(Message message){
System.out.println("告警:"+new String(message.getBody()));
}
}
8.3.4 结果分析
注意:因要修改之前所创建的confirm_exchange交换机的配置,在测试之前需要将之前创建的交换机删除!!
2021-07-26 15:01:19.256 INFO 70472 --- [nio-8080-exec-1] c.z.s.controller.SendMsgController : 当前时间:Mon Jul 26 15:01:19 CST 2021,发送一条信息给队列:知守
队列:知守
告警:队列:知守
2021-07-26 15:01:19.276 INFO 70472 --- [nectionFactory1] com.zs.springrabbitmq.config.MyCallBack : 交换机已经收到Id为:1的消息
2021-07-26 15:01:19.299 INFO 70472 --- [nectionFactory1] com.zs.springrabbitmq.config.MyCallBack : 交换机已经收到Id为:2的消息
mandatory 参数与备份交换机可以一起使用的时候,如果两者同时开启,消息究竟何去何从?谁优先级高,经过上面结果显示答案是备份交换机优先级高。
9. RabbitMQ其他知识点
9.1 幂等性
9.1.1 概念
用户对于同一操作发起的一次请求或者多次请求的结果是一致的,不会因为多次点击而产生了副作用。举个最简单的例子,那就是支付,用户购买商品后支付,支付扣款成功,但是返回结果的时候网络异常,此时钱已经扣了,用户再次点击按钮,此时会进行第二次扣款,返回结果成功,用户查询余额发现多扣钱了,流水记录也变成了两条。在以前的单应用系统中,我们只需要把数据操作放入事务中即可,发生错误立即回滚,但是再响应客户端的时候也有可能出现网络中断或者异常等等
9.1.2 消息重复消费
消费者在消费 MQ 中的消息时,MQ 已把消息发送给消费者,消费者在给MQ 返回 ack 时网络中断,故 MQ 未收到确认信息,该条消息会重新发给其他的消费者,或者在网络重连后再次发送给该消费者,但实际上该消费者已成功消费了该条消息,造成消费者消费了重复的消息。
9.1.3 解决思路
MQ 消费者的幂等性的解决一般使用全局 ID 或者写个唯一标识比如时间戳 或者 UUID 或者订单消费者消费 MQ 中的消息也可利用 MQ 的该 id 来判断,或者可按自己的规则生成一个全局唯一 id,每次消费消息时用该 id 先判断该消息是否已消费过。
9.1.4 消费端的等幂性保障
在海量订单生成的业务高峰期,生产端有可能就会重复发生了消息,这时候消费端就要实现幂等性,这就意味着我们的消息永远不会被消费多次,即使我们收到了一样的消息。业界主流的幂等性有两种操作:a.唯一 ID+指纹码机制,利用数据库主键去重, b.利用 redis 的原子性去实现
9.1.5 唯一ID+指纹码机制
指纹码:我们的一些规则或者时间戳加别的服务给到的唯一信息码,它并不一定是我们系统生成的,基本都是由我们的业务规则拼接而来,但是一定要保证唯一性,然后就利用查询语句进行判断这个 id 是否存在数据库中,优势就是实现简单就一个拼接,然后查询判断是否重复;劣势就是在高并发时,如果是单个数据库就会有写入性能瓶颈当然也可以采用分库分表提升性能,但也不是我们最推荐的方式。
9.1.6 Redis原子性
利用 redis 执行 setnx 命令,天然具有幂等性。从而实现不重复消费
9.2 优先级队列
9.2.1 使用场景
在我们系统中有一个订单催付的场景,我们的客户在天猫下的订单,淘宝会及时将订单推送给我们,如果在用户设定的时间内未付款那么就会给用户推送一条短信提醒,很简单的一个功能对吧,但是,tmall商家对我们来说,肯定是要分大客户和小客户的对吧,比如像苹果,小米这样大商家一年起码能给我们创造很大的利润,所以理应当然,他们的订单必须得到优先处理,而曾经我们的后端系统是使用 redis 来存放的定时轮询,大家都知道 redis 只能用 List 做一个简简单单的消息队列,并不能实现一个优先级的场景,所以订单量大了后采用 RabbitMQ 进行改造和优化,如果发现是大客户的订单给一个相对比较高的优先级,否则就是默认优先级。
9.2.2 如何添加
a.控制提页面添加
b.队列中代码添加优先级
Map<String, Object> params = new HashMap();
params.put("x-max-priority", 10);
channel.queueDeclare("hello", true, false, false, params);
c.消息中代码添加优先级
AMQP.BasicProperties properties = new AMQP.BasicProperties().builder().priority(5).build();
**d.**注意事项
要让队列实现优先级需要做的事情有如下事情:队列需要设置为优先级队列,消息需要设置消息的优先级,消费者需要等待消息已经发送到队列中才去消费因为,这样才有机会对消息进行排序
9.2.3 实战
a.配置类
package com.zs.springrabbitmq.config;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 15:50
**/
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.stereotype.Component;
/**
* 优先级队列
*/
@Component
public class priorityConfig {
//交换机
private final static String PRIORITY_EXCHANGE_NAME = "priority.exchange";
//队列
private final static String PRIORITY_QUEUE_NAME = "priority.queue";
//routing-key
private final static String PRIORITY_ROUTING_KEY = "priority.routing.key";
//声明交换机
@Bean
public DirectExchange priorityExchange(){
return new DirectExchange(PRIORITY_EXCHANGE_NAME);
}
//声明队列
@Bean
public Queue priorityQueue(){
return QueueBuilder.durable(PRIORITY_QUEUE_NAME).withArgument("x-max-priority",10).build();
}
//绑定routingkey 交换机 队列
@Bean
public Binding priorityExchangeBindingPriorityQueue(@Qualifier("priorityExchange")DirectExchange exchange,
@Qualifier("priorityQueue")Queue queue){
return BindingBuilder.bind(queue).to(exchange).with(PRIORITY_ROUTING_KEY);
}
}
a.消息生产者
@GetMapping("/sendPriorityMsg/{message}/{level}")
public String sendPriorityMsg(@PathVariable String message, @PathVariable Integer level){
log.info("当前时间:{},发送一条优先级为:{} 的信息给队列:{}", new Date().toString(),level,message);
for (int i = 1; i <= 10; i++) {
level = i;
message = "消息" + i;
if(i==5){
rabbitTemplate.convertAndSend(PriorityConfig.PRIORITY_EXCHANGE_NAME, PriorityConfig.PRIORITY_ROUTING_KEY,MessageBuilder.withBody(message.getBytes(StandardCharsets.UTF_8)).setPriority(level).build());
}else {
rabbitTemplate.convertAndSend(PriorityConfig.PRIORITY_EXCHANGE_NAME, PriorityConfig.PRIORITY_ROUTING_KEY,message);
}
}
return "消息发送成功";
}
b.消息消费者
package com.zs.springrabbitmq.consumer;
import com.zs.springrabbitmq.config.ConfirmConfig;
import com.zs.springrabbitmq.config.PriorityConfig;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
/**
* @program: rabbit-mq-study
* @description:
* @author: 李向飞
* @create: 2021-07-26 16:24
**/
@Component
public class PriorityConsumer {
@RabbitListener(queues = PriorityConfig.PRIORITY_QUEUE_NAME)
public void receiveConfirmMessage(Message message){
System.out.println(new String(message.getBody()));
}
}
运行结果:
注:先不要启动消息消费者代码、应在消息都输入队列后,重新启动消息消费者。
9.3 惰性队列
9.3.1 使用场景
RabbitMQ 从 3.6.0 版本开始引入了惰性队列的概念。惰性队列会尽可能的将消息存入磁盘中,而在消
费者消费到相应的消息时才会被加载到内存中,它的一个重要的设计目标是能够支持更长的队列,即支持
更多的消息存储。当消费者由于各种各样的原因(比如消费者下线、宕机亦或者是由于维护而关闭等)而致
使长时间内不能消费消息造成堆积时,惰性队列就很有必要了。
默认情况下,当生产者将消息发送到 RabbitMQ 的时候,队列中的消息会尽可能的存储在内存之中,
这样可以更加快速的将消息发送给消费者。即使是持久化的消息,在被写入磁盘的同时也会在内存中驻留
一份备份。当 RabbitMQ 需要释放内存的时候,会将内存中的消息换页至磁盘中,这个操作会耗费较长的
时间,也会阻塞队列的操作,进而无法接收新的消息。虽然 RabbitMQ 的开发者们一直在升级相关的算法,
但是效果始终不太理想,尤其是在消息量特别大的时候。
9.3.2 两种模式
队列具备两种模式:default 和 lazy。默认的为default 模式,在3.6.0 之前的版本无需做任何变更。lazy
模式即为惰性队列的模式,可以通过调用 channel.queueDeclare 方法的时候在参数中设置,也可以通过
Policy 的方式设置,如果一个队列同时使用这两种方式设置的话,那么 Policy 的方式具备更高的优先级。
如果要通过声明的方式改变已有队列的模式的话,那么只能先删除队列,然后再重新声明一个新的。
在队列声明的时候可以通过“x-queue-mode”参数来设置队列的模式,取值为“default”和“lazy”。下面示
例中演示了一个惰性队列的声明细节:
Map<String, Object> args = new HashMap<String, Object>();
args.put("x-queue-mode", "lazy");
channel.queueDeclare("myqueue", false, false, false, args);
9.3.3 内存开销对比
在发送 1 百万条消息,每条消息大概占 1KB 的情况下,普通队列占用内存是 1.2GB,而惰性队列仅仅占用 1.5M
10 RabbitMQ集群
10.1 clustering
10.1.1 使用集群的原因
最开始我们介绍了如何安装及运行 RabbitMQ 服务,不过这些是单机版的,无法满足目前真实应用的要求。如果 RabbitMQ 服务器遇到内存崩溃、机器掉电或者主板故障等情况,该怎么办?单台 RabbitMQ服务器可以满足每秒 1000 条消息的吞吐量,那么如果应用需要 RabbitMQ 服务满足每秒 10 万条消息的吞吐量呢?购买昂贵的服务来增强单机 RabbitMQ 务的性能显得捉襟见肘,搭建一个 RabbitMQ 集群才是解决实际问题的关键。
10.1.2 搭建步骤
1.修改 3 台机器的主机名称
vim /etc/hostname
2.配置各个节点的 hosts 文件,让各个节点都能互相识别对方
vim /etc/hosts
10.211.55.74 node1
10.211.55.75 node2
10.211.55.76 node3
3.以确保各个节点的 cookie 文件使用的是同一个值
在 node1 上执行远程操作命令
scp /var/lib/rabbitmq/.erlang.cookie root@node2:/var/lib/rabbitmq/.erlang.cookie
scp /var/lib/rabbitmq/.erlang.cookie root@node3:/var/lib/rabbitmq/.erlang.cookie
4.启动 RabbitMQ 服务,顺带启动 Erlang 虚拟机和 RbbitMQ 应用服务(在三台节点上分别执行以
下命令)
rabbitmq-server -detached
5.在节点 2 执行
rabbitmqctl stop_app
(rabbitmqctl stop 会将Erlang 虚拟机关闭,rabbitmqctl stop_app 只关闭 RabbitMQ 服务)
rabbitmqctl reset
rabbitmqctl join_cluster rabbit@node1
rabbitmqctl start_app(只启动应用服务)
6.在节点 3 执行
rabbitmqctl stop_app
rabbitmqctl reset
rabbitmqctl join_cluster rabbit@node2
rabbitmqctl start_app
7.集群状态
rabbitmqctl cluster_status
8.需要重新设置用户
创建账号
rabbitmqctl add_user admin 123
设置用户角色
rabbitmqctl set_user_tags admin administrator
设置用户权限
rabbitmqctl set_permissions -p "/" admin ".*" ".*" ".*"
9.解除集群节点(node2 和 node3 机器分别执行)
rabbitmqctl stop_app
rabbitmqctl reset
rabbitmqctl start_app
rabbitmqctl cluster_status
rabbitmqctl forget_cluster_node rabbit@node2(node1 机器上执行)