《RabbitMQ 实战指南》第四章 RabbitMQ进阶(上)
文章目录
一、简介
前一章中所讲述的是一些基础的概念及使用方法,比如创建交换器、队列和绑定关系等。但是其中有许多细节并未陈述,对使用过程中的一些 “坑” 也并未提及,一些高级用法也并未展现,所以本章的内容就是要弥补这些缺憾。本章以 RabbitMQ 基础使用知识为前提,阐述一些更具特色的细节及功能,为读者更进一步地掌握 RabbitMQ 提供基准
二、消息何去何从
mandatory 和 immediate 是 channel.basicPublish 方法中的两个参数,它们都有当消息传递过程中不可达目的地时将消息返回给生产者的功能。RabbitMQ 提供的备份交换器(Alternate Exchange)可以将未能被交换器路由的消息(没有绑定队列或者没有匹配的绑定)存储起来,而不用返回给客户端
1.mandatory 参数
当 mandatory 参数设为 true 时,交换器无法根据自身的类型和路由键找到一个符合条件的队列,那么 RabbitMQ 会调用 Basic.Return 命令将消息返回给生产者。当 mandatory 参数设置为 false 时,出现上述情形,则消息直接被丢弃
那么生产者如何获取到没有被正确路由到合适队列的消息呢?这时候可以通过调用 channel.addReturnListener 来添加 ReturnListener 监听器实现
使用 mandatory 参数的关键代码如下所示:
channel.basicPublish(EXCHANGE_NAME,
"",
true,
MessageProperties.PERSISTENT_TEXT_PLAIN,
"mandatory test".getBytes()
);
channel.addReturnListener(new ReturnListener(){
public void handleReturn(int replyCode,
String replyText,
String exchange,
String routingKey,
AMQP.BasicProperties basicProperties,
byte[] body
) throws IOException
{
String message = new String(body);
System.out.println("Basic.Return 返回的结果是:" + message);
}
);
上面代码中生产者没有成功地将消息路由到队列,此时 RabbitMQ 会通过 Basic.Return 返回 “mandatory test” 这条消息,之后生产者客户端通过 ReturnListener 监听到了这个事件,上面代码的最后输出应该是 “Basic.Return 返回的结果是:mandatory test”
从 AMQP 协议层面来说,其对应的流转过程如图 4-1 所示
2.immediate 参数
当 immediate 参数设为 true 时,如果交换器在将消息路由到队列时发现队列上并不存在任何消费者,那么这条消息将不会存入队列中。当与路由键匹配的所有队列都没有消费者时,该消息会通过 Basic.Return 返回至生产者
概括来说,mandatory 参数告诉服务器至少将该消息路由到一个队列中,否则将消息返回给生产者。immediate 参数告诉服务器,如果该消息关联的队列上有消费者,则立即投递,如果所有匹配得队列上都没有消费者,则直接将消息返还给生产者,不用将消息存入队列而等待消费者了
RabbitMQ 3.0 版本开始去掉了对 immediate 参数的支持,对此 RabbitMQ 官方解释是:immediate 参数会影响镜像队列的性能,增加了代码复杂性,建议采用 TTL(过期时间)加 DLX(死信队列)的方法替代
3.备份交换器
备份交换器,英文名称为 Alternate Exchange,简称 AE,或者更直白地称之为 “备胎交换器”。生产者在发送消息的时候如果不设置 mandatory 参数,那么消息在未被路由的情况下将会丢失;如果设置了 mandatory 参数,那么需要添加 ReturnListener 的编程逻辑,生产者的代码将变得复杂。如果既不想复杂化生产者的编程逻辑,又不想消息丢失,那么可以使用备份交换器,这样可以将未被路由的消息存储在 RabbitMQ 中,再在需要的时候去处理这些消息
可以通过在声明交换器(调用 channel.exchangeDeclare 方法)的时候添加 alternate-exchange 参数来实现,也可以通过策略(Policy)的方法实现,如果两者同时使用,则前者的优先级更高,会覆盖掉 Policy 的设置
使用参数设置的关键代码如下所示:
Map<String, Object> args = new HashMap<String, Object>();
args.put("alternate-exchange", "myAe");
channel.exchangeDeclare("normalExchange", "direct", true, false, args);
channel.exchangeDeclare("myAe", "fanout", true, false, null);
channel.queueDeclare("normalQueue", true, false, false, null);
channel.queueBind("normalQueue", "normalExchange", "normalKey");
channel.queueDeclare("unroutedQueue", true, false, false, null);
channel.queueBind("unroutedQueue", "myAe", "");
上面的代码中声明了两个交换器 normalExchange 和 myAe,分别绑定了 normalQueue 和 unroutedQueue 这两个队列,同时将 myAe 设置为 normalExchange 的备份交换器。注意 myAe 的交换器类型为 fanout
参考图 4-2,如果此时发送一条消息到 normalExchange 上,当路由键等于 “normalKey” 的时候,消息能正确路由到 normalQueue 这个队列中。如果路由键设为其他值,比如 “erroeKey”,即消息不能被正确地路由到与 normalExchange 绑定的任何队列上,此时就会发送给 myAe,进而发送到 unroutedQueue 这个队列
同样,如果采用 Policy 的方式来设置备份交换器,可以参考如下:
rabbitmqctl set_policy AE "^normalExchange$" `{"alternate-exchange": "myAE"}`
备份交换器其实和普通的交换器没有太大的区别,为了方便使用,建议设置为 fanout 类型,如若读者想设置为 direct 或者 topic 的类型也没有什么不妥。需要注意的是,消息被重新发送到备份路由器时的路由键和从生产者发出的路由键是一样的
考虑这样一种情况,如果备份交换器的类型是 direct,并且有一个与其绑定的队列,假设绑定的路由键是 key1,当某条携带路由键为 key2 的消息被转发到这个备份交换器的时候,备份交换器没有匹配到合适的队列,则消息丢失。如果消息携带的路由键为 key1,则可以存储到队列中
对于备份交换器,总结了以下几种特殊情况:
- 如果设置的备份交换器不存在,客户端和 RabitMQ 服务端都不会有异常出现,此时消息会丢失
- 如果备份交换器没有绑定任何队列,客户端和 RabbitMQ 服务端都不会有异常出现,此时消息会丢失
- 如果备份交换器没有任何匹配的队列,客户端和 RabbitMQ 服务端都不会有异常出现,此时消息会丢失
- 如果备份交换器和 mandatory 参数一起使用,那么 mandatory 参数无效
三、过期时间(TTL)
TTL,Time to Live 的简称,即过期时间。RabbitMQ 可以对消息和队列设置 TTL
1.设置消息的 TTL
目前有两种方法可以设置消息的 TTL。第一种方法是通过队列属性设置,队列中所有消息都有相同的过期时间。第二种方法是对消息本身进行单独设置,每条消息的 TTL 可以不同。如果两种方法一起使用,则消息的 TTL 以两者之间较小的那个数值为准。消息在队列中的生存时间一旦超过设置的 TTL 值时,就会变成 “死信”(Dead Message),消费者将无法再收到该消息(这点不是绝对的,可以参考下一小节死信队列)
通过队列属性设置消息 TTL 的方法是在 channel.queueDeclare 方法中加入 x-message-ttl 参数实现的,这个参数的单位是毫秒
示例代码如下所示:
Map<String, Object> argss = new HashMap<String, Object>();
argss.put("x-message-ttl", 6000);
channel.queueDeclare(queueName, durable, exclusive, autoDelete, argss);
同时也可以通过 Policy 的方式来设置 TTL,示例如下:
rabbitmqctl set_policy TTL ".*" '{"message-ttl":60000}' --apply-to queues
还可以通过调用 HTTP API 接口设置:
如果不设置 TTL,则表示此消息不会过期;如果将 TTL 设置为 0,则表示除非此时可以直接将消息投递到消费者,否则该消息会被立即丢弃,这个特性可以部分替代 RabbitMQ3.0 版本之前的 immediate 参数,之所以部分代替,是因为 immediate 参数在投递失败时会用 Basic.Return 将消息返回(这个功能可以用死信队列来实现)
针对每条消息设置 TTL 的方法是在 channel.basicPublish 方法中加入 expiration 的属性参数,单位为毫秒
关键代码如下所示:
AMQP.BasicProperties.Builder builder = new AMQP.BasicProperties.Builder();
builder.deliveryMode(2); //持久化消息
builder.expiration("60000"); //设置 TTL=60000ms
AMQP.BasicProperties properties = builder.build();
channel.basicPublish(exchangeName,
routingKey,
mandatory,
properties,
"ttlTestMessage".getBytes()
);
也可以使用以下方式:
AMQP.BasicProperties properties = new AMQP.BasicProperties();
Properties.setDeliveryMode(2);
properties.setExpiration("600000");
channel.basicPublish(exchangeName,
routingKey,
mandatory,
properties,
"ttlTestMessage".getBytes()
);
还可以通过 HTTP API 接口设置:
对于第一种设置队列 TTL 属性的方法,一旦消息过期,就会从队列中抹去,而在第二种方法中,即使消息过期,也不会马上从队列中抹去,因为每条消息是否过期是在即将投递到消费者之前判定的
为什么这两种方法处理的方式不一样?因为在第一种方法里,队列中已过期的消息肯定在队列头部,RabbitMQ 只要定期从队头开始扫描是否有过期的消息即可。而第二种方法里,每条消息的过期时间不同,如果要定期删除所有过期消息势必要扫描整个队列,所以不如等到此消息即将被消费时再判定是否过期,如果过期再进行删除即可
2.设置队列的 TTL
通过 channel.queueDeclare 方法中的 x-expires 参数可以控制队列被自动删除前处于未使用状态的时间。未使用的意思是队列上没有任何的消费者,队列也没有被重新声明,并且在过期时间段内也未调用过 Basic.Get 命令
设置队列里的 TTL 可以应用于类似 RPC 方式的回复队列,在 RPC 中,许多队列会被创建出来,但是却是未被使用的
RabbitMQ 会确保过期时间到达后将队列删除,但是不保障删除的动作有多及时。在 RabbitMQ 重启后,持久化的队列的过期时间会被重新计算
用于表示过期时间的 x-expires 参数以毫秒为单位,并且服从和 x-message-ttl 一样的约束条件,不过不能设置为 0.比如该参数设置为 1000,则表示该队列如果在 1 秒钟之内未使用则会被删除
下列代码演示了创建一个过期时间为 30 分钟的队列:
Map<String, Object> args = new HashMap<String, Object>();
args.put("x-expires", 1800000);
channel.queueDeclare("myqueue", false, false, false, args);
四、死信队列
DLX,全称为 Dead-Letter-Exchange,可以称之为死信交换器,也有人称之为死信邮箱。当消息在一个队列中变成死信(dead message)之后,它能被重新发送到另一个交换器中,这个交换器就是 DLX,绑定 DLX 的队列就称之为死信队列
消息变成死信一般是由于以下几种情况:
- 消息被拒绝(Basic.Reject/Basic.Nack),并且设置 requeue 参数为 false
- 消息过期
- 队列达到最大长度
DLX 也是一个正常的交换器,和一般的交换器没有区别,它能在任何的队列上被指定,实际上就是设置某个队列的属性。当这个队列中存在死信时,RabbitMQ 就会自动地将这个消息重新发布到设置的 DLX 上去,进而被路由到另一个队列,即死信队列。可以监听这个队列中的消息以进行相应的处理,这个特性与将消息的 TTL 设置为 0 配合使用可以弥补 immediate 参数的功能
通过在 channel.queueDeclare 方法中设置 x-deat-letter-exchange 参数来为这个队列添加 DLX,代码如下所示:
channel.exchangeDeclare("dlx_exchange", "direct"); //创建 DLX:dlx_exchange
Map<String, Object> args = new HashMap<String, Object>();
args.put("x-dead-letter-exchange", "dlx_exchange");
//为队列 myqueue 添加 DLX
channel.queueDeclare("myqueue", false, false, false, args);
也可以为这个 DLX 指定路由键,如果没有特殊指定,则使用原队列的路由键:
args.put("x-dead-letter-routing-key", "dlx-routing-key");
当然这里也可以通过 Policy 的方式设置:
rabbitmqctl set_policy DLX ".*" '{}"dead-letter-exchange":"dlx_exchange"}' --apply-to queues
下面创建一个队列,为其设置 TTL 和 DLX 等,代码如下所示:
channel.exchangeDeclare("exchange.dlx", "direct", true);
channel.exchangeDeclare("exchange.normal", "fanout", true);
Map<String, Object> args = new HashMap<String, Object>();
args.put("x-message-ttl", 10000);
args.put("x-dead-letter-exchange", "exchange.dlx");
args.put("x-dead-letter-routing-key", "routingkey");
channel.queueDeclare("queue.normal", true, false, false, args);
channel.queueBind("queue.normal", "exchange.normal", "");
channel.queueDeclare("queue.dlx", true, false, false, null);
channel.queueBind("queue.dlx", "exchange.dlx", "routingkey");
channel.basicPublish("exchange.normal",
"rk",
MessageProperties.PERSISTENT_TEXT_PLAIN,
"dlx".getBytes()
);
这里创建了两个交换器 exchange.normal 和 exchange.dlx,分别绑定两个队列 queue.normal 和 queue.dlx
由 Web 管理页面(图 4-3)可以看出,两个队列都被标记了 “D”,这个是 durable 的缩写,即设置了队列持久化。queue.normal 这个队列还配置了 TTL、DLX 和 DLK,其中 DLX 指的是 x-dead-letter-routing-key 这个属性
参考图 4-4,生产者首先发送一条携带路由键为 “rk” 的消息,然后经过交换器 exchange.normal 顺利地存储到队列 queue.normal 中。由于队列 queue.normal 设置了过期时间为 10s,在这 10s 内没有消费者消费这条消息,那么判定这条消息为过期。由于设置了 DLX,过期之时,消息被丢给交换器 exchange.dlx 中,这时找到与 exchange.dlx 匹配的队列 queue.dls,最后消息被存储在 queue.dlx 这个死信队列中
对于 RabbitMQ 来说,DLX 是一个非常有用的特性。它可以处理异常情况下,消息不能被消费者正确消费(消费者调用了 Basic.Nack 或者 Basic.Reject)而被置入死信队列中的情况,后续分析程序可以通过消费这个死信队列中的内容来分析当时所遇到的异常情况,进而可以改善和优化系统。DLX 配置 TTL 使用还可以实现延迟队列的功能,具体请看下一小节
五、延迟队列
延迟队列存储的对象是对应的延迟消息,所谓 “延迟消息” 是指当消息被发送以后,并不想让消费者立刻拿到消息,而是等待特定时间后,消费者才能拿到这个消息进行消费
延迟队列的使用场景有很多,比如:
- 在订单系统中,一个用户下单之后通常有 30 分钟的时间进行支付,如果 30 分钟之内没有支付成功,那么这个订单将进行异常处理,这时就可以使用延迟队列来处理这些订单了
- 用户希望通过手机远程遥控家里的智能设备在指定的时间进行工作。这时候就可以将用户指令发送到延迟队列,当指令设定的时间到了再将指令推送到智能设备
在 AMQP 协议中,RabbitMQ 本身没有直接支持延迟队列的功能,但是可以通过前面所介绍的 DLX 和 TTL 模拟出延迟队列的功能
在图 4-4 中,不仅展示的是死信队列的用法,也是延迟队列的用法,对于 queue.dlx 这个死信队列来说,同样可以看作延迟队列。假设一个应用中需要将每条消息都设置为 10 秒的延迟,生产者通过 exchange.normal 这个交换器将发送的消息存储在 queue.normal 这个队列中。消费者订阅的并非是 queue.normal 这个队列,而是 queue.dlx 这个队列。当消息从 queue.normal 这个队列中过期之后被存入 queue.dlx 这个队列中,消费者就恰巧消费到了延迟 10 秒的这条消息
在真实应用中,对于延迟队列可以根据延迟时间的长短分为多个等级,一般分为 5 秒、10 秒、30 秒、1 分钟、5 分钟、10 分钟、30 分钟、1 小时这几个维度,当然也可以再细化一下
参考图 4-5,为了简化说明,这里只设置了 5 秒、10 秒、30 秒、1 分钟这四个等级。根据应用需求的不同,生产者在发送消息的时候通过设置不同的路由键,以此将消息发送到与交换器绑定的不同的队列中。这里队列分别设置了过期时间为 5 秒、10 秒、30 秒、1 分钟,同时也分别配置了 DLX 和相应的死信队列。当相应的消息过期时,就会转存到相应的死信队列(即延迟队列)中,这样消费者根据业务自身的情况,分别选择不同延迟等级的延迟队列进行消费
六、优先级队列
优先级队列,顾名思义,具有高优先级的队列具有高的优先权,优先级高的消息具备优先被消费的特权
可以通过设置队列的 x-max-priotiry 参数来实现。示例代码如下所示:
Map<String, Object> args = new HashMap<String, Object>();
args.put("x-max-priority", 10);
channel.queueDeclare("queue.priority", true, false, false, args);
通过 Web 管理页面可以看到 “Pri” 的标识,如图 4-6 所示
上面的代码演示的是如何配置一个队列的最大优先级。在此之后,需要在发送时在消息中设置消息当前的优先级。示例代码如下所示:
AMQP.BasicProperties.Builder builder = new AMQP.BasicProperties.Builder();
builder.priority(5);
AMQP.BasicProperties properties = builder.build();
channel.basicPublish("exchange_priority", "rk_priority", properties, ("message").getBytes());
上面的代码中设置消息的优先级为 5。默认最低为 0,最高为队列设置的最大优先级。优先级高的消息可以被优先消费,这个也是有前提的:如果在消费者的消费速度大于生产者的速度且 Broker 中没有消息堆积的情况下,对发送的消息设置优先级也就没有什么实际意义。因为生产者刚发送完一条消息就被消费者消费了,那么就相当于 Broker 中至多只有一条消息,对于单条消息来说优先级是没有什么意义的
七、RPC 实现
一般在 RabbitMQ 中进行 RPC 是很简单。客户端发送请求消息,服务端回复响应的消息。为了接收响应的消息,我们需要在请求消息中发送一个回调队列(参考下面代码中的 replyTo)。可以使用默认的队列,具体实例代码如下所示:
String callbackQueueName = channel.queueDeclare().getQueue();
BasicProperties props = new BasicProperties.Builder().replyTo(callbackQueueName).build();
channel.basicPublish("", "rpc_queue", props, message.getBytes());
//then code to read a response message from the callback_queue...
对于代码中涉及的 BasicProperties 这个类,在之前的章节中我们在阐述发送消息的时候讲解过,其包含 14 个属性,这里就用到两个属性:
- replyTo:通常用来设置一个回调队列
- correlationId:用来关联请求(request)和其调用 RPC 之后的回复(response)
如果像上面的代码中一样,为每个 RPC 请求创建一个回调队列,则是非常低效的。但是幸运的是这里有一个通用的解决方案 —— 可以为每个客户端创建一个单一的回调队列
这样就产生了一个新的问题,对于回调队列而言,在其接收到一条回复的消息之后,它并不知道这条消息应该和哪一个请求匹配。这里就用到 correlationId 这个属性了,我们应该为每一个请求设置一个唯一的 correlationId。之后在回调队列接收到回复的消息时,可以根据这个属性匹配到相应的请求。如果回调队列接收到一条未知 correlationId 的回复消息,可以简单地将其丢弃
你可能会问,为什么要将回调队列中的位置消息丢弃而不是仅仅将其看作失败?这样可以针对这个失败做一些弥补措施。参考图 4-7,考虑这样一种情况,RPC 服务器可能在发送给回调队列(amq.gen-LhQzlgv3GhDOv8PIDabOXA)并且在确认接收到请求的消息(rpc_queue 中的消息)之后挂掉了,那么只需要重启下 RPC 服务器即可,RPC 服务会重新消费 rpc_queue 队列中的请求,这样就不会出现 RPC 服务端未处理请求的情况,并且 RPC 请求也需要保证其本身是幂等的(补充:消费者消费消息一般是先处理业务逻辑,再使用 Basic.Ack 确认已接收到消息以防止消息不必要地丢失)
根据图 4-7 所示,RPC 的处理流程如下:
- 当客户端启动时,创建一个匿名的回调队列(名称由 RabbitMQ 自动创建,图 4-7 中的回调队列为 amq.gen-LhQzlgv3GhDOv8PIDabOXA)
- 客户端为 RPC 请求设置 2 个属性:replyTo 用来告知 RPC 服务端回复请求时的目的队列,即回调队列;correlationId 用来标记一个请求
- 请求被发送到 rpc_queue 队列中
- RPC 服务端监听 rpc_queue 队列中的请求,当请求到来时,服务端会处理并且把带有结果的消息发送给客户端。接收的队列就是 replyTo 设定的回调队列
- 客户端监听回调队列,当有消息时,检查 correlationId 属性,如果与请求匹配,那就是结果了
下面沿用 RabbitMQ 官方网站的一个例子来做说明,RPC 客户端通过 RPC 来调用服务端的方法以便得到相应的斐波那契值
首先是服务端的关键代码:
public class RPCServer{
private static final String RPC_QUEUE_NAME = "rpc_queue";
public static void main(String args[]) throws Exception {
//省略了创建 Connection 和 Channel 的过程
channel.queueDeclare(RPC_QUEUE_NAME, false, false, false, null);
channel.basicQos(1);
System.out.println(" [x] Awaiting RPC requests");
Consumer consumer = new DefaultConsumer(channel){
@Override
public void handleDelivery(String consumerTag,
Envelope envelope,
AMQP.BasicProperties properties,
byte[] body
) throws IOException
{
AMQP.BasicProperties replyProps = new AMQP.BasicProperties
.BasicProperties
.Builder()
.correlationId(properties.getCorrelationId())
.build();
String response = "";
try{
String message = new String(body, "UTF-8");
int n = Integer.parseInt(message);
System.out.println(" [.] fib(" + message + ")");
response += fib(n);
} catch (RuntimeException e){
System.out.pringlt(" [.] " + e.toString());
} finally{
channel.basicPublish("",
properties.getReplyTo(),
replyProps,
response.getBytes("UTF-8")
);
channel.basicAck(envelope.getDeliveryTag(), false);
}
}
};
channel.basicConsume(RPC_QUEUE_NAME, false, consumer);
}
private static int fib(int n){
if(n == 0) return 0;
if(n == 1) return 1;
return fib(n-1) + fib(n-2);
}
}
RPC 客户端的关键代码如下所示:
public class RPCClient{
private Connection connecion;
private Channel channel;
private String requestQueueName = "rpc_queue";
private String replyQueueName;
private QueueingConsumer consumer;
public RPCClient() throws IOException, TimeoutException{
//省略了创建 Connection 和 Channel 的过程
replyQueueName - channel.queueDeclare().getQueue();
consumer = new QueueingConsumer(channel);
channel.basicConsume(replyQueueName, true, consumer);
}
public String call(String message) throws IOException,
ShutdownSignalException,
ConsumerCancelledException,
InterruptedException
{
String response = null;
String corrId - UUID.randomUUID().toString();
BasicProperties props = new BasicProperties.Builder()
.correlationId(corrId)
.replyTo(replyQueueName)
.build();
channel.basicPublish("",
requestQueueName,
props,
message.getBytes()
);
while(true){
QueueingConsumer.Delivery delivery = consumer.nextDelivery();
if(delivery.getProperties().getCorrelationId().equals(corrId)){
response = new String(delivery.getBody());
break;
}
}
return responsel
}
public void close() throws Exception{
connection.close();
}
public static void main(String args[]) throws Exception{
RPCClient fibRpc = new RPCClient();
System.out.println(" [x] Requesting fib(30)");
String response = fibRpc.call("30");
System.out.pringln(" [.] Got '"+response+"'");
fibRpc.close();
}
}