声明:本文是《RabbitMQ实战指南》(朱忠华 著)学习笔记,仅供本人学习研究之用,如若喜欢请购买正版书籍。如有侵权,请联系删除。
一些概念
RabbitMQ 整体上是一个生产者与消费者模型,主要负责接收、存储和转发消息。可以把消息传递的过程想象成寄送包裹,当你将一个包裹送到邮局,邮局会暂存包裹,并最终将包裹通过邮递员送到收件人的手上。在这个例子中,RabbitMQ 就好比由邮局、邮箱和邮递员组成的一个系统。RabbitMQ 的整体模型架构如图:
生产者(Producer)
生产者是投递消息的一方。生产者创建消息,然后发布到 RabbitMQ 中。消息一般可以包含两个部分:消息体和标签(Label) 。消息体也可以称之为 payload ,在实际应用中,消息体一般是一个带有业务逻辑结构的数据,比如一个 JSON 字符串。消息的标签用来表述这条消息,比如一个交换器的名称和一个路由键。生产者把消息交由 RabbitMQ,RabbitMQ 会根据标签把消息发送给感兴趣的消费者(Consumer ) 。
消费者(Consumer)
消费者是接收消息的一方。消费者连接到 RabbitMQ 服务器,并订阅到队列上。当消费者消费一条消息时,只是消费消息的消息体。在消息路由的过程中,消息的标签会被丢弃,存入到队列中的消息只有消息体,消费者也只会消费到消息体,也就不知道消息的生产者是谁,当然消费者也不需要知道。
服务节点 Broker
对于 RabbitMQ 来说,一个 RabbitMQ Broker 可以看作是一个 RabbitMQ 服务节点。大多数情况下也可以将一个 RabbitMQ Broker 看作一台 RabbitMQ 服务器。
队列(Queue)
队列是 RabbitMQ 的内部对象,用于存储消息。RabbitMQ 中消息都只能存储在队列中(ActiveMQ 除了队列,还有 topic 这个概念,对于发布订阅模式消息是存放于 topic 中的),RabbitMQ 的生产者生产消息并最终投递到队列中,消费者可以从队列中获取消息并消费。
多个消费者可以订阅同一个队列,这时队列中的消息会被平均分摊 (Round-Robin ,即轮询,类似于 Nginx 的负载均衡)给多个消费者进行处理,而不是每个消费者都收到所有的消息井处理,如下图所示:
RabbitMQ 不支持队列层面的广播消费,如果需要广播消费,需要在其上进行二次开发,处理逻辑会变得异常复杂,同时也不建议这么做。
交换器(Exchange)
RabbitMQ 并不会直接把消息投放到队列中,而是将消息发送到交换器,由交换器将消息路由到一个或者多个队列中。如果路由不到,则会返回给生产者或者直接丢弃。RabbitMQ 中的交换器有四种类型,不同的类型有不同的路由策略。交换器的示意图如下:
路由键(RoutingKey)
生产者将消息发给交换器的时候,一般会指定一个 RoutingKey,用来指定这个消息的路由规则,而这个 RoutingKey 需要与交换器类型和绑定键 (BindingKey) 联合使用才能最终生效。在交换器类型和绑定键 (BindingKey) 固定的情况下,生产者可以在发送消息给交换器时,通过指定 RoutingKey 来决定消息流向哪里。
绑定(Binding)
RabbitMQ 中通过绑定将交换器与队列关联起来,在绑定的时候一般会指定一个绑定键 ( BindingKey ) ,这样 RabbitMQ 就知道如何正确地将消息路由到队列了,如下图所示:
生产者将消息发送给交换器时,需要一个 RoutingKey,当 BindingKey 和 RoutingKey 相匹配时,消息会被路由到对应的队列中。在绑定多个队列到同一个交换器的时候允许使用相同的 BindingKey。BindingKey 并不是在所有的情况下都生效,它依赖于交换器类型,比如 fanout 类型的交换器就会无视 BindingKey,而是将消息路由到所有绑定到该交换器的队列中。
对照前面把消息队列比喻成寄送包裹的例子,交换器相当于投递包裹的邮箱(你去寄信不是直接把信交给邮递员,而是放到邮箱中),RoutingKey 相当于填写在包裹上的地址,BindingKey 相当于包裹的目的地,当填写在包裹上的地址(RoutingKey)和实际想要投递的地址(BindingKey)相匹配时,那么这个包裹就会被正确投递到目的地,最后这个目的地的主人一一队列可以保留这个包裹。如果填写的地址出错 ,邮递员不能正确投递到目的地,包裹可能会回退给寄件人,也有可能被丢弃。
交换器类型
RabbitMQ 常用的交换器类型有 fanout、direct、topic、headers 四种:
1、fanout
它会把所有发送到该交换器的消息路由到所有与该交换器绑定的队列中。
2、direct
它会把消息路由到那些 BindingKey 和 RoutingKey完全匹配的队列中。
3、topic
与 direct 类型的交换器相似,也是将消息路由到 BindingKey 和 RoutingKey 相匹配的队列中,但这里的匹配规则有些不同,它约定:
• RoutingKey 为一个点号 "." 分隔的字符串(被点号分隔开的每一段独立的字符串称为一个单词),如:com.rabbitmq.client。
• BindingKey 和 RoutingKey 一样也是点号 "." 分隔的字符串。
• BindingKey 中可以存在两种特殊字符串"*"和"#",用于做模糊匹配,其中"#"用于匹配一个单词,“*”用于匹配多个单词(可以是零个)。
如下示例:
路由键为 "com.rabbitmq.client" 的消息会同时路由到 Queue1 和 Queue2;
路由键为 "com.hidden.client" 的消息只会路由到 Queue2 中;
路由键为 "com.hidden.demo" 的消息只会路由到 Queue2 中;
路由键为 "java.rabbitmq.demo" 的消息只会路由到 Queue1 中;
路由键为 "java.util.concurrent" 的消息将会被丢弃或者返回给生产者(需要设置 mandatory 参数),因为它没有匹配任何路由键。
4、headers
headers 类型的交换器不依赖于路由键的匹配规则来路由消息,而是根据发送的消息内容中的 headers 属性进行匹配。在绑定队列和交换器时制定一组键值对,当发送消息到交换器时,RabbitMQ 会获取到该消息的 headers(也是一个键值对的形式),对比其中的键值对是否完全匹配队列和交换器绑定时指定的键值对,如果完全匹配则消息会路由到该队列,否则不会路由到该队列。headers 类型的交换器性能会很差,而且也不实用,一般不会使用。
RabbitMQ 运转流程
生产者发送消息:
• 生产者连接到 RabbitMQ Broker,建立一个连接(Connection),开启一个信道(Channel)。
• 生产者声明一个交换器,并设置相关属性,比如交换机类型、是否持久化等。
• 生产者声明一个队列井设置相关属性,比如是否排他、是否持久化、是否自动删除等。
• 生产者通过路由键将交换器和队列绑定起来。
• 生产者发送消息至 RabbitMQ Broker,其中包含路由键、交换器等信息。
• 相应的交换器根据接收到的路由键查找相匹配的队列。
• 如果找到,则将从生产者发送过来的消息存入相应的队列中。
• 如果没有找到,则根据生产者配置的属性选择丢弃还是回退给生产者。
• 关闭信道。
• 关闭连接。
消费者接收消息:
• 消费者连接到 RabbitMQ Broker,建立一个连接(Connection),开启一个信道(Channel)。
• 消费者向 RabbitMQ Broker 请求消费相应队列中的消息,可能会设置相应的回调函数,以及做一些准备工作。
• 等待 RabbitMQ Broker 回应并投递相应队列中的消息,消费者接收消息。
• 消费者确认(ack)接收到的消息 。
• RabbitMQ 从队列中删除相应己经被确认的消息 。
• 关闭信道。
• 关闭连接。
无论是生产者还是消费者,都需要和 RabbitMQ Broker 建立连接,这个连接就是一条 TCP 连接,也就是 Connection。一旦 TCP 连接建立起来,客户端紧接着可以创建一个 AMQP 信道(Channel),每个信道都会被指派一个唯一的 ID。信道是建立在 Connection 之上的虚拟连接,RabbitMQ 处理的每条 AMQP 指令都是通过信道完成的。如下图所示:
完全可以使用 Connection 完成信道的工作,那么为什么还要引入信道呢?这是由于一个应用程序中有可能很多个线程需要从 RabbitMQ 中消费或者生产消息,那么必然需要建立很多个 Connection,也就是许多个 TCP 连接。对于操作系统而言,建立和销毁 TCP 连接是非常昂贵的开销,也会影响性能。RabbitMQ 采用类似 NIO 的做法,选择 TCP 连接复用,不仅可以减少性能开销,同时也便于管理。
每个线程使用一个信道,所以信道复用了 Connection 的 TCP 连接。同时 RabbitMQ 可以确保每个线程的私密性,就像拥有独立的连接一样。当每个信道的流量不是很大时,复用单一的 Connection 可以在不产生性能瓶颈的情况下有效地节省 TCP 连接资源。但是当信道本身的流量很大时,这时候多个信道复用一个 Connection 就会产生性能瓶颈,进而使整体的流量被限制了。此时就需要开辟多个 Connection,将这些信道均摊到这些 Connection 中,这些相关的调优策略需要根据业务自身的实际情况进行调节。
AMQP 协议介绍
RabbitMQ 是遵从 AMQP 协议的,换句话说,RabbitMQ 就是 AMQP 协议的 Erlang 实现(当然 RabbitMQ 还支持 STOMP、MQTT 等协议)。AMQP 的模型架构和 RabbitMQ 的模型架构是一样的,生产者将消息发送给交换器,交换器和队列绑定。当生产者发送消息时所携带的 RoutingKey 与绑定时的 BindingKey 相匹配时,消息即被存入相应的队列之中。消费者可以订阅相应的队列来获取消息。
RabbitMQ 中的交换器、交换器类型、队列、绑定 、路由键等都是遵循的 AMQP 协议中相应的概念。
AMQP 协议本身包括三层:
Module Layer:位于协议最高层,主要定义了一些供客户端调用的命令,客户端可以利用这些命令实现自己的业务逻辑。例如,客户端可以使用 Queue.Declare 命令声明一个队列或者使用 Basic.Consume 订阅消费一个队列中的消息。
Session Layer:位于中间层,主要负责将客户端的命令发送给服务器,再将服务端的应答返回给客户端,主要为客户端与服务器之间的通信提供可靠性同步机制和错误处理。
Transport Layer:位于最底层,主要传输二进制数据流,提供帧的处理、信道复用、错误检测和数据表示等。