一、什么是消息中间件
分布式系统服务之间(或RPC通信),进行远程异步消息传递用到的RabbitMQ或Kafka等软件统称为消息中间件,具有低耦合、可靠投递、广播、流量控制、最终一致性等一系列功能。
二、消息中间件与分布式对象调用的比较
分布式对象调用:提供了一种通讯机制,透明地在异构的分布式计算环境中传递对象请求,而这些对象可以位于本地或远程机器。它通过在对象与对象之间提供一种统一的接口,使对象之间的调用和数据共享不再关心对象的位置、实现语言及所驻留的操作系统。这个接口就是面向对象的中间件。
尽管面向对象的中间件是一种很强大的规范被广泛应用,但是面对大规模的复杂分布式系统,这些技术也显示出了局限性:
1.同步通信:客户发出调用后,必须等待服务对象完成处理并返回结果后才能继续执行。
2.客户和服务对象的生命周期紧密耦合:客户进程和服务对象进程都必须正常运行,如果由于服务对象崩溃或网络故障导致客户的请求不可达,客户会接收到异常。
为了解决这些问题,出现了面向消息的中间件,它较好地解决了以上的问题。
消息中间件:作为一个中间层软件,它为分布式系统中创建、发送、接收消息提供了一套可靠通用的方法,实现了分布式系统中可靠的、高效的、实时的跨平台数据传输。消息中间件减少了开发跨平台和网络协议软件的复杂性,它屏蔽了不同操作系统和网络协议的具体细节,面对规模和复杂度都越来越高的分布式系统,消息中间件技术显示出了它的优越性:
1.采用异步通信模式:发送消息者可以在发送消息后进行其它的工作,不用等待接收者的回应,而接收者也不必在接到消息后立即对发送者的请求进行处理;
2.客户和服务对象生命周期的松耦合关系:客户进程和服务对象进程不要求都正常运行,如果由于服务对象崩溃或者网络故障导致客户的请求不可达,客户不会接收到异常,消息中间件能保证消息不会丢失。
三、RabbitMQ 中的概念模型
1、消息模型
所有 MQ 产品从模型抽象上来说都是一样的过程:
消费者(consumer)订阅某个队列。生产者(producer)创建消息,然后发布到队列(queue)中,最后将消息发送到监听的消费者。
上面只是最简单抽象的描述,具体到 RabbitMQ 则有更详细的概念需要解释。上面介绍过 RabbitMQ 是 AMQP 协议的一个开源实现,所以其内部实际上也是 AMQP 中的基本概念:
2、RabbitMQ 内部结构
- Message
消息,消息是不具名的,它由消息头和消息体组成。消息体是不透明的,而消息头则由一系列的可选属性组成,这些属性包括routing-key(路由键)、priority(相对于其他消息的优先权)、delivery-mode(指出该消息可能需要持久性存储)等。 - Publisher
消息的生产者,也是一个向交换器发布消息的客户端应用程序。 - Exchange
交换器,用来接收生产者发送的消息并将这些消息路由给服务器中的队列。 - Binding
绑定,用于消息队列和交换器之间的关联。一个绑定就是基于路由键将交换器和消息队列连接起来的路由规则,所以可以将交换器理解成一个由绑定构成的路由表。 - Queue
消息队列,用来保存消息直到发送给消费者。它是消息的容器,也是消息的终点。一个消息可投入一个或多个队列。消息一直在队列里面,等待消费者连接到这个队列将其取走。 - Connection
网络连接,比如一个TCP连接。 - Channel
信道,多路复用连接中的一条独立的双向数据流通道。信道是建立在真实的TCP连接内地虚拟连接,AMQP 命令都是通过信道发出去的,不管是发布消息、订阅队列还是接收消息,这些动作都是通过信道完成。因为对于操作系统来说建立和销毁 TCP 都是非常昂贵的开销,所以引入了信道的概念,以复用一条 TCP 连接。 - Consumer
消息的消费者,表示一个从消息队列中取得消息的客户端应用程序。 - Virtual Host
虚拟主机,表示一批交换器、消息队列和相关对象。虚拟主机是共享相同的身份认证和加密环境的独立服务器域。每个 vhost 本质上就是一个 mini 版的 RabbitMQ 服务器,拥有自己的队列、交换器、绑定和权限机制。vhost 是 AMQP 概念的基础,必须在连接时指定,RabbitMQ 默认的 vhost 是 / 。 - Broker
表示消息队列服务器实体。
3、AMQP 中的消息路由
AMQP 中消息的路由过程和 Java 开发者熟悉的 JMS 存在一些差别,AMQP 中增加了 Exchange 和 Binding 的角色。生产者把消息发布到 Exchange 上,消息最终到达队列并被消费者接收,而 Binding 决定交换器的消息应该发送到那个队列。
Exchange 类型
Exchange分发消息时根据类型的不同分发策略有区别,目前共四种类型:direct、fanout、topic、headers 。headers 匹配 AMQP 消息的 header 而不是路由键,此外 headers 交换器和 direct 交换器完全一致,但性能差很多,目前几乎用不到了,所以直接看另外三种类型:
-
direct
direct 交换器:消息中的路由键(routing key)如果和 Binding 中的 binding key 一致, 交换器就将消息发到对应的队列中。路由键与队列名完全匹配,如果一个队列绑定到交换机要求路由键为“dog”,则只转发 routing key 标记为“dog”的消息,不会转发“dog.puppy”,也不会转发“dog.guard”等等。它是完全匹配、单播的模式。
-
fanout
fanout 交换器:每个发到 fanout 类型交换器的消息都会分到所有绑定的队列上去。fanout 交换器不处理路由键,只是简单的将队列绑定到交换器上,每个发送到交换器的消息都会被转发到与该交换器绑定的所有队列上。很像子网广播,每台子网内的主机都获得了一份复制的消息。fanout 类型转发消息是最快的
-
topic
topic 交换器:通过模式匹配分配消息的路由键属性,将路由键和某个模式进行匹配,此时队列需要绑定到一个模式上。它将路由键和绑定键的字符串切分成单词,这些单词之间用点隔开。它同样也会识别两个通配符:符号“#”和符号“”。#匹配0个或多个单词,匹配不多不少一个单词。
四、RabbitMq代码级别API应用
生产者
public void publishMQ(StoreOrderDTO storeOrder) {
Channel channel = null;
try {
// 获取到连接以及通道
channel = getConnection().createChannel();
// 同一时刻服务器只能发送一条消息给消费者;
channel.basicQos(1);
} catch (IOException | TimeoutException e) {
LOGGER.error("获取channel连接失败", e);
return;
}
try {
// fanout表示分发,所有的消费者得到同样的队列信息
channel.exchangeDeclare(corpStoreOrderExchangeName, "fanout", true);
// 分发信息
JSONObject json = new JSONObject();
json.put("storeOrder", storeOrder);
channel.basicPublish(storeOrderExchangeName, "", MessageProperties.PERSISTENT_TEXT_PLAIN,
json.toJSONString().getBytes());
LOGGER.info("send storeorderInfo mqmessage to exchange: " + storeOrderExchangeName + ", content: "
+ json.toJSONString());
消费者(监听器中)
@PostConstruct
public void init() throws IOException, TimeoutException {
getConnection();
Channel channel = connection.createChannel();
channel.basicQos(1);
//声明交换器,fanout模式
channel.exchangeDeclare(corpStoreOrderExchangeName, "fanout", true);
// 产生一个随机的队列名称
channel.queueDeclare(CORPSTOREORDER_SUCCESS_QUEUE, true, false, false, null);
// 交换器和队列进行绑定
channel.queueBind(CORPSTOREORDER_SUCCESS_QUEUE, corpStoreOrderExchangeName, "");
LOGGER.info("RabbitMQ ReceiveOrderInfo Waiting for messages");
for (int i = 0; i < processThreadPoolSize; i++) {
//此处省略逻辑处理
//监听队列,手动返回完成
channel.basicConsume(CORPSTOREORDER_SUCCESS_QUEUE, false, consumer);
LOGGER.info("第" + (i + 1) + "个Consumer创建成功");
}
}