1 MQ的产生背景
微服务架构后,链式调用是我们在写程序时候的一般流程,为了完成一个整体功能会将其拆分成多个函数(或子模块),比如模块A调用模块B,模块B调用模块C,模块C调用模块D。但在大型分布式应用中,系统间的RPC交互繁杂,一个功能背后要调用上百个接口并非不可能,从单机架构过渡到分布式微服务架构的通例。这些架构会有哪些问题?
(1) 系统之间接口耦合比较严重
每新增一个下游功能,都要对上游的相关接口进行改造;
举个例子:如果系统A要发送数据给系统B和系统C,发送给每个系统的数据可能有差异,因此系统A对要发送给每个系统的数据进行了组装,然后逐一发送;
当代码上线后又新增了一个需求:把数据也发送给D,新上了一个D系统也要接受A系统的数据,此时就需要修改A系统,让他感知到D系统的存在,同时把数据处理好再给D。在这个过程你会看到,每接入一个下游系统,都要对系统A进行代码改造,开发联调的效率很低。其整体架构如下图:
(2)面对大流量并发时,容易被冲垮
每个接口模块的吞吐能力是有限的,这个上限能力如果是堤坝,当大流量(洪水)来临时,容易被冲垮。
举个例子秒杀业务:上游系统发起下单购买操作,就是下单一个操作,很快就完成。然而,下游系统要完成秒杀业务后面的所有逻辑(读取订单,库存检查,库存冻结,余额检查,余额冻结,订单生产,余额扣减,库存减少,生成流水,余额解冻,库存解冻)
(3) 等待同步存在性能问题
RPC接口上基本都是同步调用,整体的服务性能遵循“木桶理论”,即整体系统的耗时取决于链路中最慢的那个接口。比如A调用B/C/D都是50ms,但此时B又调用了B1,花费2000ms,那么直接就拖累了整个服务性能。
根据上述的几个问题,在设计系统时可以明确要达到的目标:
1,要做到系统解耦,当新的模块接进来时,可以做到代码改动最小;能够解耦
2,设置流量缓冲池,可以让后端系统按照自身吞吐能力进行消费,不被冲垮;能削峰
3,强弱依赖梳理能将非关键调用链路的操作异步化并提升整体系统的吞吐能力;能够异步
2 MQ的主要作用
(1)异步。调用者无需等待。
(2)解耦。解决了系统之间耦合调用的问题。
(3)消峰。抵御洪峰流量,保护了主业务
3 MQ的定义
面向消息的中间件(message-oriented middleware)MOM能够很好的解决以上问题。是指利用高效可靠的消息传递机制与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息排队模型在分布式环境下提供应用解耦,弹性伸缩,冗余存储、流量削峰,异步通信,数据同步等功能。
大致的过程是这样的:发送者把消息发送给消息服务器,消息服务器将消息存放在若干队列/主题topic中,在合适的时候,消息服务器回将消息转发给接受者。在这个过程中,发送和接收是异步的,也就是发送无需等待,而且发送者和接受者的生命周期也没有必然的关系;尤其在发布pub/订阅sub模式下,也可以完成一对多的通信,即让一个消息有多个接受者。
4 MQ的特点
(1) 采用异步处理模式
消息发送者可以发送一个消息而无须等待响应。消息发送者将消息发送到一条虚拟的通道(主题或者队列)上;
消息接收者则订阅或者监听该爱通道。一条消息可能最终转发给一个或者多个消息接收者,这些消息接收者都无需对消息发送者做出同步回应。整个过程都是异步的。
案例:
也就是说,一个系统跟另一个系统之间进行通信的时候,假如系统A希望发送一个消息给系统B,让他去处理。但是系统A不关注系统B到底怎么处理或者有没有处理好,所以系统A把消息发送给MQ,然后就不管这条消息的“死活了”,接着系统B从MQ里面消费出来处理即可。至于怎么处理,是否处理完毕,什么时候处理,都是系统B的事儿,与系统A无关。
(2) 应用系统之间解耦合
发送者和接受者不必了解对方,只需要确认消息。
发送者和接受者不必同时在线。
(3) 整体架构
MQ的缺点
两个系统之间不能同步调用,不能实时回复,不能响应某个调用的回复。
pom.xml导入依赖
<dependencies>
<!-- activemq 所需要的jar 包-->
<dependency>
<groupId>org.apache.activemq</groupId>
<artifactId>activemq-all</artifactId>
<version>5.15.9</version>
</dependency>
<!-- activemq 和 spring 整合的基础包 -->
<dependency>
<groupId>org.apache.xbean</groupId>
<artifactId>xbean-spring</artifactId>
<version>3.16</version>
</dependency>
</dependencies>
队列(queue)消息生产者的入门案例
package com.mq;
import org.apache.activemq.ActiveMQConnectionFactory;
import javax.jms.*;
/**
* 消息生产者
*/
public class JmsProduce {
public static final String ACTIVEMQ_URL = "tcp://127.0.0.1:61616/";
public static final String QUEUE_NAME = "query01";
public static void main(String[] args) throws JMSException {
//创建工厂
ActiveMQConnectionFactory activeMQConnectionFactory = new ActiveMQConnectionFactory(ACTIVEMQ_URL);
//通过连接工厂获得连接connection并启动
Connection connection = activeMQConnectionFactory.createConnection();
connection.start();
//创建会话 参数 1事务 2签收
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//创建目的地 是队列还是主题topic
Queue queue = session.createQueue(QUEUE_NAME);
//创建消失生产者
MessageProducer messageProducer = session.createProducer(queue);
//通过messageProducer给mq发送消息
for(int i = 1;i<=100;i++){
//创建消息 里面放消息内容
TextMessage textMessage = session.createTextMessage("msg---" + i);
//通过messageProducer发送给mq
messageProducer.send(textMessage);
}
//关闭支援
messageProducer.close();
session.close();
connection.close();
System.out.println("****消息发送给mq****");
}
}
ActiveMQ控制台之队列
Number Of Pending Messages:
等待消费的消息,这个是未出队列的数量,公式=总接收数-总出队列数。
Number Of Consumers:
消费者数量,消费者端的消费者数量。
Messages Enqueued:
进队消息数,进队列的总消息量,包括出队列的。这个数只增不减。
Messages Dequeued:
出队消息数,可以理解为是消费者消费掉的数量。
总结:
当有一个消息进入这个队列时,等待消费的消息是1,进入队列的消息是1。
当消息消费后,等待消费的消息是0,进入队列的消息是1,出队列的消息是1。
当再来一条消息时,等待消费的消息是1,进入队列的消息就是2。
队列消息消费者的入门案例
package com.mq;
import org.apache.activemq.ActiveMQConnectionFactory;
import javax.jms.*;
/**
* 消息消费者,同步阻塞方式
*/
public class JmsConsumerDemo01 {
public static final String ACTIVEMQ_URL = "tcp://127.0.0.1:61616/";
public static final String QUEUE_NAME = "query01";
public static void main(String[] args) throws JMSException {
System.out.println("2号消费者");
//创建工厂
ActiveMQConnectionFactory activeMQConnectionFactory = new ActiveMQConnectionFactory(ACTIVEMQ_URL);
//通过连接工厂获得连接connection并启动
Connection connection = activeMQConnectionFactory.createConnection();
connection.start();
//创建会话 参数 1事务 2签收
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//创建目的地 是队列还是主题topic
Queue queue = session.createQueue(QUEUE_NAME);
//创建消费者
//从指定的队列中取消息
MessageConsumer messageConsumer = session.createConsumer(queue);
/**
* 同步阻塞方式(.receive())
* 订阅者或接受者messageConsumer的.receive()方法来接收消息
* .receive()方法在能够接收到消息之前一直阻塞
*/
while (true){
//.receive() 一直等待mq中的消息
TextMessage textMessage = (TextMessage)messageConsumer.receive();
if(null != textMessage){
System.out.println("******收到消息"+textMessage.getText());
}else {
break;
}
}
messageConsumer.close();
session.close();
connection.close();
}
}
从mq中取消息
用监听的方式取消息
package com.mq;
import org.apache.activemq.ActiveMQConnectionFactory;
import javax.jms.*;
import java.io.IOException;
/**
* 消息消费者,通过监听获取消息
*/
public class JmsConsumerDemo02 {
public static final String ACTIVEMQ_URL = "tcp://127.0.0.1:61616/";
public static final String QUEUE_NAME = "query01";
public static void main(String[] args) throws JMSException, IOException {
System.out.println("1号消费者");
//创建工厂
ActiveMQConnectionFactory activeMQConnectionFactory = new ActiveMQConnectionFactory(ACTIVEMQ_URL);
//通过连接工厂获得连接connection并启动
Connection connection = activeMQConnectionFactory.createConnection();
connection.start();
//创建会话 参数 1事务 2签收
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//创建目的地 是队列还是主题topic
Queue queue = session.createQueue(QUEUE_NAME);
//创建消费者
//从指定的队列中取消息
MessageConsumer messageConsumer = session.createConsumer(queue);
//通过监听获取消息,有消息则消费,没消息则不管
//异步非阻塞方式(监听器onMessage())
messageConsumer.setMessageListener(new MessageListener() {
@Override
public void onMessage(Message message) {
if(null != message && message instanceof TextMessage){
TextMessage textMessage = (TextMessage)message;
try {
System.out.println("*****消费者收到消息:"+textMessage.getText());
} catch (JMSException e) {
e.printStackTrace();
}
}
}
});
System.in.read();
messageConsumer.close();
session.close();
connection.close();
}
}
小结
1,先生产 只启动1号消费者。问题:1号消费者能消费吗 可以
2,先生产 先启动1号消费者再启动2号消费者问题,2号消费者还能消费消息吗?
一号可以
二号不行
3,先启动2个消费者,在生产6条消息,两个消费者轮训策略一人收一半
topic
1,先订阅后发送,生产者的消息每个消费者都可以全部获取,不然获取不到消息
建立生产者
package com.mq.topic;
import org.apache.activemq.ActiveMQConnectionFactory;
import javax.jms.*;
public class JmsProduce_Topic {
public static final String ACTIVEMQ_URL = "tcp://127.0.0.1:61616/";
public static final String TOPIC_NAME = "topic-linailong";
public static void main(String[] args) throws JMSException {
//创建工厂
ActiveMQConnectionFactory activeMQConnectionFactory = new ActiveMQConnectionFactory(ACTIVEMQ_URL);
//通过连接工厂获得连接connection并启动
Connection connection = activeMQConnectionFactory.createConnection();
connection.start();
//创建会话 参数 1事务 2签收
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//创建目的地 是队列还是主题topic
Topic topic = (Topic) session.createTopic(TOPIC_NAME);
//创建消失生产者
MessageProducer messageProducer = session.createProducer(topic);
//通过messageProducer给mq发送消息
for(int i = 1;i<=3;i++){
//创建消息 里面放消息内容
TextMessage textMessage = session.createTextMessage("TOPIC_NAME---" + i);
//通过messageProducer发送给mq
messageProducer.send(textMessage);
}
//关闭支援
messageProducer.close();
session.close();
connection.close();
System.out.println("****TOPIC_NAME消息发送给mq****");
}
}
建立三个消费者
package com.mq.topic;
import org.apache.activemq.ActiveMQConnectionFactory;
import javax.jms.*;
import java.io.IOException;
public class JmsConsumerDemo03_topic {
public static final String ACTIVEMQ_URL = "tcp://127.0.0.1:61616/";
public static final String TOPIC_NAME = "topic-linailong";
public static void main(String[] args) throws JMSException, IOException {
System.out.println("3号消费者");
//创建工厂
ActiveMQConnectionFactory activeMQConnectionFactory = new ActiveMQConnectionFactory(ACTIVEMQ_URL);
//通过连接工厂获得连接connection并启动
Connection connection = activeMQConnectionFactory.createConnection();
connection.start();
//创建会话 参数 1事务 2签收
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//创建目的地 是队列还是主题topic
Topic topic = (Topic) session.createTopic(TOPIC_NAME);
//创建消费者
//从指定的队列中取消息
MessageConsumer messageConsumer = session.createConsumer(topic);
//通过监听获取消息,有消息则消费,没消息则不管
//异步非阻塞方式(监听器onMessage())
messageConsumer.setMessageListener(new MessageListener() {
@Override
public void onMessage(Message message) {
if(null != message && message instanceof TextMessage){
TextMessage textMessage = (TextMessage)message;
try {
System.out.println("*****消费者收到消息:"+textMessage.getText());
} catch (JMSException e) {
e.printStackTrace();
}
}
}
});
System.in.read();
messageConsumer.close();
session.close();
connection.close();
}
}