中间件 -- RabbitMQ

RabbitMQ

消息队列（message queue）

消息中间件有很多：RabbitMQ是其中的一款

同步和异步通讯

微服务间通讯有同步和异步两种方式：

同步通讯：就像打电话，需要实时响应。

异步通讯：就像发微信，不需要马上回复。

两种方式各有优劣，打电话可以立即得到响应，但是你却不能跟多个人同时通话。发送微信可以同时与多个人收发微信，但是往往响应会有延迟。

同步通讯

同步方式，虽然调用可以实时得到结果，但存在下面的问题：

总结：

同步调用的优点：

• 时效性较强，可以立即得到结果

同步调用的问题：

• 耦合度高
• 性能和吞吐能力下降
• 有额外的资源消耗
• 有级联失败问题

异步通讯

异步调用则可以避免上述问题：

我们以购买商品为例，用户支付后需要调用订单服务完成订单状态修改，调用物流服务，从仓库分配响应的库存并准备发货。

在事件模式中，支付服务是事件发布者（publisher），在支付完成后只需要发布一个支付成功的事件（event），事件中带上订单id。

订单服务和物流服务是事件订阅者（Consumer），订阅支付成功的事件，监听到事件后完成自己业务即可。

为了解除事件发布者与订阅者之间的耦合，两者并不是直接通信，而是有一个中间人（Broker）。发布者发布事件到Broker，不关心谁来订阅事件。订阅者从Broker订阅事件，不关心谁发来的消息。

Broker 是一个像数据总线一样的东西，所有的服务要接收数据和发送数据都发到这个总线上，这个总线就像协议一样，让服务间的通讯变得标准和可控。

好处：

• 吞吐量提升：无需等待订阅者处理完成，响应更快速
• 故障隔离：服务没有直接调用，不存在级联失败问题
• 调用间没有阻塞，不会造成无效的资源占用
• 耦合度极低，每个服务都可以灵活插拔，可替换
• 流量削峰：不管发布事件的流量波动多大，都由Broker接收，订阅者可以按照自己的速度去处理事件

缺点：

• 架构复杂了，业务没有明显的流程线，不好管理
• 需要依赖于Broker的可靠、安全、性能

好在现在开源软件或云平台上 Broker 的软件是非常成熟的，比较常见的一种就是我们今天要学习的MQ技术。

技术对比

MQ，中文是消息队列（MessageQueue），字面来看就是存放消息的队列。也就是事件驱动架构中的Broker。

比较常见的MQ实现：

• ActiveMQ
• RabbitMQ
• RocketMQ
• Kafka

几种常见MQ的对比：

	RabbitMQ	ActiveMQ	RocketMQ	Kafka
公司/社区	Rabbit	Apache	阿里	Apache
开发语言	Erlang	Java	Java	Scala&Java
协议支持	AMQP，XMPP，SMTP，STOMP	OpenWire,STOMP，REST,XMPP,AMQP	自定义协议	自定义协议
可用性	高	一般	高	高
单机吞吐量	一般	差	高	非常高
消息延迟	微秒级	毫秒级	毫秒级	毫秒以内
消息可靠性	高	一般	高	一般

追求可用性：Kafka、 RocketMQ 、RabbitMQ

追求可靠性：RabbitMQ、RocketMQ

追求吞吐能力：RocketMQ、Kafka

追求消息低延迟：RabbitMQ、Kafka

Rabbit快速入门

安装RabbitMQ（操作）

RabbitMQ安装到docker中

RabbitMQ启动成功后暴露两个端口

java应用端连接：192.168.136.160:5672

管理后台地址：http://192.168.136.160:15672

管理员账号/密码 guest/guest

配置

添加账号

添加虚拟主机

配置权限

RabbitMQ消息模型(队列消息 发布/订阅消息)

RabbitMQ提供了6种消息模型，但是第6种其实是RPC，并不是MQ，因此不予学习。那么也就剩下5种：

但是其实3、4、5这三种都属于发布订阅模型，只不过进行路由的方式不同。

入门案例

简单队列模式的模型图：

在上图的模型中，有以下概念：

• P：生产者，也就是要发送消息的程序
• C：消费者：消息的接受者，会一直等待消息到来。
• queue：消息队列，图中红色部分。类似一个邮箱，可以缓存消息；生产者向其中投递消息，消费者从其中取出消息。

publisher实现

思路：

• 建立连接
• 创建Channel
• 声明队列
• 发送消息
• 关闭连接和channel

代码实现：

package cn.itcast.mq.helloworld;

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import org.junit.Test;

import java.io.IOException;
import java.util.concurrent.TimeoutException;

public class PublisherTest {


    //发送消息
    @Test
    public void testSendMessage() throws IOException, TimeoutException {
        // 1.建立连接
        ConnectionFactory factory = new ConnectionFactory();
        // 1.1.设置连接参数，分别是：主机名、端口号、vhost、用户名、密码
        factory.setHost("192.168.136.160");
        factory.setPort(5672);
        factory.setVirtualHost("tanhua");
        factory.setUsername("jack");
        factory.setPassword("jack");
        // 1.2.建立连接
        Connection connection = factory.newConnection();

        // 2.创建通道Channel
        Channel channel = connection.createChannel();

        // 3.创建队列
        String queueName = "simple.queue";
        channel.queueDeclare(queueName, false, false, false, null);

        // 4.发送消息
        String message = "hello, rabbitmq!";
        channel.basicPublish("", queueName, null, message.getBytes());
        System.out.println("发送消息成功：【" + message + "】");

        // 5.关闭通道和连接
        channel.close();
        connection.close();

    }
}

consumer实现

代码思路：

• 建立连接
• 创建Channel
• 声明队列
• 订阅消息

代码实现：

package cn.itcast.mq.helloworld;

import com.rabbitmq.client.*;

import java.io.IOException;
import java.util.concurrent.TimeoutException;

public class ConsumerTest {

    //接受消息
    public static void main(String[] args) throws IOException, TimeoutException {
        // 1.建立连接
        ConnectionFactory factory = new ConnectionFactory();
        // 1.1.设置连接参数，分别是：主机名、端口号、vhost、用户名、密码
        factory.setHost("192.168.136.160");
        factory.setPort(5672);
        factory.setVirtualHost("heima157");
        factory.setUsername("heima157");
        factory.setPassword("heima157");
        // 1.2.建立连接
        Connection connection = factory.newConnection();

        // 2.创建通道Channel
        Channel channel = connection.createChannel();

        // 3.创建队列
        String queueName = "simple.queue";
        channel.queueDeclare(queueName, false, false, false, null);

        // 4.订阅消息
        channel.basicConsume(queueName, true, new DefaultConsumer(channel){
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope,
                                       AMQP.BasicProperties properties, byte[] body) throws IOException {
                // 5.处理消息
                String message = new String(body);
                System.out.println("接收到消息：【" + message + "】");
            }
        });
        System.out.println("等待接收消息。。。。");
    }
}

SpringAMQP(重点)

练习的时候：发布订阅模式的消息。

交换机和队列名：练习不同类型的消息时（交换机名称和队列名不要一模一样！）

在SpringAMQP中发送队列消息，需要手动在管理后台创建队列。

SpringAMQP是基于RabbitMQ封装的一套模板，并且还利用SpringBoot对其实现了自动装配，使用起来非常方便。

提供了三个功能：

• 自动声明队列、交换机及其绑定关系
• 基于注解的监听器模式，异步接收消息
• 封装了RabbitTemplate工具，用于发送消息

SimpleQueue

在父工程mq-demo中引入依赖

<dependencies>
    <!--spring amqp-->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-amqp</artifactId>
    </dependency>

   <!--springboot单元测试-->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-test</artifactId>
        <scope>test</scope>
    </dependency>

    <dependency>
        <groupId>com.fasterxml.jackson.core</groupId>
        <artifactId>jackson-databind</artifactId>
    </dependency>
</dependencies>

消息发送

首先配置MQ地址，在publisher服务的application.yml中添加配置：

#配置RabbitMQ的基本信息
spring:
  rabbitmq:
    host: 192.168.136.160
    port: 5672
    virtual-host: tanhua
    username: jack
    password: jack

然后在publisher服务中编写测试类RabbitTemplateTest，并利用RabbitTemplate实现消息发送：

@SpringBootTest
@RunWith(SpringRunner.class)
public class RabbitTemplateTest {

    /**
     * 使用SpringAMQP发送消息：
     *    1、依赖
     *    2、在配置文件中加入rabbitmq的相关配置
     *    3、注入对象RabbitTemplate，调用convertAndSend方法发送消息
     */
    @Autowired
    private RabbitTemplate template;
    
    /**
     * 发送基本（简单）队列消息
     * springamqp发送队列消息，需要在后台系统中手动创建一个队列
     */
    @Test
    public void testSendBaseMessage() {
        String ququeName="simple.queue";
        String message = "凡凡有难，八方点赞";
        template.convertAndSend(ququeName,message); //队列名称，消息内容
    }
}

消息接收

首先配置MQ地址，在consumer服务的application.yml中添加配置：

#配置RabbitMQ的基本信息
spring:
  rabbitmq:
    host: 192.168.136.160
    port: 5672
    virtual-host: tanhua
    username: jack
    password: jack

然后在consumer服务的cn.itcast.mq.listeners包中新建一个类MessageListener，代码如下：

package cn.itcast.mq.listener;

import org.springframework.amqp.core.ExchangeTypes;
import org.springframework.amqp.rabbit.annotation.Exchange;
import org.springframework.amqp.rabbit.annotation.Queue;
import org.springframework.amqp.rabbit.annotation.QueueBinding;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;

/**
 * 自定义的消息监听器：
 *    1、此类交给容器管理
 *    2、编写方法：监听消息队列（队列中一旦有最新的消息，自动执行方法）
 */
@Component
public class MessageListener {

    /**
     * 消费者的监听器方法：获取消息并消费（完成业务逻辑）
     * 1、方法没有返回值
     * 2、方法有参数（参数=发送的消息内容）
     *      参数类型和发送的消息类型一致
     * 3、在方法上通过@RabbitListener绑定队列
     */
    @RabbitListener(queues="simple.queue")
    public void recBaseMessage(String message) throws InterruptedException {
        Thread.sleep(1000);
        System.out.println("消费者1获取消息："+message);
    }
}

测试

启动consumer服务，然后在publisher服务中运行测试代码，发送MQ消息

WorkQueue

Work queues，也被称为（Task queues），任务模型。简单来说就是让多个消费者绑定到一个队列，共同消费队列中的消息。

当消息处理比较耗时的时候，可能生产消息的速度会远远大于消息的消费速度。长此以往，消息就会堆积越来越多，无法及时处理。

此时就可以使用work 模型，多个消费者共同处理消息处理，速度就能大大提高了。

消息发送

这次我们循环发送，模拟大量消息堆积现象。

在publisher服务中的AmqpPublusherTest类中添加一个测试方法：

    /**
     * 发送工作队列消息
     *   发送多次
     */
    @Test
    public void testSendWorkMessage() throws InterruptedException {
        for (int i = 0; i < 50; i++) {
            String message = "凡凡有难，八方点赞,点赞数："+i;
            String queueName = "simple.queue";
            rabbitTemplate.convertAndSend(queueName,message); //队列，消息
            Thread.sleep(10);
        }
    }

消息接收

要模拟多个消费者绑定同一个队列，准备一个新的工程consumer2

    /**
     * 消费者1
     */
    @RabbitListener(queues="simple.queue")
    public void recBaseMessage(String message) throws InterruptedException {
        //性能较高
        System.out.println("1号消费者获取消息："+message);
        Thread.sleep(50);
    }

    /**
     * 消费者2
     */
    @RabbitListener(queues="simple.queue")
    public void recBaseMessage(String message) throws InterruptedException {
        //性能较低
        System.out.println("2号消费者获取消息："+message);
        Thread.sleep(1000);
    }

注意到这个消费者sleep了1000秒，模拟任务耗时。

测试

启动ConsumerApplication后，在执行publisher服务中刚刚编写的发送测试方法testWorkQueue。

可以看到消费者1很快完成了自己的25条消息。消费者2却在缓慢的处理自己的25条消息。

也就是说消息是平均分配给每个消费者，并没有考虑到消费者的处理能力。这样显然是有问题的。

能者多劳

在spring中有一个简单的配置，可以解决这个问题。我们修改consumer服务的application.yml文件，添加配置：

spring:
  rabbitmq:
    listener:
      simple:
        prefetch: 1 # 每次只能获取一条消息，处理完成才能获取下一个消息

发布/订阅

发布订阅的模型如图：

可以看到，在订阅模型中，多了一个exchange角色，而且过程略有变化：

• P：生产者，也就是要发送消息的程序，但是不再发送到队列中，而是发给X（交换机）
• Exchange：交换机，图中的X。一方面，接收生产者发送的消息。另一方面，知道如何处理消息，例如递交给某个特别队列、递交给所有队列、或是将消息丢弃。到底如何操作，取决于Exchange的类型。Exchange有以下3种类型：
  • Fanout：广播，将消息交给所有绑定到交换机的队列
  • Direct：定向，把消息交给符合指定routing key 的队列
  • Topic：通配符，把消息交给符合routing pattern（路由模式） 的队列
• C：消费者，与以前一样，订阅队列，没有变化
• Queue：消息队列也与以前一样，接收消息、缓存消息。

Exchange（交换机）只负责转发消息，不具备存储消息的能力，因此如果没有任何队列与Exchange绑定，或者没有符合路由规则的队列，那么消息会丢失！

Fanout

Fanout，英文翻译是扇出，我觉得在MQ中叫广播更合适。

在广播模式下，消息发送流程是这样的：

• 1） 可以有多个队列
• 2） 每个队列都要绑定到Exchange（交换机）
• 3） 生产者发送的消息，只能发送到交换机，交换机来决定要发给哪个队列，生产者无法决定
• 4） 交换机把消息发送给绑定过的所有队列
• 5） 订阅队列的消费者都能拿到消息

消息发送

在publisher服务的AmqpPublusherTest类中添加测试方法：

    /**
     * 测试发送Fanout模式消息（广播模式）
     */
    @Test
    public void testSendFanoutMessage() {
        String exchangeName = "heima165fanout";
        String message = "凡凡有难，八方点赞";
        template.convertAndSend(exchangeName,"",message); //交换机名称，空，消息
    }

消息接收

准备两个消费者

在consumer1服务的MessageListener中添加方法，作为消费者：

    /**
     * 监听Fanout模式消息
     *      @RabbitListener:
     *          bindings ：绑定队列和交换机
     *          value：
     *              @Queue ： 指定队列
     *                  value：队列名称
     *          exchange：指定交换机
     *              @Exchange
     *                  value：交换机名称
     *                  type：类型
     */
    /**
     * 获取Fanout模式消息（广播）
     */
    @RabbitListener(
            bindings = @QueueBinding (
                    value = @Queue(
                            value = "fanout.queue1"
                    ),
                    exchange = @Exchange(
                            value = "heima165fanout",
                            type = ExchangeTypes.FANOUT
                    )
            )
    )
    public void recFanoutMessage(String message) {
        System.out.println("消费者1获取fanout消息："+message);
    }

在consumer2服务的MessageListener中添加方法，作为消费者：

    /**
     * 获取Fanout模式消息（广播）
     */
    @RabbitListener(
            bindings = @QueueBinding(
                    value = @Queue(
                            value = "fanout.queue2"
                    ),
                    exchange = @Exchange(
                            value = "heima165fanout",
                            type = ExchangeTypes.FANOUT
                    )
            )
    )
    public void recFanoutMessage(String message) {
        System.out.println("消费者2获取fanout消息："+message);
    }

Direct

在Fanout模式中，一条消息，会被所有订阅的队列都消费。但是，在某些场景下，我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。

在Direct模型下：

• 队列与交换机的绑定，不能是任意绑定了，而是要指定一个RoutingKey（路由key）
• 消息的发送方在 向 Exchange发送消息时，也必须指定消息的 RoutingKey。
• Exchange不再把消息交给每一个绑定的队列，而是根据消息的Routing Key进行判断，只有队列的Routingkey与消息的 Routing key完全一致，才会接收到消息

消息发送

在publisher服务的AmqpPublusherTest类中添加测试方法：

    /**
     * 测试发送direct模式消息（路由模式）
     */
    @Test
    public void testSendDirectMessage() {
        String exchangeName = "heima165Direct";
        String routingKey = "red";
        String message = "今天太冷了";
        template.convertAndSend(exchangeName,routingKey,message); //交换机，routingkey（类型），消息
    }

消息接受

consumer服务和consumer2服务配置消息接受方法

消费者1

    /**
     * 获取路由模式消息
     */
    @RabbitListener(
            bindings = @QueueBinding(
                    value = @Queue(
                            value = "direct.queue1"
                    ),
                    exchange = @Exchange(
                            value = "heima165Direct",
                            type = ExchangeTypes.DIRECT
                    ),
                    key = {"blue","red","yellow"}
            )
    )
    public void recDirectMessage(String message) {
        System.out.println("消费者1获取direct消息："+message);
    }

消费者2

    /**
     * 获取路由模式消息
     */
    @RabbitListener(
            bindings = @QueueBinding(
                    value = @Queue(
                            value = "direct.queue2"
                    ),
                    exchange = @Exchange(
                            value = "heima165Direct",
                            type = ExchangeTypes.DIRECT
                    ),
                    key = {"blue"}
            )
    )
    public void recDirectMessage(String message) {
        System.out.println("消费者2获取direct消息："+message);
    }

Topic

说明

Topic类型的Exchange与Direct相比，都是可以根据RoutingKey把消息路由到不同的队列。只不过Topic类型Exchange可以让队列在绑定Routing key 的时候使用通配符！

Routingkey 一般都是有一个或多个单词组成，多个单词之间以”.”分割，例如： item.insert

通配符规则：

#：匹配一个或多个词

*：匹配不多不少恰好1个词

举例：

item.#：能够匹配item.spu.insert 或者 item.spu

item.*：只能匹配item.spu

图示：

解释：

• 红色Queue：绑定的是usa.# ，因此凡是以 usa.开头的routing key 都会被匹配到
• 黄色Queue：绑定的是#.news ，因此凡是以 .news结尾的 routing key 都会被匹配

消息发送

在publisher服务的AmqpPublusherTest类中添加测试方法：

    /**
     * 发送topic消息（主题模式）
     */
    @Test
    public void testSendTopicMessage() {
        String exchangeName = "heima165Topic";
        String routingKey = "china.weather";
        String message = "恭喜EDG";
        template.convertAndSend(exchangeName,routingKey,message); //交换机，routingkey（类型），消息
    }

消息接收

在consumer服务的MessageListener中添加方法：

消费者1

    /**
     * 获取主题模式消息
     *   工程，可以支持所有以china开头的消息
     */
    @RabbitListener(
            bindings = @QueueBinding(
                    value = @Queue(
                            value = "topic.queue1"
                    ),
                    exchange = @Exchange(
                            value = "heima165Topic",
                            type = ExchangeTypes.TOPIC
                    ),
                    key = "china.*"
            )
    )
    public void recTopicMessage(String message) {
        System.out.println("消费者1获取topic消息："+message);
    }

消费者2

    /**
     * 获取主题模式消息
     *   工程，可以支持所有以news结尾的内容
     */
    @RabbitListener(
            bindings = @QueueBinding(
                    value = @Queue(
                            value = "topic.queue2"
                    ),
                    exchange = @Exchange(
                            value = "heima165Topic",
                            type = ExchangeTypes.TOPIC
                    ),
                    key = "*.news"
            )
    )
    public void recTopicMessage(String message) {
        System.out.println("消费者2获取topic消息："+message);
    }

消息转换器

之前说过，Spring会把你发送的消息序列化为字节发送给MQ，接收消息的时候，还会把字节反序列化为Java对象。

只不过，默认情况下Spring采用的序列化方式是JDK序列化。众所周知，JDK序列化存在下列问题：

• 数据体积过大
• 可读性差

我们来测试一下。

测试默认转换器

我们修改消息发送的代码，发送一个Map对象：

@Test
public void testSendMap() throws InterruptedException {
    // 准备消息
    Map<String,Object> msg = new HashMap<>();
    msg.put("name", "Jack");
    msg.put("age", 21);
    // 发送消息
    rabbitTemplate.convertAndSend("simple.queue","", msg);
}

停止consumer服务

发送消息后查看控制台：

配置JSON转换器

显然，JDK序列化方式并不合适。我们希望消息体的体积更小、可读性更高，因此可以使用JSON方式来做序列化和反序列化。

在publisher和consumer两个服务中都引入依赖：

<dependency>
    <groupId>com.fasterxml.jackson.dataformat</groupId>
    <artifactId>jackson-dataformat-xml</artifactId>
    <version>2.9.10</version>
</dependency>

配置消息转换器。

在启动类中添加一个Bean即可：

@Bean
public MessageConverter jsonMessageConverter(){
    return new Jackson2JsonMessageConverter();
}