消息队列篇之 RabbitMQ

此博客非常适合从零开始学习 RabbitMQ 的 或者 想巩固RabbitMQ 的朋友

目录

安装

Windows

Linux

快速入门

五种消息模型

1.单向发送

2.多消费者 

 3.Rabbit MQ 交换机(订阅模型)

Fanout

Direct

Topic

RabbitMQ 核心特性

1.消息确认机制

自动ACK的弊端:

如果要手动ACK

2.消息持久化

3.消息过期机制


安装

Windows

Windows官网安装教程:Installing on Windows — RabbitMQ

安装Erlang 25.3.2 :因为Rabbit MQ 依赖于erlang ,它的性能非常高

Erlang 下载:Otp 25.3.2 - Erlang/OTP

Windows 安装 Rabbit MQ 监控面板,执行下面的命令:

rabbitmq-plugins.bat enable rabbitmq_management

Rabbit MQ 端口:15672:程序链接的端口,5672:WebUI

Linux

1.安装完Docker,启动Docker服务(略)


2.通过 docke r拉取 rabbitmq 镜像:

 docker pull rabbitmq:3.9-management

3.完成镜像拉取后,可以使用以下命令启动RabbitMQ容器:
 

sudo docker run -d --name myrabbitmq -p 5672:5672 -p 15672:15672 rabbitmq:3.9-management

4.容器启动后,可以使用以下命令检查容器是否正在运行:

sudo docker ps

如果能看到刚刚启动的RabbitMQ容器正在运行,那么恭喜您已成功在CentOS上使用Docker安装了RabbitMQ。还在将服务器的1562、5672端口开放,

5.最后,通过浏览器访问 http:// 服务器IP地址:15672 来打开RabbitMQ的WebUI管理界面,默认的用户名和密码是"guest"。可以进行用户设置、队列管理等操作。

快速入门

五种消息模型

RabbitMQ提供了6种消息模型,但是第6种其实是RPC,并不是MQ,因此不予学习。那么也就剩下5种。但是其实3、4、5这三种都属于订阅模型,只不过进行路由的方式不同。

引入Rabbit MQ 组件依赖

<!-- https://mvnrepository.com/artifact/com.rabbitmq/amqp-client -->
<dependency>
    <groupId>com.rabbitmq</groupId>
    <artifactId>amqp-client</artifactId>
    <version>5.16.0</version>
</dependency>

1.单向发送

一个生产者给一个队列发送消息,一个消费者从这个队列中获取到消息。1 对 1 关系

 生产者代码:

public class SingleProducer {
    private final static String SINGLE_QUEUE_NAME = "hello";

    public static void main(String[] argv) throws Exception {
        // 创建链接工厂
        ConnectionFactory factory = new ConnectionFactory();
        // 设置 rabbitmq 对应的信息
        factory.setHost("xx.xx.xx.xx");
        factory.setUsername("xxx");
        factory.setPassword("xxx");
        try (Connection connection = factory.newConnection();
             // 建立链接,创建频道
             Channel channel = connection.createChannel()) {
            // 创建消息队列
            channel.queueDeclare(SINGLE_QUEUE_NAME, false, false, false, null);
            String message = "Hello World!";
            channel.basicPublish("", SINGLE_QUEUE_NAME, null, message.getBytes(StandardCharsets.UTF_8));
            System.out.println(" [x] Sent '" + message + "'");
        }
    }
}

Channel 频道:理解为操作消息队列的client(比如 JDBCClient、redisClient),提供了和消息队列server建立通信的传输方法(为了复用连接,提高传输效率)。程序通过channel操作 rabbitmq (收发消息)

创建消息队列的参数说明:
● queueName:消息队列名称(注意,同名称的消息队列,只能用同样的参数创建一次)
● durabale:消息队列重启后,消息是否丢失,持久化处理
● exclusive:是否只允许当前这个创建消息队列的连接操作消息队列
● autoDelete:没有人用队列后,是否要删除队列

Queue.DeclareOk queueDeclare(String queue, boolean durable, boolean exclusive, boolean autoDelete,
                             Map<String, Object> arguments) throws IOException;

消费者代码:

public class SingleConsumer {

    private final static String QUEUE_NAME = "hello";

    public static void main(String[] argv) throws Exception {
        // 建立链接,
        ConnectionFactory factory = new ConnectionFactory();
        // 设置 rabbitmq 对应的信息
        factory.setHost("xx.xx.xx.xx");
        factory.setUsername("xxx");
        factory.setPassword("xxx");

        Connection connection = factory.newConnection();
        Channel channel = connection.createChannel();

        // 创建队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        System.out.println(" [*] Waiting for messages. To exit press CTRL+C");

        // 定义如何处理消息
        DeliverCallback deliverCallback = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), StandardCharsets.UTF_8);
            System.out.println(" [x] Received '" + message + "'");
        };
        // 消费消息
        channel.basicConsume(QUEUE_NAME, true, deliverCallback, consumerTag -> { });
    }
}

2.多消费者 

场景:多个机器同时去接受并处理任务(尤其是每个机器的处理能力有限)
 
一个生产者给一个队列发消息,多个消费者从这个队列取消息。1 对 多关系。

 生产者代码:

(这里的持久化机制后面会详细讲到)

 消费者代码:

public class MultiConsumer {

    private static final String TASK_QUEUE_NAME = "multi_queue";

    public static void main(String[] argv) throws Exception {
        // 建立链接
        ConnectionFactory factory = new ConnectionFactory();
        // 设置 rabbitmq 对应的信息
        factory.setHost("xxxxx.xxxx.xxxx");
        factory.setUsername("xxxx.xxxx.xxx");
        factory.setPassword("xxx.xxx.xxx");
        final Connection connection = factory.newConnection();

        for (int i = 0; i < 2; i++) {
            // 创建两个消费者频道
            final Channel channel = connection.createChannel();
            channel.queueDeclare(TASK_QUEUE_NAME, true, false, false, null);
            System.out.println(" [*] Waiting for messages. To exit press CTRL+C");

            // 控制当个消费者的积压数
            channel.basicQos(1);

            int finalI = i;
            DeliverCallback deliverCallback = (consumerTag, delivery) -> {

                String message = new String(delivery.getBody(), "UTF-8");
                try {
                    // 处理工作
                    System.out.println(" [x] Received '消费者:" + finalI + ",消费了:" + message + "'");
                    // 指定取某条消息
                    channel.basicAck(delivery.getEnvelope().getDeliveryTag(),false);
                    // 停20秒 模拟机器处理能力有限
                    Thread.sleep(10000);
                } catch (InterruptedException e) {
                    e.getStackTrace();
                    // 第三个参数
                    channel.basicNack(delivery.getEnvelope().getDeliveryTag(),false,false);
                } finally {
                    System.out.println(" [x] Done");
                    channel.basicAck(delivery.getEnvelope().getDeliveryTag(), false);
                }
            };
            // 开启消费监听,会一直监听生产者的消息
            channel.basicConsume(TASK_QUEUE_NAME, false, deliverCallback, consumerTag -> {
            });
        }
    }
}

其中控制单个消费者的处理任务积压数:每个消费者最多同时处理1个任务

channel.basicQos(1);

 3.Rabbit MQ 交换机(订阅模型

Exchange类型有以下几种:

  • Fanout:广播,将消息交给所有绑定到交换机的队列
  • Direct:定向,把消息交给符合指定routing key 的队列
  • Topic:通配符,把消息交给符合routing pattern(路由模式) 的队列

Exchange(交换机)只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失!

Fanout

流程图:

在广播模式下,消息发送流程是这样的:

  • 1) 可以有多个消费者

  • 2) 每个消费者有自己的queue(队列)

  • 3) 每个队列都要绑定到Exchange(交换机)

  • 4) 生产者发送的消息,只能发送到交换机,交换机来决定要发给哪个队列,生产者无法决定。

  • 5) 交换机把消息发送给绑定过的所有队列

  • 6) 队列的消费者都能拿到消息。实现一条消息被多个消费者消费 

 生成者代码:

 两个变化:

  • 1) 声明Exchange,不再声明Queue

  • 2) 发送消息到Exchange,不再发送到Queue

消费者代码:

public class FanoutConsumer {
    private static final String FANOUT_EXCHANGE_NAME = "fanout-exchange";

    public static void main(String[] argv) throws Exception {
        ConnectionFactory factory = new ConnectionFactory();
        // 设置 rabbitmq 对应的信息
        factory.setHost("xxxxx.xxxx.xxxx");
        factory.setUsername("xxxx.xxxx.xxx");
        factory.setPassword("xxx.xxx.xxx");

        Connection connection = factory.newConnection();

        Channel channel1 = connection.createChannel();
        Channel channel2 = connection.createChannel();

        // 声明交换机
        channel1.exchangeDeclare(FANOUT_EXCHANGE_NAME, "fanout");
        //channel2.exchangeDeclare(FANOUT_EXCHANGE_NAME, "fanout");

        // 员工小红
        String queueName1 = "xiaohong_queue";
        channel1.queueDeclare(queueName1, true, false, false, null);
        channel1.queueBind(queueName1, FANOUT_EXCHANGE_NAME, "");
        // 员工小蓝
        String queueName2 = "xiaolan_queue";
        channel2.queueDeclare(queueName2, true, false, false, null);
        channel2.queueBind(queueName2, FANOUT_EXCHANGE_NAME, "");

        System.out.println(" [*] =========================================");

        DeliverCallback deliverCallback1 = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), "UTF-8");
            System.out.println(" [x] Received '" + message + "'");
        };

        DeliverCallback deliverCallback2 = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), "UTF-8");
            System.out.println(" [x] Received '" + message + "'");
        };

        // 监听消息
        channel1.basicConsume(queueName1, true, deliverCallback1, consumerTag -> {
        });
        channel2.basicConsume(queueName2, true, deliverCallback2, consumerTag -> {
        });
    }
}

 要注意代码中:队列需要和交换机绑定

Direct

订阅模型-Direct,有选择性的接收消息。

在订阅模式中,生产者发布消息,所有消费者都可以获取所有消息。

在路由模式中,我们将添加一个功能 - 我们将只能订阅一部分消息。 例如,我们只能将重要的错误消息引导到日志文件(以节省磁盘空间),同时仍然能够在控制台上打印所有日志消息。

但是,在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key)

消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。

  • P:生产者,向Exchange发送消息,发送消息时,会指定一个routing key。
  • X:Exchange(交换机),接收生产者的消息,然后把消息递交给 与routing key完全匹配的队列
  • C1:消费者,其所在队列指定了需要routing key 为 error 的消息
  • C2:消费者,其所在队列指定了需要routing key 为 info、error、warning 的消息

生产者代码:

 消费者代码:

public class DirectConsumer {

    private static final String DIRECT_EXCHANGE = "direct-exchange";

    public static void main(String[] argv) throws Exception {
        ConnectionFactory factory = new ConnectionFactory();
        // 设置 rabbitmq 对应的信息
        factory.setHost("xxxxx.xxxx.xxxx");
        factory.setUsername("xxxx.xxxx.xxx");
        factory.setPassword("xxx.xxx.xxx");

        Connection connection = factory.newConnection();
        Channel channel = connection.createChannel();

        channel.exchangeDeclare(DIRECT_EXCHANGE, "direct");

        // 创建队列,分配一个队列名称:小紫
        String queueName = "xiaozi_queue";
        channel.queueDeclare(queueName, true, false, false, null);
        channel.queueBind(queueName, DIRECT_EXCHANGE, "xiaozi");

        // 创建队列,分配一个队列名称:小黑
        String queueName2 = "xiaohei_queue";
        channel.queueDeclare(queueName2, true, false, false, null);
        channel.queueBind(queueName2, DIRECT_EXCHANGE, "xiaohei");

        System.out.println(" [*] Waiting for messages. To exit press CTRL+C");

        // 小紫队列监听机制
        DeliverCallback xiaoziDeliverCallback = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), "UTF-8");
            System.out.println(" [xiaozi] Received '" +
                    delivery.getEnvelope().getRoutingKey() + "':'" + message + "'");
        };
        // 小黑队列监听机制
        DeliverCallback xiaoheiDeliverCallback = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), "UTF-8");
            System.out.println(" [xiaohei] Received '" +
                    delivery.getEnvelope().getRoutingKey() + "':'" + message + "'");
        };
        channel.basicConsume(queueName, true, xiaoziDeliverCallback, consumerTag -> {
        });
        channel.basicConsume(queueName2, true, xiaoheiDeliverCallback, consumerTag -> {
        });
    }
}

   

生产者发送四条消息,分别发送给 nouser , xiaoyu , xiaopi , none 

我们可以看到消费者 xiaoyu , xiaopi 准确的接受到消息

Topic

Topic类型的Exchange与Direct相比,都是可以根据RoutingKey把消息路由到不同的队列。只不过Topic类型Exchange可以让队列在绑定Routing key 的时候使用通配符

Routingkey 一般都是有一个或多个单词组成,多个单词之间以”.”分割,例如: item.insert

通配符规则:

#:匹配一个或多个词

*:匹配不多不少恰好1个词

举例:

audit.#:能够匹配audit.irs.corporate 或者 audit.irs

audit.*:只能匹配audit.irs

在这个例子中,我们将发送所有描述动物的消息。消息将使用由三个字(两个点)组成的routing key发送。路由关键字中的第一个单词将描述速度,第二个颜色和第三个种类:“<speed>.<color>.<species>”。

我们创建了三个绑定:Q1绑定了绑定键“* .orange.”,Q2绑定了“.*.rabbit”和“lazy.#”。

Q1匹配所有的橙色动物。Q2匹配关于兔子以及懒惰动物的消息。

练习:

  1. quick.orange.rabbit          à         Q1 Q2
  2. lazy.orange.elephant       à         Q1 Q2
  3. quick.orange.fox             à         Q1
  4. lazy.pink.rabbit               à         Q2

 生产者代码:

 消费者代码:

public class TopicConsumer {

    private static final String TOPIC_EXCHANGE = "topic-exchange";

    public static void main(String[] argv) throws Exception {
        ConnectionFactory factory = new ConnectionFactory();
        // 设置 rabbitmq 对应的信息
        factory.setHost("xxxxx.xxxx.xxxx");
        factory.setUsername("xxxx.xxxx.xxx");
        factory.setPassword("xxx.xxx.xxx");

        Connection connection = factory.newConnection();
        Channel channel = connection.createChannel();

        channel.exchangeDeclare(TOPIC_EXCHANGE, "topic");

        // 创建前端队列,分配一个队列名称:frontend
        String queueName = "frontend_queue";
        channel.queueDeclare(queueName, true, false, false, null);
        channel.queueBind(queueName, TOPIC_EXCHANGE, "#.前端.#");

        // 创建后端队列,分配一个队列名称:backend
        String queueName2 = "backend_queue";
        channel.queueDeclare(queueName2, true, false, false, null);
        channel.queueBind(queueName2, TOPIC_EXCHANGE, "#.后端.#");

        // 创建后端队列,分配一个队列名称:backend
        String queueName3 = "product_queue";
        channel.queueDeclare(queueName3, true, false, false, null);
        channel.queueBind(queueName3, TOPIC_EXCHANGE, "#.产品.#");

        System.out.println(" [*] Waiting for messages. To exit press CTRL+C");

        // A队列监听机制
        DeliverCallback xiaoADeliverCallback = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), "UTF-8");
            System.out.println(" [xiaoA] Received '" +
                    delivery.getEnvelope().getRoutingKey() + "':'" + message + "'");
        };
        // B队列监听机制
        DeliverCallback xiaoBDeliverCallback = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), "UTF-8");
            System.out.println(" [xiaoB] Received '" +
                    delivery.getEnvelope().getRoutingKey() + "':'" + message + "'");
        };

        // C队列监听机制
        DeliverCallback xiaoCDeliverCallback = (consumerTag, delivery) -> {
            String message = new String(delivery.getBody(), "UTF-8");
            System.out.println(" [xiaoC] Received '" +
                    delivery.getEnvelope().getRoutingKey() + "':'" + message + "'");
        };

        channel.basicConsume(queueName, true, xiaoADeliverCallback, consumerTag -> {
        });
        channel.basicConsume(queueName2, true, xiaoBDeliverCallback, consumerTag -> {
        });
        channel.basicConsume(queueName3, true, xiaoCDeliverCallback, consumerTag -> {
        });
    }
}

实现了把 新项目 发送给前端xiaoa和后端xiaob, 把 新的需求 发送给产品经理xiaoc

RabbitMQ 核心特性

1.消息确认机制

channel.basicConsume(TASK_QUEUE_NAME, false, deliverCallback, consumerTag -> {});
// basicConsume()方法源码:
String basicConsume(String queue, boolean autoAck, DeliverCallback deliverCallback, CancelCallback cancelCallback) throws IOException;

消费者订阅队列的时候,可以指定autoAck参数,当autoAck为true的时候,RabbitMQ采用自动确认模式,RabbitMQ自动把发送出去的消息设置为确认,然后从内存或者硬盘中删除,而不管消费者是否真正消费到了这些消息。

当autoAck为false的时候,RabbitMQ会等待消费者回复的确认信号,收到确认信号之后才从内存或者磁盘中删除消息。

大家觉得哪种更好呢?

这需要看消息的重要性:

  • 如果消息不太重要,丢失也没有影响,那么自动ACK会比较方便

  • 如果消息非常重要,不容丢失。那么最好在消费完成后手动ACK,否则接收消息后就自动ACK,RabbitMQ就会把消息从队列中删除。如果此时消费者宕机,那么消息就丢失了。

自动ACK的弊端:

channel.basicConsume(QUEUE_NAME, true, deliverCallback, consumerTag -> { });

修改消费者,添加异常,如下:

        int i =  2 / 0 ; 

生产者不做任何修改,直接运行,消息发送成功:

运行消费者,程序抛出异常。但是消息依然被消费:

如果要手动ACK

需要改动我们的代码:

channel.basicConsume(QUEUE_NAME, false, deliverCallback, consumerTag -> { });

 生产者不变,再次运行:

 把异常注释掉,再次运行

发现控制台可以输出 hello ,  但是管理面板

停掉消费者的程序,发现:

这是因为虽然我们设置了手动ACK,但是代码中并没有进行消息确认!所以消息并未被真正消费掉。当我们关掉这个消费者,消息的状态再次称为Ready。

修改代码手动ACK(确认消息):

channel.basicAck(delivery.getEnvelope().getDeliveryTag(), false);

参数解析:

channel.basicAck(delivery.getEnvelope().getDeliveryTag(),false);
// 源码
void basicAck(long deliveryTag, boolean multiple) throws IOException;
  • deliveryTag:表示要确认的消息的标识符。每个消息都有一个唯一的deliveryTag,用于标识消息的顺序。
  • multiple:表示是否批量确认消息。如果设置为true,则表示确认所有在deliveryTag之前的未确认消息;如果设置为false,则只确认当前deliveryTag的消息。

第二参数 multiple 批量确认:是指是否要一次性确认所有的历史消息直到当前这条

还有就是拒绝某条消息

channel.basicNack(delivery.getEnvelope().getDeliveryTag(),false,false);
// 源码
void basicNack(long deliveryTag, boolean multiple, boolean requeue)
            throws IOException;

参数解析:

  • deliveryTag:表示要否定确认的消息的标识符。每个消息都有一个唯一的deliveryTag,用于标识消息的顺序。
  • multiple:表示是否批量否定确认消息。如果设置为true,则表示否定所有在deliveryTag之前的未确认消息;如果设置为false,则只否定当前deliveryTag的消息。
  • requeue:表示是否将消息重新放回队列。如果设置为true,则消息将被重新放回队列并可以被其他消费者重新消费;如果设置为false,则消息将会被丢弃。

2.消息持久化

如何避免消息丢失?

1) 消费者的ACK机制。可以防止消费者丢失消息。

2) 但是,如果在消费者消费之前,MQ就宕机了,消息就没了。

是可以将消息进行持久化呢?

要将消息持久化,前提是:队列、Exchange都持久化

交换机持久化。

队列持久化

消息持久化

3.消息过期机制

官网:Time-To-Live and Expiration — RabbitMQ

可以给每条消息指定一个有效期,一段时间内未被消费者处理,就过期了。

1)给队列中的所有消息指定过期时间

在消费者中添加以下代码:

// 创建队列
Map<String, Object> msg = new HashMap<String, Object>();
msg.put("x-message-ttl", 5000);
// 指定args参数
channel.queueDeclare(TTL_QUEUE, false, false, false, msg);

2)给某条消息指定过期时间

在消息发送者设置,也就是生产者代码处:

byte[] messageBodyBytes = "Hello, world!".getBytes();
AMQP.BasicProperties properties = new AMQP.BasicProperties.Builder()
                                   .expiration("60000")
                                   .build();
channel.basicPublish("my-exchange", "routing-key", properties, messageBodyBytes);

未完待续~~~~~~~~~~~

顺序消费、消费幂等性

延迟队列、死信队列

  • 6
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值