消息队列RabbitMQ（一）

最新推荐文章于 2022-03-12 18:56:48 发布

墨雨千桦

最新推荐文章于 2022-03-12 18:56:48 发布

阅读量1k

点赞数

文章标签： java 开发语言后端

本文链接：https://blog.csdn.net/weixin_52907063/article/details/121544755

版权

什么是MQ？

本质是个队列，FIFO先入先出，只不过队列中存放的内容是message，是一种跨进程的通信机制，用于上下游传递消息。MQ是“逻辑解耦+物理解耦”的消息通信服务。

为什么用MQ？

流量消峰

eg：若订单系统最多处理一万次订单，这个处理能力应付正常时段的下单时绰绰有余，但在高峰期，操作系统是处理不了的，只能限制订单超过一万后不允许允许用户下单。使用消息队列做缓冲，就可取消这个限制，把一秒内下的订单分散成一段时间来处理，这时用户可能在下单几十秒后才能收到下单成功的操作

应用解耦

以电商应用为例，应用中有订单系统、库存系统、物流系统、支付系统。用户创建订单后，如果耦合调用库存系统、物流系统、支付系统，任何一个子系统出了故障，都会造成下单操作异常。当转变成基于消息队列的方式后，系统间调用的问题会减少很多，比如物流系统因为发生故障，需要几分钟来修复。在这几分钟的时间里，物流系统要处理的内存被缓存在消息队列中，用户的下单操作可以正常完成。当物流系统恢复后，继续处理订单信息即可，中单用户感受不到物流系统的故障，提升系统的可用性

异步处理

有些服务间调用是异步的，例如 A 调用 B ， B 需要花费很长时间执行，但是 A 需要知道 B 什么时候可以执行完，以前一般有两种方式，A 过一段时间去调用 B 的查询 api 查询。或者 A 提供一个 callback api ，B执行完之后调用 api 通知 A 服务。这两种方式都不是很优雅，使用消息总线，可以很方便解决这个问题， A 调用 B 服务后，只需要监听 B 处理完成的消息，当 B 处理完成后，会发送一条消息给 MQ ， MQ 会将此消息转发给 A 服务。这样 A 服务既不用循环调用 B 的查询 api ，也不用提供 callback api 。同样 B 服务也不用做这些操作。A 服务还能及时的得到异步处理成功的消息

RabbitMQ概念

RabbitMQ 是一个消息中间件：它接受并转发消息。你可以把它当做一个快递站点，当你要发送一个包裹时，你把你的包裹放到快递站，快递员最终会把你的快递送到收件人那里，按照这种逻辑 RabbitMQ 是一个快递站，一个快递员帮你传递快件。RabbitMQ 与快递站的主要区别在于，它不处理快件而是接收，存储和转发消息数据

四大核心

生产者：产生数据发送消息的程序是生产者

交换机：

交换机是 RabbitMQ 非常重要的一个部件，一方面它接收来自生产者的消息，另一方面它将消息推送到队列中。交换机必须确切知道如何处理它接收到的消息，是将这些消息推送到特定队列还是推送到多个队列，亦或者是把消息丢弃，这个得有交换机类型决定

队列：

队列是 RabbitMQ 内部使用的一种数据结构，尽管消息流经 RabbitMQ 和应用程序，但它们只能存储在队列中。队列仅受主机的内存和磁盘限制的约束，本质上是一个大的消息缓冲区。许多生产者可以将消息发送到一个队列，许多消费者可以尝试从一个队列接收数据。这就是我们使用队列的方式

消费者：

消费与接收具有相似的含义。消费者大多时候是一个等待接收消息的程序。请注意生产者，消费者和消息中间件很多时候并不在同一机器上。同一个应用程序既可以是生产者又是可以是消费者。

使用

添加依赖

<!--指定 jdk 编译版本--> 
<build> 
    <plugins> 
        <plugin> 
            <groupId>org.apache.maven.plugins</groupId> 
            <artifactId>maven-compiler-plugin</artifactId> 
            <configuration> 
                <source>8</source> 
                <target>8</target>
            </configuration>
        </plugin>
    </plugins>
</build> 
<dependencies>
<!--rabbitmq 依赖客户端--> 
    <dependency> 
        <groupId>com.rabbitmq</groupId> 
        <artifactId>amqp-client</artifactId> 
        <version>5.8.0</version>
    </dependency>
<!--操作文件流的一个依赖--> 
    <dependency> 
        <groupId>commons-io</groupId> 
        <artifactId>commons-io</artifactId> 
        <version>2.6</version>
    </dependency>
</dependencies>

消息生产者

public class Producer {
    private final static String QUEUE_NAME = "hello";
    public static void main(String[] args) throws Exception {
        //创建一个连接工厂
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("182.92.234.71");
        factory.setUsername("admin");
        factory.setPassword("123");
        //channel 实现了自动 close 接口 自动关闭 不需要显示关闭
        try(Connection connection = factory.newConnection();Channel
connection.createChannel()) {
        /**
        * 生成一个队列
        * 1.队列名称
        * 2.队列里面的消息是否持久化 默认消息存储在内存中
        * 3.该队列是否只供一个消费者进行消费 是否进行共享 true 可以多个消费者消费
        * 4.是否自动删除 最后一个消费者端开连接以后 该队列是否自动删除 true 自动删除
        * 5.其他参数
        */
        channel.queueDeclare(QUEUE_NAME,false,false,false,null);
        String message="hello world";
        /**
        * 发送一个消息
        * 1.发送到那个交换机
        * 2.路由的 key 是哪个
        * 3.其他的参数信息
        * 4.发送消息的消息体
        */
        channel.basicPublish("",QUEUE_NAME,null,message.getBytes());
        System.out.println("消息发送完毕");
        } 
    } 
}

消息消费者

public class Consumer {
    private final static String QUEUE_NAME = "hello";
    public static void main(String[] args) throws Exception {
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("182.92.234.71");
        factory.setUsername("admin");
        factory.setPassword("123");
        Connection connection = factory.newConnection();
        Channel channel = connection.createChannel();
        System.out.println("等待接收消息.........");
        //推送的消息如何进行消费的接口回调
        DeliverCallback deliverCallback=(consumerTag,delivery)->{
            String message= new String(delivery.getBody());
            System.out.println(message);
            };
        //取消消费的一个回调接口 如在消费的时候队列被删除掉了
        CancelCallback cancelCallback=(consumerTag)->{
            System.out.println("消息消费被中断");
            };
        /**
        * 消费者消费消息
        * 1.消费哪个队列
        * 2.消费成功之后是否要自动应答 true 代表自动应答 false 手动应答
        * 3.消费者未成功消费的回调
        */
        channel.basicConsume(QUEUE_NAME,true,deliverCallback,cancelCallback);
    }     
}

Work Queues

工作队列(又称任务队列)的主要思想是避免立即执行资源密集型任务，而不得不等待它完成。

相反我们安排任务在之后执行。我们把任务封装为消息并将其发送到队列。在后台运行的工作进

程将弹出任务并最终执行作业。当有多个工作线程时，这些工作线程将一起处理这些任务。

轮训分发消息

抽取工具类

public class RabbitMqUtils {
    //得到一个连接的 channel
    public static Channel getChannel() throws Exception{
    //创建一个连接工厂
     ConnectionFactory factory = new ConnectionFactory();
     factory.setHost("182.92.234.71");
     factory.setUsername("admin");
    factory.setPassword("123");
    Connection connection = factory.newConnection();
    Channel channel = connection.createChannel();
    return channel;
    } 
}

启动两个工作线程

public class Worker01 {
    private static final String QUEUE_NAME="hello";
    public static void main(String[] args) throws Exception { 
    Channel channel = RabbitMqUtils.getChannel();
    DeliverCallback deliverCallback=(consumerTag,delivery)->{
    String receivedMessage = new String(delivery.getBody());
    System.out.println("接收到消息:"+receivedMessage);
    };
    CancelCallback cancelCallback=(consumerTag)->{ 
    System.out.println(consumerTag+"消费者取消消费接口回调逻辑");
        };
    System.out.println("C2 消费者启动等待消费.................. ");
    channel.basicConsume(QUEUE_NAME,true,deliverCallback,cancelCallback);
    } 
}

启动一个发送线程

public class Task01 {
    private static final String QUEUE_NAME="hello";
    public static void main(String[] args) throws Exception {
        try(Channel channel=RabbitMqUtils.getChannel();) 
        { channel.queueDeclare(QUEUE_NAME,false,false,false,null);
        //从控制台当中接受信息
         Scanner scanner = new Scanner(System.in);
         while (scanner.hasNext()){
            String message = scanner.next();
            channel.basicPublish("",QUEUE_NAME,null,message.getBytes());
            System.out.println("发送消息完成:"+message);
               } 
           } 
      } 
}

消息应答

消费者完成一个任务可能需要一段时间，如果其中一个消费者处理一个长的任务并仅只完成

了部分突然它挂掉了，会发生什么情况。RabbitMQ 一旦向消费者传递了一条消息，便立即将该消

息标记为删除。在这种情况下，突然有个消费者挂掉了，我们将丢失正在处理的消息。以及后续

发送给该消费这的消息，因为它无法接收到。

为了保证消息在发送过程中不丢失，rabbitmq 引入消息应答机制，消息应答就是: 消费者在接收

到消息并且处理该消息之后，告诉 rabbitmq 它已经处理了，rabbitmq 可以把该消息删除了

自动应答

消息发送后立即被认为已经传送成功，这种模式需要在 高吞吐量和数据传输安全性方面做权

衡 ,因为这种模式如果消息在接收到之前，消费者那边出现连接或者 channel 关闭，那么消息就丢失了,当然另一方面这种模式消费者那边可以传递过载的消息，没有对传递的消息数量进行限制 ，当然这样有可能使得消费者这边由于接收太多还来不及处理的消息，导致这些消息的积压，最终使得内存耗尽，最终这些消费者线程被操作系统杀死，所以这种模式仅适用在消费者可以高效并以 某种速率能够处理这些消息的情况下使用 。

消息应答的方法

1.Channel.basicAck(用于肯定确认)

RabbitMQ 已知道该消息并且成功的处理消息，可以将其丢弃了

2.Channel.basicNack(用于否定确认)

3.Channel.basicReject(用于否定确认)

与 Channel.basicNack 相比少一个参数

不处理该消息了直接拒绝，可以将其丢弃了

Multiple 的解释

手动应答的好处是可以批量应答并且减少网络拥堵

multiple 的 true 和 false 代表不同意思

true 代表批量应答 channel 上未应答的消息

比如说 channel 上有传送 tag 的消息 5,6,7,8 当前 tag 是8 那么此时

5-8 的这些还未应答的消息都会被确认收到消息应答

false 同上面相比

只会应答 tag=8 的消息 5,6,7 这三个消息依然不会被确认收到消息应答

消息自动重新入队

如果消费者由于某些原因失去连接(其通道已关闭，连接已关闭或 TCP 连接丢失)，导致消息

未发送 ACK 确认，RabbitMQ 将了解到消息未完全处理，并将对其重新排队。如果此时其他消费者可以处理，它将很快将其重新分发给另一个消费者。这样，即使某个消费者偶尔死亡，也可以确保不会丢失任何消息

消息手动应答代码

boolean autoAck=false;

RabbitMQ 持久化

刚刚我们已经看到了如何处理任务不丢失的情况，但是如何保障当 RabbitMQ 服务停掉以后消

息生产者发送过来的消息不丢失。默认情况下 RabbitMQ 退出或由于某种原因崩溃时，它忽视队列

和消息，除非告知它不要这样做。确保消息不会丢失需要做两件事： 我们需要将队列和消息都标

记为持久化

队列如何实现持久化

需要在声明队列的时候把 durable 参数设置为持久化

boolean durable=true;

消息实现持久化

要想让消息实现持久化需要在消息生产者修改代码， MessageProperties.PERSISTENT_TEXT_PLAIN 添

加这个属性

不公平分发

在最开始的时候我们学习到 RabbitMQ 分发消息采用的轮训分发，但是在某种场景下这种策略并不是很好，比方说有两个消费者在处理任务，其中有个消费者 1 处理任务的速度非常快，而另外一个消费者 2处理速度却很慢，这个时候我们还是采用轮训分发的化就会到这处理速度快的这个消费者很大一部分时间处于空闲状态，而处理慢的那个消费者一直在干活，这种分配方式在这种情况其实就不太好，但是 RabbitMQ 并不知道这种情况它依然很公平的进行分发。

为了避免这种情况，我们可以设置参数 channel.basicQos(1);

意思就是如果这个任务我还没有处理完或者我还没有应答你，你先别分配给我，我目前只能处理一个任务，然后 rabbitmq 就会把该任务分配给没有那么忙的那个空闲消费者，当然如果所有的消费者都没有完成手上任务，队列还在不停的添加新任务，队列有可能就会遇到队列被撑满的情况，这个时候就只能添加新的 worker 或者改变其他存储任务的策略

预取值

本身消息的发送就是异步发送的，所以在任何时候， channel 上肯定不止只有一个消息另外来自消费者的手动确认本质上也是异步的。因此这里就存在一个未确认的消息缓冲区，因此希望开发人员能限制此 缓冲区的大小，以避免缓冲区里面无限制的未确认消息问题 。这个时候就可以通过使用 basic.qos 方法设置“预取计数”值来完成的。该值定义通道上允许的未确认消息的最大数量 。一旦数量达到配置的数量， RabbitMQ 将停止在通道上传递更多消息，除非至少有一个未处理的消息被确认，例如，假设在通道上有未确认的消息 5 、 6 、 7 ， 8 ，并且通道的预取计数设置为 4 ，此时 RabbitMQ 将不会在该通道上再传递任何消息，除非至少有一个未应答的消息被 ack 。比方说 tag=6 这个消息刚刚被确认 ACK ， RabbitMQ 将会感知这个情况到并再发送一条消息。消息应答和 QoS 预取值对用户吞吐量有重大影响。通常，增加预取将提高向消费者传递消息的速度。虽然自动应答传输消息速率是最佳的，但是，在这种情况下已传递但尚未处理 的消息的数量也会增加，从而增加了消费者的 RAM 消耗 ( 随机存取存储器 ) 应该小心使用具有无限预处理的自动确认模式或手动确认模式，消费者消费了大量的消息如果没有确认的话，会导致消费者连接节点的内存消耗变大，所以找到合适的预取值是一个反复试验的过程，不同的负载该值取值也不同 100 到 300 范

围内的值通常可提供最佳的吞吐量，并且不会给消费者带来太大的风险。预取值为 1 是最保守的。当然这将使吞吐量变得很低，特别是消费者连接延迟很严重的情况下，特别是在消费者连接等待时间较长的环境中。对于大多数应用来说，稍微高一点的值将是最佳的。

发布确认

发布确认原理

生产者将信道设置成 confirm 模式，一旦信道进入 confirm 模式， 所有在该信道上面发布的消

息都将会被指派一个唯一的 ID (从 1 开始)，一旦消息被投递到所有匹配的队列之后，broker 就会

发送一个确认给生产者(包含消息的唯一 ID)，这就使得生产者知道消息已经正确到达目的队列了，

如果消息和队列是可持久化的，那么确认消息会在将消息写入磁盘之后发出，broker 回传给生产

者的确认消息中 delivery-tag 域包含了确认消息的序列号，此外 broker 也可以设置 basic.ack 的

multiple 域，表示到这个序列号之前的所有消息都已经得到了处理。

confirm 模式最大的好处在于他是异步的，一旦发布一条消息，生产者应用程序就可以在等信道

返回确认的同时继续发送下一条消息，当消息最终得到确认之后，生产者应用便可以通过回调方

法来处理该确认消息，如果 RabbitMQ 因为自身内部错误导致消息丢失，就会发送一条 nack 消息，生产者应用程序同样可以在回调方法中处理该 nack 消息。

发布确认的策略

开启发布确认的方法

发布确认默认是没有开启的，如果要开启需要调用方法 confirmSelect，每当你要想使用发布

确认，都需要在 channel 上调用该方法

Channel channel=connection.createChannel();
channel.confirmSelect();

单个确认发布

这是一种简单的确认方式，它是一种 同步确认发布 的方式，也就是发布一个消息之后只有它

被确认发布，后续的消息才能继续发布,waitForConfirmsOrDie(long)这个方法只有在消息被确认

的时候才返回，如果在指定时间范围内这个消息没有被确认那么它将抛出异常。

这种确认方式有一个最大的缺点就是: 发布速度特别的慢， 因为如果没有确认发布的消息就会

阻塞所有后续消息的发布，这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某

些应用程序来说这可能已经足够了。

public static void publishMessageIndividually() throws Exception {
    try (Channel channel = RabbitMqUtils.getChannel()) 
        {String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName, false, false, false, null);
        //开启发布确认
         channel.confirmSelect();
        long begin = System.currentTimeMillis();
        for (int i = 0; i < MESSAGE_COUNT; i++) 
            {String message = i + "";
            channel.basicPublish("", queueName, null, message.getBytes());
            //服务端返回 false 或超时时间内未返回，生产者可以消息重发
             boolean flag = channel.waitForConfirms();
             if(flag){
                  System.out.println("消息发送成功");
                } 
             }
            long end = System.currentTimeMillis();
            System.out.println("发布" + MESSAGE_COUNT + "个单独确认消息,耗时" + (end - begin) +
"ms");
} }

批量确认发布

上面那种方式非常慢，与单个等待确认消息相比，先发布一批消息然后一起确认可以极大地

提高吞吐量，当然这种方式的缺点就是:当发生故障导致发布出现问题时，不知道是哪个消息出现

问题了，我们必须将整个批处理保存在内存中，以记录重要的信息而后重新发布消息。当然这种

方案仍然是同步的，也一样阻塞消息的发布。

public static void publishMessageBatch() throws Exception {
    try (Channel channel = RabbitMqUtils.getChannel()) 
        {String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName, false, false, false, null);
        //开启发布确认
         channel.confirmSelect();
        //批量确认消息大小
         int batchSize = 100;
        //未确认消息个数
         int outstandingMessageCount = 0;
        long begin = System.currentTimeMillis();
        for (int i = 0; i < MESSAGE_COUNT; i++) 
            {String message = i + "";
            channel.basicPublish("", queueName, null, message.getBytes());
            outstandingMessageCount++;
            if (outstandingMessageCount == batchSize) 
                {channel.waitForConfirms();
                outstandingMessageCount = 0; 
                } 
            }
            //为了确保还有剩余没有确认消息 再次确认
         if (outstandingMessageCount > 0) 
            {channel.waitForConfirms();
            }
            long end = System.currentTimeMillis();
            System.out.println("发布" + MESSAGE_COUNT + "个批量确认消息,耗时" + (end - begin) +
"ms");
} }

异步确认发布

异步确认虽然编程逻辑比上两个要复杂，但是性价比最高，无论是可靠性还是效率都没得说，

他是利用回调函数来达到消息可靠性传递的，这个中间件也是通过函数回调来保证是否投递成功，

下面就让我们来详细讲解异步确认是怎么实现的。

public static void publishMessageAsync() throws Exception {
    try (Channel channel = RabbitMqUtils.getChannel()) 
    {String queueName = UUID.randomUUID().toString();
    channel.queueDeclare(queueName, false, false, false, null);
    //开启发布确认
     channel.confirmSelect();
    /**
    * 线程安全有序的一个哈希表，适用于高并发的情况
     * 1.轻松的将序号与消息进行关联
     * 2.轻松批量删除条目 只要给到序列号
     * 3.支持并发访问
     */
    ConcurrentSkipListMap<Long, String> outstandingConfirms = new
    ConcurrentSkipListMap<>();
    /**
    * 确认收到消息的一个回调
     * 1.消息序列号
     * 2.true 可以确认小于等于当前序列号的消息
     * false 确认当前序列号消息
     */
    ConfirmCallback ackCallback = (sequenceNumber, multiple) -> {
    if (multiple) {
    //返回的是小于等于当前序列号的未确认消息 是一个 map
    ConcurrentNavigableMap<Long, String> confirmed =
    outstandingConfirms.headMap(sequenceNumber, true);
    //清除该部分未确认消息
     confirmed.clear();
    }else{
    //只清除当前序列号的消息
     outstandingConfirms.remove(sequenceNumber);
    }
    };
    ConfirmCallback nackCallback = (sequenceNumber, multiple) -> 
    {String message = outstandingConfirms.get(sequenceNumber);
    System.out.println("发布的消息"+message+"未被确认，序列号"+sequenceNumber);
    };
    /**
    * 添加一个异步确认的监听器
     * 1.确认收到消息的回调
     * 2.未收到消息的回调
     */
    channel.addConfirmListener(ackCallback, null);
    long begin = System.currentTimeMillis();
    for (int i = 0; i < MESSAGE_COUNT; i++) 
    {String message = "消息" + i;
    /**
    * channel.getNextPublishSeqNo()获取下一个消息的序列号
     * 通过序列号与消息体进行一个关联
     * 全部都是未确认的消息体
     */
    outstandingConfirms.put(channel.getNextPublishSeqNo(), message);
    channel.basicPublish("", queueName, null, message.getBytes());
    "ms");
    } }
    long end = System.currentTimeMillis();
    System.out.println("发布" + MESSAGE_COUNT + "个异步确认消息,耗时" + (end - begin) +
}

如何处理异步未确认消息

最好的解决的解决方案就是把未确认的消息放到一个基于内存的能被发布线程访问的队列，

比如说用 ConcurrentLinkedQueue 这个队列在 confirm callbacks 与发布线程之间进行消息的传

递

墨雨千桦

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
消息队列RabbitMQ（一）

什么是MQ？本质是个队列，FIFO先入先出，只不过队列中存放的内容是message，是一种跨进程的通信机制，用于上下游传递消息。MQ是“逻辑解耦+物理解耦”的消息通信服务。为什么用MQ？流量消峰 eg：若订单系统最多处理一万次订单，这个处理能力应付正常时段的下单时绰绰有余，但在高峰期，操作系统是处理不了的，只能限制订单超过一万后不允许允许用户下单。使用消息队列做缓冲，就可取消这个限制，把一秒内下的订单分散成一段时间来处理，这时用户可能在下单几十秒后才能收到下单成功的操作应用解耦 ..
复制链接

扫一扫