异步条件下事务设置为require_new_「干货」MQ基础理论(二)消息持久化策略、事务以及消息确认方式...

MySQL调优视频合集

zookeeper详解视频合集

微服务搭建视频合集

继面试被问到如何保证RabbitMQ消息不丢失该怎么回答?我感觉是时候回顾下MQ的基础理论知识了,因为这些基础面试的时候也会经常被问到。上一期我们总结了下MQ基础理论(一)消息通信基本概念,我们来继续学习消息的持久化以及代码实现RabbitMQ通信。在正常生产环境运维过程中无法避免RabbitMQ服务器重启,那么,如果RabbitMQ重启之后,那些队列和交换器就会都消失了(随同里面都消息)。原因是每个队列和交换器都durable默认为false,他决定了RabbitMQ重启或宕机后需要重新建立交换器和队列,那么当我们将durable属性设置为true后,交换器和队列是不会重建了,但是消息却还会消失。

能从AMQP服务器崩溃中恢复的消息,我们称之为消息的的持久化。在发布消息前,通过把他的投递模式选项设置为2来把消息标记为持久化。Java中设置方式为channel.basicPublish("", QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN, message.getBytes()); 但是消息持久化会带来严重的性能问题,极大影响RabbitMQ的吞吐量,所以要适当取舍。

和消息持久化相关的一个概念就是AMQP事务。设置消息持久化确实很好,但是发布完持久化的消息并不会给生产者返回持久化信息,那么如果消息在持久化之前服务器宕机了,那么还是避免不了会发生消息丢失问题。这时就是事务发挥作用的时候了。但是事务仍然会降低大约2~10倍的吞吐量,而且会使生产者和应用程序产生同步,而我们使用RabbitMQ通信的目的就是要避免同步。所以,RabbitMQ团队有更好的方案来保证消息投递:发送方确认模式。当然你需要告诉Rabbit将信道设置成confirm模式。

下面我们用Java程序来介绍下RabbitMQ消息通信的事务模式发送方确认模式

事务使用

事务的实现主要是对信道(Channel)的设置,主要的方法有三个:

  1. channel.txSelect()声明启动事务;
  2. channel.txComment()提交事务;
  3. channel.txRollback()回滚事务;
/** * @Description:RabbitMq生产者、消费者测试类 * @Auther: 头条号【Java思享汇】 * @Date: 2020/6/30 14:57 */public class RabbitMqTest {    //消息队列名称    private final static String QUEUE_NAME = "hello";    @Test    public void send() throws Exception{        //创建连接工厂        ConnectionFactory factory = new ConnectionFactory();        factory.setHost("127.0.0.1");        factory.setPort(5672);        factory.setUsername("guest");        factory.setPassword("guest");        //创建连接        Connection connection = factory.newConnection();        //创建消息通道        Channel channel = connection.createChannel();        try{            //声明事务            channel.txSelect();            //生成一个消息队列            channel.queueDeclare(QUEUE_NAME, true, false, false, null);            for (int i = 0; i < 5; i++) {                String message = "Hello World RabbitMQ count: " + i;                //发布消息,第一个参数表示路由(Exchange名称),未""则表示使用默认消息路由                channel.basicPublish("", QUEUE_NAME, null, message.getBytes());                System.out.println(" RabbitMQ-send " + message + "'");            }            System.out.println(" RabbitMQ-send End......... ");            //事务提交            channel.txCommit();        }catch (Exception e){            //事务回滚            channel.txRollback();        }finally {            //关闭消息通道和连接            channel.close();            connection.close();        }    }}

事务性能测试

事务模式,结果如下:

  • 事务模式,发送10w条数据,执行花费时间:11104ms
  • 事务模式,发送10w条数据,执行花费时间:9827ms
  • 事务模式,发送10w条数据,执行花费时间:12238ms

非事务模式,结果如下:

  • 非事务模式,发送10w条数据,执行花费时间:6659ms
  • 非事务模式,发送10w条数据,执行花费时间:4568ms
  • 非事务模式,发送10w条数据,执行花费时间:4447ms

从上面可以看出,非事务模式的性能是事务模式的性能高2-3倍,我的MAC电脑测试是这样的结果,不同的电脑配置会有差异,但结论是一样的,事务模式的性能要差很多,那有没有既能保证消息的可靠性又能兼顾性能的解决方案呢?那就是接下来要讲的Confirm发送方确认模式。

扩展知识

我们知道,消费者可以使用消息自动或手动发送来确认消费消息,那如果我们在消费者模式中使用事务(当然如果使用了手动确认消息,完全用不到事务的),会发生什么呢?

消费者模式使用事务

假设消费者模式中使用了事务,并且在消息确认之后进行了事务回滚,那么RabbitMQ会产生什么样的变化?结果分为两种情况:

  1. autoAck=false手动应对的时候是支持事务的,也就是说即使你已经手动确认了消息已经收到了,但在确认消息会等事务的返回解决之后,在做决定是确认消息还是重新放回队列,如果你手动确认现在之后,又回滚了事务,那么以事务回滚为主,此条消息会重新放回队列;
  2. autoAck=true如果自定确认为true的情况是不支持事务的,也就是说你即使在收到消息之后在回滚事务也是于事无补的,队列已经把消息移除了;

Confirm发送方确认模式

Confirm发送方确认模式使用和事务类似,也是通过设置Channel进行发送方确认的。

Confirm的三种实现方式:

  1. channel.waitForConfirms()普通发送方确认模式;
  2. channel.waitForConfirmsOrDie()批量确认模式;
  3. channel.addConfirmListener()异步监听发送方确认模式;
方式一:普通Confirm模式
@Testpublic void sendConfirm() throws Exception{  //创建连接工厂  ConnectionFactory factory = new ConnectionFactory();  factory.setHost("127.0.0.1");  factory.setPort(5672);  factory.setUsername("guest");  factory.setPassword("guest");  //创建连接  Connection connection = factory.newConnection();  //创建消息通道  Channel channel = connection.createChannel();  try{    //生成一个消息队列    channel.queueDeclare(QUEUE_NAME, true, false, false, null);    //开启发送方确认    channel.confirmSelect();    for (int i = 0; i < 5; i++) {      String message = "Hello World RabbitMQ count: " + i;      System.out.println("RabbitMQ-send " + message + "'");      //发布消息,第一个参数表示路由(Exchange名称),未""则表示使用默认消息路由      channel.basicPublish("", QUEUE_NAME, null, message.getBytes());      //发送消息确认      if(channel.waitForConfirms()){        System.out.println(" RabbitMQ-confirm " + message + "'");      }    }    System.out.println(" RabbitMQ-send End......... ");  }catch (Exception e){  }finally {    //关闭消息通道和连接    channel.close();    connection.close();  }}
方式二:批量Confirm模式
@Testpublic void sendConfirm() throws Exception{  //创建连接工厂  ConnectionFactory factory = new ConnectionFactory();  factory.setHost("127.0.0.1");  factory.setPort(5672);  factory.setUsername("guest");  factory.setPassword("guest");  //创建连接  Connection connection = factory.newConnection();  //创建消息通道  Channel channel = connection.createChannel();  try{    //生成一个消息队列    channel.queueDeclare(QUEUE_NAME, true, false, false, null);    //开启发送方确认    channel.confirmSelect();    for (int i = 0; i < 5; i++) {      String message = "Hello World RabbitMQ count: " + i;      System.out.println("RabbitMQ-send " + message + "'");      //发布消息,第一个参数表示路由(Exchange名称),未""则表示使用默认消息路由      channel.basicPublish("", QUEUE_NAME, null, message.getBytes());    }    //发送消息确认    channel.waitForConfirmsOrDie();    System.out.println(" RabbitMQ-send End......... ");  }catch (Exception e){    System.out.println(" RabbitMQ-send error......... ");  }finally {    //关闭消息通道和连接    channel.close();    connection.close();  }}

使用同步方式等所有的消息发送之后才会执行后面代码,只要有一个消息未被确认就会抛出IOException异常。

方式三:异步Confirm模式
@Testpublic void sendConfirm3() throws Exception{    //创建连接工厂    ConnectionFactory factory = new ConnectionFactory();    factory.setHost("127.0.0.1");    factory.setPort(5672);    factory.setUsername("guest");    factory.setPassword("guest");    //创建连接    Connection connection = factory.newConnection();    //创建消息通道    Channel channel = connection.createChannel();    try{      //生成一个消息队列      channel.queueDeclare(QUEUE_NAME, true, false, false, null);      //开启发送方确认      channel.confirmSelect();      for (int i = 0; i < 100; i++) {        String message = "Hello World RabbitMQ count: " + i;        System.out.println("RabbitMQ-send " + message + "'");        //发布消息,第一个参数表示路由(Exchange名称),未""则表示使用默认消息路由        channel.basicPublish("", QUEUE_NAME, null, message.getBytes());      }      //异步监听确认和未确认的消息      channel.addConfirmListener(new ConfirmListener() {                                 @Override                                 public void handleAck(long deliveryTag, boolean multiple) throws IOException {        System.out.println(String.format("已确认消息,标识:%d,多个消息:%b", deliveryTag, multiple));      }      @Override      public void handleNack(long deliveryTag, boolean multiple) throws IOException {        System.out.println("未确认消息,标识:" + deliveryTag);      }    });    System.out.println(" RabbitMQ-send End......... ");    Thread.sleep(5000);  }catch (Exception e){    System.out.println(" RabbitMQ-send error......... ");  }finally {    //关闭消息通道和连接    channel.close();  connection.close();  }}

异步模式的优点,就是执行效率高,不需要等待消息执行完,只需要监听消息即可,以上异步返回的信息如下:

d503d88e36290be23807017c8c8241b5.png

异步返回的信息

可以看出,代码是异步执行的,消息确认有可能是批量确认的,是否批量确认在于返回的multiple的参数,此参数为bool值,如果true表示批量执行了deliveryTag这个值以前的所有消息,如果为false的话表示单条确认。

总结


综合总体测试情况来看:Confirm批量确定和Confirm异步模式性能相差不大,Confirm模式要比事务快10倍左右。最后,附上消费消息代码,其中确认模式为手动确认。

@Testpublic void consumer() throws Exception {  //创建连接工厂  ConnectionFactory factory = new ConnectionFactory();  factory.setHost("127.0.0.1");  factory.setPort(5672);  factory.setUsername("guest");  factory.setPassword("guest");  //创建连接  Connection connection = factory.newConnection();  //创建消息信道  Channel channel = connection.createChannel();  //消息队列  channel.queueDeclare(QUEUE_NAME, true, false, false, null);  //消费者用于获取消息信道绑定的消息队列中的信息  Consumer consumer = new DefaultConsumer(channel) {    @Override    public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties,                               byte[] body) throws IOException {      String message = new String(body, "UTF-8");      try {        System.out.println("RabbitMQ-consumer '" + message);        System.out.println("RabbitMQ-consumer:consumerTag '" + consumerTag+",envelope="+envelope+",properties="+properties);      } finally {        System.out.println("RabbitMQ-consumer End...... ");        channel.basicAck(envelope.getDeliveryTag(), false);      }    }  };  channel.basicConsume(QUEUE_NAME, false, consumer);}

不断分享开发过程用到的技术和面试经常被问到的问题,如果您也对IT技术比较感兴趣可以「关注」我

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值