RabbitMQ 相关问题总结


HA 的RabbitMQ 集群架构:


图片.png


一、RabbitMQ 如何高可用部署,如何确保集群不宕机?

RabbitMQ可用采用三种方式来部署集群:

1. cluster 

    a. 不支持跨网段,用于同一个网段内的局域网。

    b.可用随意的或者动态的增加 或者减少。

    c.节点之间需要运行相同版本的RabbitMQ 和Erlang

2.federation

    部署在广域网,允许单台服务器上的交换机或者队列,接收发布到另外一台机器上的消息和队列。

3.sholve

   和federation类似,工作在更低层次,可以应用于广域网


二、节点类型:

1.RAM Node

    内存节点,将所有的队列,交换机, 绑定,用户 权限与vhost的元数据存储在内存中,可以让队列和交换机声明更加的便捷。

2. Disk Node 

    将元数据存储在磁盘中,单节点系统,只运行 磁盘类型的节点,防止重启RabbitMQ时,丢失系统的配置信息。


三、ErLang Cookie

    ErLang Cookie 是保证不同节点之间的通讯,不同节点之间共享相同的Cookie,集群部署时候,需要copy这个数据到不同的节点,使得cookie一致。


四、RabbitMQ集群模式分类

1.普通模式:

     默认的集群模式,假设集群上有两个节点 node1,node2, 消息实体只存在一个节点,如果生产者生产一个消息,丢向node1,但是消费者在node2进行消费,那么就需要node2将node1中的消息取出,并且发送给消费者。

2. 镜像模式:

    需要将消费者的队列变成镜像队列,存在于多个节点。实现RabbitMQ的高可用,作用就是,消息实体会在队列之间同步。



 


RabbitMQ相关操作命令:

1. 单个节点的服务启动 停止

rabbitmqctl stop  
rabbitmq-server -detached

2.查询节点状态

rabbitmqctl cluster_status

调研:

1. 产品定位(能做什么,不能做什么)  
2. 产品特性(适合做什么,不适合做什么)  
3. 产品背景(社区活跃度,团队知名度,维护力度,口碑)  
4. 产品架构(实现原理)  
5. 产品安装(用户指南)  
6. 产品维护(运维管理)

demo 验证


RabbitMQ 如何确保消息发送和消费:






     

   从RabbitMQ 结构图来看,有如下几个 过程:

1. 消息从生产者Producer发送到交换机Exchange

2.交换机根据路由规则将消息转发到相应队列

3. 队列将消息进行存储

4.消费者订阅队列消息,并进行消费


第一个过程  消息 从生产者发送到交换机

a.中间网络断开怎么办? 

rabbitmq 的解决方案:

1). 设置信道channel 为事务模式 

   通过channel.txSelect 开启事务,channel.txCommit 提交事务,channel.txRollback 用于事务回滚

如果在还没有提交事务之前,RabbitMQ抛出异常,我们可以 将其捕获,然后进行事务回滚。缺点是 事务模式会极大的消耗RabbitMQ的性能。

2). 设置信道confirm 模式

    通过confirm.select开启confirm模式,如果设置了no_wait为 false的话,那么broker会返回confirm.select_ok,表示broker同意将信道设置为confirm模式。 但是这个优点是发送方确认是异步的,发送方可以不等到确认就发送下一条消息。当消息被brocker接收,broker 会发送basic.ack,生产者可以通过回调函数确认这个消息,如果因为RabbitMQ本身问题导致消息丢失,broker会发送basic.nack,生产者通过回调方法接收到nack后,可以考虑消息重发

 要注意的是 事务模式 和confirm模式不能共存,是互斥的。

@Service("confirmCallBackListener")  
public class ConfirmCallBackListener implements ConfirmCallback{  
  
    @Override  
    public void confirm(CorrelationData correlationData, boolean ack, String cause) {  
        System.out.println("confirm--:correlationData:"+correlationData+",ack:"+ack+",cause:"+cause);  
    }  
  
}

第二个过程  消息由交换机路由到消息队列

    对于不能路由到消息队列的消息,如果设置了mandatory的话,basic.return 会在basic.ack或者basic.nack之前返回。

    对于可以路由到消息队列的消息,在confirm模式下,如果返回basic.ack的话说明如下:

     1.消息被接收到所有的队列中了 2.如果是镜像队列,说明被所有的镜像队列接收 3.如果是持久化的消息到持久化队列已经持久化到看硬盘。

@Service("returnCallBackListener")  
public class ReturnCallBackListener implements ReturnCallback {  
  
    @Override  
    public void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey) {  
        String msgId = "";  
        if (message.getMessageProperties().getCorrelationId() != null) {  
            msgId = new String(message.getMessageProperties().getCorrelationId());  
        }  
        System.out.println("return--message: msgId:" + msgId + ",msgBody:" + new String(message.getBody())  
                + ",replyCode:" + replyCode + ",replyText:" + replyText + ",exchange:" + exchange + ",routingKey:"  
                + routingKey);  
    }  
  
}

当然如果不想在生产者实行return 函数,可以采用备份交换机的方式,当交换机没有路由到正确队列,会将消息转发到这个备份交换机上,前提是这个备份交换机绑定了正确队列,这样就可以被消费了。channel.exchangeDeclare方法的时候添加alternate-exchange参数声明备份交换机


第三个阶段, 队列消息持久化阶段

     如果队列不设置持久化,即使消息是持久化的,消息依然不能保存,皮之不存,毛将焉附需要队列和消息都是持久化的,队列持久化只是保存其元数据,在重启,宕机后不丢失,但是要消息也持久化,需要保证消息是持久化的。并且如果是设置了confim模式的话,basic.ack 之前是会将数据进行落盘的, 并且RabbitMQ采用镜像队列,多个副本方式,Master 宕机,依然可以使用Slave 不影响 集群正常使用,保证高可用


第4个阶段  消费者消费消息

为了保证消息正常的到达消费者,RabbitMQ 提供了消息 acknowledgement来确认消息。

默认autoAck=None   isAutoAck=false 来确认消息, autoAck = false 是表示,需要等到消费者发送显示的回复确认信号之后,消息才从内存中移除,但是如果acknowledgeMode设置了Auto ,那么isAutoAck= true  ,这个其实是不安全的,fire-And-forget, 消息发送出去之后,但是可能还没到消费者,TCP连接就断了(由于配置了auto,只要消费发出去了,就删掉了),那么TCP连接断开了,这部分消息就丢失了,是不安全的,但是对应能一直keepup连接的,是可以提高吞吐量的。

还可以设置autoAck = manual ,isAutoack= false,那么就是 队列每次向消费者发送消息之后,需要消费者手动确认basc.ack,basic,nack等,rabbitmq才可以将消息删除或者重新入队。 isAutoack=false 情况下 ,一致没有收到  消费者的 basic.ack, RabbitMQ如果检测到 和消费者端口连接 端口,会重新发这条消息。

还有注意如果basic.nack basic.reject 只是简单的拒绝 ,而不是重新 requeue的话,那么消息是不会重新入队的

查看下basic.Nack说明

/** 
    * Reject one or several received messages. 
    * 
    * Supply the <code>deliveryTag</code> from the {@link com.rabbitmq.client.AMQP.Basic.GetOk} 
    * or {@link com.rabbitmq.client.AMQP.Basic.GetOk} method containing the message to be rejected. 
    * @see com.rabbitmq.client.AMQP.Basic.Nack 
    * @param deliveryTag the tag from the received {@link com.rabbitmq.client.AMQP.Basic.GetOk} or {@link com.rabbitmq.client.AMQP.Basic.Deliver} 
    * @param multiple true to reject all messages up to and including 
    * the supplied delivery tag; false to reject just the supplied 
    * delivery tag. 
    * @param requeue true if the rejected message(s) should be requeued rather 
    * than discarded/dead-lettered 
    * @throws java.io.IOException if an error is encountered 
    */  
   void basicNack(long deliveryTag, boolean multiple, boolean requeue)  
           throws IOException;

最后一个参数设置true的话才会重新入队

channel.basicNack(message.getMessageProperties().getDeliveryTag(), false,true);
<bean id="bgate1001RequestlistenerContainer"  class="org.springframework.amqp.rabbit.listener.SimpleMessageListenerContainer">    
      <property name="queueNames" value="Payt_Bgate1001Request_Payt"></property>   
      <property name="connectionFactory" ref="jyMqConnectionFactory"></property>    
      <property name="messageListener" ref="bgate1001RequestAdapter"></property>  
      <property name="concurrentConsumers" value="100" />  
      <property name="adviceChain">  
          <array>  
              <ref bean="retryInterceptor" />  
          </array>  
      </property>  
      <property name="autoStartup" value="false" />   
      <property name="acknowledgeMode" value="NONE"></property>  
  </bean>

查看源码:

private void consumeFromQueue(String queue) throws IOException {  
        this.channel.basicConsume(queue, this.acknowledgeMode.isAutoAck(), "", false, this.exclusive,  
                this.consumerArgs, this.consumer);  
        if (logger.isDebugEnabled()) {  
            logger.debug("Started on queue '" + queue + "': " + this);  
        }  
    }

还有个问题,消费者啥时候发送basic.ack呢?

Object[] listenerArguments = buildListenerArguments(convertedMessage);  
Object result = invokeListenerMethod(methodName, listenerArguments, message);  
if (result != null) {  
    handleResult(result, message, channel);  
} else {  
    logger.trace("No result object given - no result to handle");  
}

、、、、、、、、、、、、、、

rotected void doInvokeListener(ChannelAwareMessageListener listener, Channel channel, Message message)  
            throws Exception {  
  
        RabbitResourceHolder resourceHolder = null;  
        Channel channelToUse = channel;  
        boolean boundHere = false;  
        try {  
            if (!isExposeListenerChannel()) {  
                // We need to expose a separate Channel.  
                resourceHolder = getTransactionalResourceHolder();  
                channelToUse = resourceHolder.getChannel();  
                /* 
                 * If there is a real transaction, the resource will have been bound; otherwise 
                 * we need to bind it temporarily here. Any work done on this channel 
                 * will be committed in the finally block. 
                 */  
                if (isChannelLocallyTransacted(channelToUse) &&  
                            !TransactionSynchronizationManager.isActualTransactionActive()) {  
                        resourceHolder.setSynchronizedWithTransaction(true);  
                        TransactionSynchronizationManager.bindResource(this.getConnectionFactory(),  
                                resourceHolder);  
                    boundHere = true;  
                }  
            }  
            else {  
                // if locally transacted, bind the current channel to make it available to RabbitTemplate  
                if (isChannelLocallyTransacted(channel)) {  
                    RabbitResourceHolder localResourceHolder = new RabbitResourceHolder(channelToUse, false);  
                    localResourceHolder.setSynchronizedWithTransaction(true);  
                    TransactionSynchronizationManager.bindResource(this.getConnectionFactory(),  
                            localResourceHolder);  
                    boundHere = true;  
                }  
            }  
            // Actually invoke the message listener...  
            try {  
                listener.onMessage(message, channelToUse);  
            }  
            catch (Exception e) {  
                throw wrapToListenerExecutionFailedExceptionIfNeeded(e, message);  
            }  
        }  
        finally {  
            if (resourceHolder != null && boundHere) {  
                // so the channel exposed (because exposeListenerChannel is false) will be closed  
                resourceHolder.setSynchronizedWithTransaction(false);  
            }  
            ConnectionFactoryUtils.releaseResources(resourceHolder);  
            if (boundHere) {  
                // unbind if we bound  
                TransactionSynchronizationManager.unbindResource(this.getConnectionFactory());  
                if (!isExposeListenerChannel() && isChannelLocallyTransacted(channelToUse)) {  
                    /* 
                     *  commit the temporary channel we exposed; the consumer's channel 
                     *  will be committed later. Note that when exposing a different channel 
                     *  when there's no transaction manager, the exposed channel is committed 
                     *  on each message, and not based on txSize. 
                     */  
                    RabbitUtils.commitIfNecessary(channelToUse);  
                }  
            }  
        }  
    }

参考:https://blog.csdn.net/wangming520liwei/article/details/79523130