思维导图
可能丢失数据的位置
一、分析数据丢失的原因
分析RabbitMQ消息丢失的情况,不妨先看看一条消息从生产者发送到消费者消费的过程:
可以看出,一条消息整个过程要经历两次的网络传输:从生产者发送到RabbitMQ服务器,从RabbitMQ服务器发送到消费者。
在消费者未消费前存储在队列(Queue)中。
所以可以知道,有三个场景下是会发生消息丢失的:
存储在队列中,如果队列没有对消息持久化,RabbitMQ服务器宕机重启会丢失数据。
生产者发送消息到RabbitMQ服务器过程中,RabbitMQ服务器如果宕机停止服务,消息会丢失。
消费者从RabbitMQ服务器获取队列中存储的数据消费,但是消费者程序出错或者宕机而没有正确消费,导致数据丢失。
针对以上三种场景,RabbitMQ提供了三种解决的方式,分别是消息持久化,confirm机制,ACK事务机制。
1.生产者丢失数据?
解决方案:RabbitMQ提供了transaction和cofirm模式来确保生产者不丢消息.
tansaction机制就是说:
#消息发送确认
rabbitMQ:
publisher-confirms: true
#消息消费确认
template:
mandatory: true
发送消息前开启事务(channel.txSelect()), 然后发送消息,
如果发送过程中出现什么异常,事务就会回滚(channel.txRollback()),
如果发送成功提交事务(channel.txCommit()).
然而缺点就是吞吐量下降了.
因此,生产上用confirm模式的居多,
开启confirm模式:
CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());//唯一标识符
rabbitTemplate.convertAndSend(attachMap.get("exchange"), attachMap.get("routingkey"), JSON.toJSONString(resultMap), correlationData);
2.MQ宕机数据丢失?
解决方案:
处理消息队列丢失的情况,一般是开启持久化磁盘的配置,
将durable设置为true;
@Bean
public Exchange orderSeckillExchange(){
return new DirectExchange(env.getProperty("交换机名称"),true,false);//开启持久化磁盘
}
这个持久化配置可以和confirm机制配合使用,你可以在消息持久化磁盘后,再给生产者发送一个Ack信号,这样,如果消息持久化磁盘之前,rabbitMQ阵亡了,那么生产者收不到Ack信号,生产者会自动重拨.
3.消费者网络中断数据丢失?
rabbitMQ如果丢失了数据,主要是因为你消费的时候,刚消费到,还没处理,结果进程挂了,那就很尴尬,rabbitMQ认为你已经消费了,这样数据就丢失了.
解决方案:
启用手动确认模式可以解决这个问题(重试机制)手动确认模式,如果消费者来不及处理就死掉时,没有响应ack时会重复发送一条消息给其他消费者;如果监听程序处理异常了,却未对异常进行捕获,会一直重复接受消息,然后一直抛异常;如果对异常进行了捕获,但是没有在finally里ack,也会一直重复发送消息(重试机制);