死信队列
什么是死信队列
一般来说,producer将消息投递到queue中,consumer从queue取出消息进行消费,但某些时候由于特定的原因导致queue中的某些消息无法被消费,这样的消息如果没有后续的处理,就变成了死信(Dead Letter),所有的死信都会放到死信队列中。
“死信”消息会被RabbitMQ进行特殊处理,如果配置了死信队列信息,那么该消息将会被丢进死信队列中,如果没有配置,则该消息将会被丢弃。
消费者消费消息
1)正常消费–>手动ack–>MQ从队列中删除消息
2)消费者报错-->没有ack-->消息是待应答状态-->channel断开后-->消费恢复为待分配状态 3)消费者报错-->手动nack-->如果配置了死信队列消息会被发送到死信队列中,如果没有配置消息会被丢弃。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-q11bPizC-1605665422041)(images/1600357615151.png)]
死信队列的来源
- 消息被拒绝(basic.reject或basic.nack)并且requeue=false.
- 消息TTL过期
- 队列达到最大长度(队列满了,无法再添加数据到mq中)
配置死信队列
@Configuration
public class RabbitMQConfig {
// 声明业务Exchange
@Bean
public TopicExchange businessExchange(){
return new TopicExchange("businessExchange");
}
// 声明业务队列A
@Bean
public Queue businessQueue(){
Map<String, Object> args = new HashMap<>();
// x-dead-letter-exchange 这里声明当前队列绑定的死信交换机
args.put("x-dead-letter-exchange", "deadLetterExchange");
// x-dead-letter-routing-key 这里声明当前队列的死信路由key
args.put("x-dead-letter-routing-key", "dle.err");
return new Queue("businessQueue",true,false,false,args);
}
// 声明业务队列A绑定关系
@Bean
public Binding businessBinding(Queue businessQueue, TopicExchange businessExchange){
return BindingBuilder.bind(businessQueue).to(businessExchange).with("emp.*");
}
//声明死信Exchange
@Bean
public TopicExchange deadLetterExchange(){
return new TopicExchange("deadLetterExchange");
}
// 声明死信队列A
@Bean
public Queue deadLetterQueue(){
return new Queue("dle-queue");
}
@Bean
public Binding deadLetterQueueBinding(Queue deadLetterQueue, TopicExchange deadLetterExchange){
return BindingBuilder.bind(deadLetterQueue).to(deadLetterExchange).with("dle.*");
}
}
YML配置
spring:
rabbitmq:
host: 192.168.193.88
port: 5672
username: guest
password: guest
virtual-host: /
listener:
simple:
acknowledge-mode: manual # 设置手动ack
设置消费者
@Component
public class DedaLetterListener {
// 监听业务队列
@RabbitListener(queues = "businessQueue")
public void businessQueue(String msg, Channel channel, Message message) throws IOException {
if ("error".equals(msg)) {
System.out.println("业务消费者出现问题:" + msg);
try {
throw new RuntimeException();
}catch (Exception e){
// 无法消费消息,nack
channel.basicNack(message.getMessageProperties().getDeliveryTag(),false,false);
}
} else {
System.out.println("正常消费消息:" + msg);
// 正常消费了消息,手动ack
channel.basicAck(message.getMessageProperties().getDeliveryTag(), false);
}
}
// 监听死信队列
@RabbitListener(queues = "dle-queue")
public void deadLetterQueue(String msg, Channel channel, Message message) throws IOException {
System.out.println("死信队列消费消息:" + msg);
channel.basicAck(message.getMessageProperties().getDeliveryTag(), false);
}
}
参数说明
// deliveryTag:该消息的index
// multiple:是否批量.true:将一次性ack所有小于deliveryTag的消息。
public void basicAck(long deliveryTag, boolean multiple)
//deliveryTag:该消息的index
//multiple:是否批量.true:将一次性拒绝所有小于deliveryTag的消息。
//requeue:是否重新入队列
public void basicNack(long deliveryTag, boolean multiple, boolean requeue)
设置提供者
@Autowired
RabbitTemplate rabbitTemplate;
@RequestMapping("/send")
public void send(String msg){
System.out.println("msg = [" + msg + "]");
rabbitTemplate.convertAndSend("businessExchange","emp.add",msg);
}
死信消息的变化
如果队列配置了参数 x-dead-letter-routing-key 的话,“死信”的路由key将会被替换成该参数对应的值。如果没有设置,则保留该消息原有的路由key。
比如:
如果原有消息的路由key是testA,被发送到业务Exchage中,然后被投递到业务队列QueueA中,如果该队列没有配置参数x-dead-letter-routing-key,则该消息成为死信后,将保留原有的路由keytestA,如果配置了该参数,并且值设置为testB,那么该消息成为死信后,路由key将会被替换为testB,然后被抛到死信交换机中。
死信队列的应用场景
一般用在较为重要的业务队列中,确保未被正确消费的消息不被丢弃,一般发生消费异常可能原因主要有由于消息信息本身存在错误导致处理异常,处理过程中参数校验异常,或者因网络波动导致的查询异常等等,当发生异常时,当然不能每次通过日志来获取原消息,然后让运维帮忙重新投递消息。通过配置死信队列,可以让未正确处理的消息暂存到另一个队列中,待后续排查清楚问题后,编写相应的处理代码来处理死信消息,这样比手工恢复数据要好太多了 。
延时队列
什么是延时队列
延迟队列存储的对象肯定是对应的延时消息,所谓"延时消息"是指当消息被发送以后,并不想让消费者立即拿到消息,而是等待指定时间后,消费者才拿到这个消息进行消费。
普通队列中的元素总是等着希望被早点取出处理,而延时队列中的元素则是希望被在指定时间得到取出和处理 。
延时队列的设置
RbbitMQ中存在TTL机制,
一条消息或者该队列中的所有消息的最大存活时间
,单位是毫秒。换句话说,如果一条消息设置了TTL属性或者进入了设置TTL属性的队列,那么这条消息如果在TTL设置的时间内没有被消费,则会成为“死信”。如果同时配置了队列的TTL和消息的TTL,那么较小的那个值将会被使用。
给消息设置TTL时间
Map<String, Object> args = new HashMap<String, Object>();
args.put("x-message-ttl", 6000);// 但是毫秒
channel.queueDeclare(queueName, durable, exclusive, autoDelete, args);
每条消息的超时时间是6s,如果6s内没有被消费者消费,该消息就会变成死信。
给队列设置超时时间
@Bean
public Queue businessQueue1(){
Map<String, Object> args = new HashMap<>();
args.put("x-message-ttl", 5000); // 这个队列中的所有的消息最多能活6s
return new Queue("5-queue",true,false,false,args);
}
但这两种方式是有区别的,如果设置了队列的TTL属性,那么一旦消息过期,就会被队列丢弃,而第二种方式,消息即使过期,也不一定会被马上丢弃,因为消息是否过期是在即将投递到消费者之前判定的,如果当前队列有严重的消息积压情况,则已过期的消息也许还能存活较长时间
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-x21RHP7K-1605665422044)(images/1600502409459.png)]
配置延时队列
@Configuration
public class RabbitMQConfigTTL {
// 声明业务Exchange
@Bean
public TopicExchange businessExchange(){
return new TopicExchange("ttl-Exchange");
}
// 创建延时队列1
@Bean
public Queue businessQueue1(){
Map<String, Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", "deadLetterExchange");
args.put("x-dead-letter-routing-key", "dle.err");
args.put("x-message-ttl", 5000); // 超时时间是5s
return new Queue("5-queue",true,false,false,args);
}
// 创建延时队列2
@Bean
public Queue businessQueue2(){
Map<String, Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", "deadLetterExchange");
args.put("x-dead-letter-routing-key", "dle.err");
args.put("x-message-ttl", 20000); // // 超时时间是20s
return new Queue("20-queue",true,false,false,args);
}
// 延时队列绑定关系
@Bean
public Binding businessBinding1(Queue businessQueue1, TopicExchange businessExchange){
return BindingBuilder.bind(businessQueue1).to(businessExchange).with("emp.*");
}
// 延时队列绑定
@Bean
public Binding businessBinding2(Queue businessQueue2, TopicExchange businessExchange){
return BindingBuilder.bind(businessQueue2).to(businessExchange).with("user.*");
}
//声明死信Exchange
@Bean
public TopicExchange deadLetterExchange(){
return new TopicExchange("deadLetterExchange");
}
// 声明死信队列
@Bean
public Queue deadLetterQueue(){
return new Queue("dle-queue",true,false,false,null);
}
// 死信队列绑定交换机
@Bean
public Binding deadLetterQueueBinding(Queue deadLetterQueue, TopicExchange deadLetterExchange){
return BindingBuilder.bind(deadLetterQueue).to(deadLetterExchange).with("dle.*");
}
}
YAML配置
spring:
rabbitmq:
host: 192.168.193.88
port: 5672
username: guest
password: guest
virtual-host: /
listener:
simple:
acknowledge-mode: manual # 设置手动ack
设置提供者
@RequestMapping("/ttl")
public void test1(String msg) {
System.out.println("p:" + new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format(new Date()));
if ("5".equals(msg)) { // 添加到5s队列
rabbitTemplate.convertAndSend("ttl-Exchange", "emp.add", msg);
} else if ("20".equals(msg)) { // 添加到20s队列中
rabbitTemplate.convertAndSend("ttl-Exchange", "user.add", msg);
}
}
设置消费者
@RabbitListener(queues = "dle-queue")
public void dleQueue(String msg, Channel channel, Message message) throws IOException {
System.out.println("dleQueue1:" + new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format(new Date()));
channel.basicAck(message.getMessageProperties().getDeliveryTag(), false);
}