9. RabbitMQ 其他知识点
文章目录
9.1 幂等性
9.1.1 概念
用户对于统一操作发起的一次请求或者多次请求的结果是一致的,不会因为多次点击而产生副作用
举个栗子,用户购买商品后支付,支付扣款成功,但是返回结果的时候网络异常,此时钱已经扣了,用户再次点击按钮,会进行第二次扣款,返回结果依然成功。用户查询余额发现多扣钱了,流水记录也变成了两条。
在以前的但应用系统中,我们只需要把数据操作放入事务中即可,发生错误立即回滚,但是再响应客户端的时候也有可能出现网络中断或者异常等等。
9.1.2 消息重复消费
消费者在消费 MQ 中的消息时,MQ 已经把消息发送给消费者,消费者在给 MQ 返回 ack 时网络中断,故 MQ 未收到确认消息
该条消息会重新发送给其他消费者,或者在网络重连后再次发送给该消费者,但实际上该消费者已经消费了该条消息,造成了消息的重复消费
9.1.3 解决思路
MQ 消费者的幂等性的解决一般使用全局ID 或者写一个唯一标识比如时间戳 或者UUID,或者也可以利用MQ的消息id来判断,每次消费者消费时先使用该ID判断该条消息是否已经被消费过。
9.1.4 消费端的幂等性保障
在海量订单生成的业务高峰期,生产端就有可能重复发送了消息,这时候消费端就要实现幂等性,这就意味着我们的消息永远不会被消费多次,即使我们收到了一样的消息。
业界主流的幂等性有两种操作:
- 唯一ID + 指纹码机制,利用数据库主键去重
- 利用Redis的原子性去实现
9.1.5 唯一ID + 指纹码机制
指纹码:规则或者时间戳加别的服务给到的唯一信息码,它并不一定是系统生成的,基本都是由业务规则拼接而来,但一定要保证唯一性,然后就利用查询语句来判断这个 id 是否存在数据库中
优势:实现简单的一个拼接,然后查询判断是否重复
劣势:高并发时,如果是单个数据库就会有写入性能瓶颈,当然也可以采用分库分表提升性能,但也不是最推荐的方式
9.1.6 Redis原子性
利用 Redis执行 setnx 命令,天然具有幂等性。从而实现不重复消费
9.2 优先级队列
9.2.1 使用场景
在系统中存在一个 订单催付 的场景,客户在天猫下单,淘宝会将订单推送,如果在一定时间内未付款就会消息提醒。但是对于大客户比如苹果、华为来说,他们的订单理应得到优先处理。所以订单量大了以后采用RabbitMQ进行改造和优化,如果发现是大客户的订单就会给一个相对比较高的优先级,否则就是默认优先级。
9.2.2 如何添加
-
控制台页面添加
-
代码添加优先级
-
队列中代码添加优先级
指定最大优先级为10
Map<String,Object> params=new HashMap(); params.put("x-max-priority",10); channel.queueDeclare("hello",true,false,false,params);
-
消息中代码添加优先级
添加优先级为5
AMQP.BasicProperties properties=new AMQP.BasicProperties().builder().priority(5).build();
注意事项:
队列实现优先级需要做的事情:队列需要设置为优先级队列,消息需要设置消息的优先级,消费者需要等待消息发送到队列中才去消费,因为这样才有机会对消息进行排序。
-
9.3 惰性队列
9.3.1 使用场景
惰性队列会尽可能的将消息存放在磁盘中,而在消费者消费者消费到相应的消息的时候,消息才会被加载到内存中
缺点:惰性队列的操作会耗费大量的时间,也会阻塞队列的操作,导致接收消息的效率降低,消息消费慢
但是当消费者由于各种各样的原因(比如消费者下线、宕机或者是由于维护而关闭等)而导致长时间内无法消费消息造成积压时,惰性队列就很有必要了
9.3.2 两种模式
队列具备两种模式:default 和 lazy,默认的为 default 模式
- lazy模式即为惰性队列的模式,可以通过调用 channel.Declare( )方法的时候在参数中设置,也可以通过Policy的方式设置
- 如果一个队列同时使用这两种方法来设置的话,那么Policy方式具备更高的优先级
在声名队列的时候可以通过 “x-queue-mode” 参数来设置队列的模式
Map<String,Object> arguments=new HashMap();
arguments.put("x-max-priority",10);
channel.queueDeclare("hello",true,false,false,arguments);
9.3.3 内存开销对比
- 在发送一百万条消息,每条消息大概占1kb的情况下,普通队列占用内存是1.2GB,而惰性队列仅仅占用 1.5MB
- 使用惰性队列时内存中存放的是消息的索引,而消息存放在磁盘中