rocketmq怎么保证队列完全顺序消费

原文:https://www.zhihu.com/question/30195969

实际上,RocketMQ是支持顺序消费的。

但这个顺序,不是全局顺序,只是分区顺序。要全局顺序只能一个分区。

之所以出现你这个场景看起来不是顺序的,是因为发送消息的时候,消息发送默认是会采用轮询的方式发送到不通的queue(分区)。如图:



而消费端消费的时候,是会分配到多个queue的,多个queue是同时拉取提交消费。

如图:




但是同一条queue里面,RocketMQ的确是能保证FIFO的。那么要做到顺序消息,应该怎么实现呢——把消息确保投递到同一条queue。

rocketmq消息生产端示例代码如下:



按照这个示例,把订单号取了做了一个取模运算再丢到selector中,selector保证同一个模的都会投递到同一条queue。

即: 相同订单号的--->有相同的模--->有相同的queue。

最后就会类似这样:



这样同一批你需要做到顺序消费的肯定会投递到同一个queue,同一个queue肯定会投递到同一个消费实例,同一个消费实例肯定是顺序拉取并顺序提交线程池的,只要保证消费端顺序消费,则大功告成!

如何保证顺序消费? 如果是使用MessageListenerOrderly则自带此实现,如果是使用MessageListenerConcurrently,则需要把线程池改为单线程模式。

(这里假设触发了重排导致queue分配给了别人也没关系,由于queue的消息永远是FIFO,最多只是已经消费的消息重复而已,queue内顺序还是能保证)

但的确会有一些异常场景会导致乱序。如master宕机,导致写入队列的数量上出现变化。

如果还是沿用取模的seletor,就会一批订单号的消息前面散列到q0,后面的可能散到q1,这样就不能保证顺序了。除非选择牺牲failover特性,如master挂了无法发通接下来那批消息。

从消费端,如果想保证这批消息是M1消费完成再消费M2的话,可以使用MessageListenerOrderly接口,但是这样的话会有以下问题:

1. 遇到消息失败的消息,无法跳过,当前队列消费暂停2. 目前版本的RocketMQ的MessageListenerOrderly是不能从slave消费消息的。


更多分析请参考:

RocketMQ--角色与术语详解 - 薛定谔的风口猪

RocketMQ--水平扩展及负载均衡详解 - 薛定谔的风口猪


### 回答1: RocketMQ可以通过以下方式来保证消息顺序消费: 1. 消息发送顺序:在发送消息时,可以指定一个key,RocketMQ会根据这个key来保证消息的顺序性,即相同key的消息会被发送到同一个队列中,保证消费顺序。 2. 消费顺序消费:在消费者端,可以通过设置消费者组来保证顺序消费。同一个消费者组中的消费者会按照顺序依次消费消息,不同消费者组之间的消费顺序是无法保证的。 3. 单线程消费:在消费者端,可以将消费者线程数设置为1,这样就可以保证消息的顺序消费。 需要注意的是,以上三种方式都只能保证单个队列内的消息顺序消费,如果一个topic有多个队列,那么不同队列之间的消息顺序是无法保证的。因此,在设计topic时,需要根据实际情况来确定队列数量,以保证消息的顺序性。 ### 回答2: RocketMQ是一个开源的分布式消息队列系统,能够提供高吞吐量、可靠性、可扩展性和顺序消费顺序消费是指消费者按照消息发送的顺序一个一个地消费消息,这样可以保证消息的有序性。 RocketMQ 保证消息顺序消费的主要方式有两种: 1. 消费者组 通过消费者组来保证消息顺序消费。所谓消费者组,是指一组消费者实例的集合,这些消费者实例共同消费同一个主题(topic)的消息。RocketMQ会将同一主题下的消息均匀地分配给各个消费者实例来消费,每个消费者实例只负责消费一部分消息。当消费者组中的一个消费者实例宕机或者出现其他异常情况时,RocketMQ会自动将该实例负责的消息分配给其他消费者实例来消费,不会影响消息的顺序。 2. 队列选择器 RocketMQ 提供了队列选择器(QueueSelector)接口,可以自定义消息被发送到哪个队列中。通过控制消息将被发送到哪个队列,可以保证消息被顺序消费。当生产者向同一个主题发送消息时,可以将相对顺序靠前的消息发送到同一个队列中,而将相对顺序靠后的消息发送到另一个队列中。然后,在消费消费消息时,按照队列顺序一个一个地消费,这样可以保证消息顺序消费。 总之,RocketMQ 能够保证消息顺序消费是因为它采用了消费者组和队列选择器等多种机制,在消费消息时逐个消费,严格按照消息的先后顺序消费消息。这样可以保证消息有序性,更加符合实际的业务需求。 ### 回答3: RocketMQ 是一种可靠的分布式消息中间件,它可以保证消息的顺序性,这主要是因为 RocketMQ 支持 FIFO 的顺序过程。RocketMQ顺序消费主要通过以下方法实现: 1.消息分区:RocketMQ 的消息分区机制可以实现在单个消费者实例上对特定的主题、队列和标记进行顺序消息发送和消费。这个作用跟许多的关系型数据库在实现主键的双重保证,如果我们使用了这个机制,那么我们将总是在同一分区上发送并消费要按顺序排列的消息。 2.消息分组:RocketMQ 支持为不同的消费者实例创建不同的组,每个组只能消费某一个队列的消息。由于同一个分组中只有一个消费者实例能够访问队列RocketMQ 确保了消息的顺序性。 3. 定时器线程池:RocketMQ 是通过定时器来调度消息的,它的定时器线程池中同时只会有一个线程来处理队列中的消息,这个线程只会按顺序处理队列中的消息。这样可以保证消息在消费时必须按照先后顺序进行。 4. 内存映射缓存:RocketMQ 将消息以哈希表的形式存储到了内存映射缓存中,这样避免了对磁盘的频繁操作。因为磁盘 I/O 是非常慢的,这会影响到消费的速度。所以,RocketMQ 采用了内存映射的缓存机制来减少对磁盘的 I/O 操作。 总之,RocketMQ 在实现顺序消息消费时借助于消息分区、消息分组、定时器线程池和内存映射缓存等技术手段,都是为了保证消息的排序和顺序的连续性,使得消费者能够按顺序消费消息。除此之外,一些实际场景下的问题,比如说如何处理P2P的顺序消息、如何解决强依赖的消息等问题,都需要根据实际情况进行相关的处理,以便得到更完善的顺序消息传输机制。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值