RocketMQ消费模式
说到MQ的消费模式,通常有pull和push两种模式,pull是由客户端主动的拉取消息,而push是由服务端主动的推送消息到客户端。pull模式下,客户端可以根据自身的机器水位条件拉取,拉取的速度可以自行控制;push模式下,是由服务端主动的推送消息,如果应用服务的性能差,可能会导致应用服务崩溃。
RocketMQ 的push模式其实本质上也是pull模式的封装,会使用线程去主动拉取消息,然后再去回调消息监听器。其他RocketMQ本身也有一些保护措施,如果本地未消费消息达到一定数量,或者消息偏移量达到某个阈值的时候会暂停拉取。
Push模式源码解析
DefaultMQPushConsumer是Push模式的客户端,在RocketMQ启动时,是需要传递一个MessageListener实现,当由消息到达客户端的时候会触发监听器执行我们的消费者业务逻辑。
在这里我们重点解读一下PullMessageService和RebalanceService两个线程,分别负责消息拉取,和消费者队列再均衡。
PullMessageService
PullMessageService内部维护一个pullRequestQueue无界队列,如果消费端消费能力不足或者达到设定阈值的时候,会将请求放到队列中,然后在线程中取出任务,再次执行。
在线程中调用了pullMessage方法,然后分发到DefaultMQPushConsumerImpl的pullMessage执行。这里的逻辑很长,我们拆分成几段来看。
- 阈值校验
如果本地缓存的消息数量或者缓存的总消息大于阈值,则调用executePullRequestLater将请求任务放到任务队列中。
- 消费位移阈值检验
当不同消费者组消费者消费位点信息差值大于设定阈值,则加入任务队列。
- 拉取消息回调
当从Broker拉取到消息的时候,返回的是字节流信息,会在回调接口中调用org.apache.rocketmq.client.impl.consumer.PullAPIWrapper#processPullResult将字节流组装成客户端可见的消息体MessageExt。
- 向Broker拉取消息
最后会调用MQClientAPIImpl.pullMessage(),会根据同步或者异步向Broker发送请求。