拉取消息的请求都在pullRequestQueue队列里,
弹出pullRequest后,又执行this.pullMessage(pullRequest);把pullRequest放回队列里作为下一次的pull请求,然后就开始拉取操作。(疑问:假如我第一次拉取的nextOffset=10,那么后面我又把这个pullRequest对象放回队列,那么下次拉取nextOffset不还也是10?)
拉取消息成功后设置下一次需要拉取的offset,
boolean dispatchToConsume = processQueue.putMessage(pullResult.getMsgFoundList());
这个方法会把拉取回来的消息放进msgTreeMap里面
pullRequest.setNextOffset(pullResult.getNextBeginOffset());这里修改了下次拉取的nextOffset,解决是上面重复拉取的疑问
然后消费拉取回来的消息,以并行消费为例,把拉取数量为pullBatchSize的消息,以每批consumeMessageBatchMaxSize,分成若干批
然后扔进消费线程池里消费
然后进入我们的消费MessageListenerConcurrently进行消费
执行完listener后,执行下面方法
删除msgTreeMap消费过的消息,返回剩下最小的offset,并且把它设置为后面要异步提交的offset。offsetStore其实管理已经消费的最新offset,他本地只会递增的update,有个定时操作把这些offset提交到mq。
如果是有序消费,先从msgTreeMap poll前consumeBatchSize的消息,然后通过上锁,使得相同队列的不同批次消费串行进行
如果是返回SUSPEND_CURRENT_QUEUE_A_MOMENT,那么他会把该批次的消息放回msgTreeMap里面