RocketMQ延迟消息的代码实战及原理分析

public class DelayProducer {

public static void main(String[] args) throws Exception {

SimpleDateFormat sdf = new SimpleDateFormat(“HH:mm:ss.SSS”);

// 实例化消息生产者Producer

DefaultMQProducer producer = new DefaultMQProducer(“OneMoreGroup”);

// 设置NameServer的地址

producer.setNamesrvAddr(“localhost:9876”);

// 启动Producer实例

producer.start();

Message msg = new Message(“OneMoreTopic”

, “DelayMessage”, “This is a delay message.”.getBytes());

//“1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h”

//设置消息延迟级别为3，也就是延迟10s。

msg.setDelayTimeLevel(3);

// 发送消息到一个Broker

SendResult sendResult = producer.send(msg);

// 通过sendResult返回消息是否成功送达

System.out.printf(“%s Send Status: %s, Msg Id: %s %n”

, sdf.format(new Date())

, sendResult.getSendStatus()

, sendResult.getMsgId());

// 如果不再发送消息，关闭Producer实例。

producer.shutdown();

}

}

运行生产者以后，就会发送一条延迟消息：

10:37:14.992 Send Status: SEND_OK, Msg Id: C0A8006D5AB018B4AAC216E0DB690000

10秒钟后，消费者收到的这条延迟消息：

10:37:25.026 ConsumeMessageThread_1 Receive New Messages:

Msg Id: C0A8006D5AB018B4AAC216E0DB690000

Body: This is a delay message.

延迟消息的原理分析

以下分析的RocketMQ源码的版本号是4.7.1，版本不同源码略有差别。

CommitLog

在org.apache.rocketmq.store.CommitLog中，针对延迟消息做了一些处理：

// 延迟级别大于0，就是延时消息

if (msg.getDelayTimeLevel() > 0) {

// 判断当前延迟级别，如果大于最大延迟级别，

// 就设置当前延迟级别为最大延迟级别。

if (msg.getDelayTimeLevel() > this.defaultMessageStore

.getScheduleMessageService().getMaxDelayLevel()) {

msg.setDelayTimeLevel(this.defaultMessageStore

.getScheduleMessageService().getMaxDelayLevel());

}

// 获取延迟消息的主题，

// 其中RMQ_SYS_SCHEDULE_TOPIC的值为SCHEDULE_TOPIC_XXXX

topic = TopicValidator.RMQ_SYS_SCHEDULE_TOPIC;

// 根据延迟级别获取延迟消息的队列Id，

// 队列Id其实就是延迟级别减1

queueId = ScheduleMessageService.delayLevel2QueueId(msg.getDelayTimeLevel());

// 备份真正的主题和队列Id

MessageAccessor.putProperty(msg

, MessageConst.PROPERTY_REAL_TOPIC, msg.getTopic());

MessageAccessor.putProperty(msg

, MessageConst.PROPERTY_REAL_QUEUE_ID, String.valueOf(msg.getQueueId()));

msg.setPropertiesString(MessageDecoder.messageProperties2String(msg.getProperties()));

// 设置延时消息的主题和队列Id

msg.setTopic(topic);

msg.setQueueId(queueId);

}

可以看到，每一个延迟消息的主题都被暂时更改为SCHEDULE_TOPIC_XXXX，并且根据延迟级别延迟消息变更了新的队列Id。接下来，处理延迟消息的就是org.apache.rocketmq.store.schedule.ScheduleMessageService。

ScheduleMessageService

ScheduleMessageService是由org.apache.rocketmq.store.DefaultMessageStore进行初始化的，初始化包括构造对象和调用load方法。最后，再执行ScheduleMessageService的start方法：

public void start() {

// 使用AtomicBoolean确保start方法仅有效执行一次

if (started.compareAndSet(false, true)) {

this.timer = new Timer(“ScheduleMessageTimerThread”, true);

// 遍历所有延迟级别

for (Map.Entry<Integer, Long> entry : this.delayLevelTable.entrySet()) {

// key为延迟级别

Integer level = entry.getKey();

// value为延迟级别对应的毫秒数

Long timeDelay = entry.getValue();

// 根据延迟级别获得对应队列的偏移量

Long offset = this.offsetTable.get(level);

// 如果偏移量为null，则设置为0

if (null == offset) {

offset = 0L;

}

if (timeDelay != null) {

// 为每个延迟级别创建定时任务，

// 第一次启动任务延迟为FIRST_DELAY_TIME，也就是1秒

this.timer.schedule(

new DeliverDelayedMessageTimerTask(level, offset), FIRST_DELAY_TIME);

}

}

// 延迟10秒后每隔flushDelayOffsetInterval执行一次任务，

// 其中，flushDelayOffsetInterval默认配置也为10秒

this.timer.scheduleAtFixedRate(new TimerTask() {

@Override

public void run() {

try {

// 持久化每个队列消费的偏移量

if (started.get()) ScheduleMessageService.this.persist();

} catch (Throwable e) {

log.error(“scheduleAtFixedRate flush exception”, e);

}

}

}, 10000, this.defaultMessageStore

.getMessageStoreConfig().getFlushDelayOffsetInterval());

}

}

遍历所有延迟级别，根据延迟级别获得对应队列的偏移量，如果偏移量不存在，则设置为0。然后为每个延迟级别创建定时任务，第一次启动任务延迟为1秒，第二次及以后的启动任务延迟才是延迟级别相应的延迟时间。

然后，又创建了一个定时任务，用于持久化每个队列消费的偏移量。持久化的频率由flushDelayOffsetInterval属性进行配置，默认为10秒。

定时任务

ScheduleMessageService的start方法执行之后，每个延迟级别都创建自己的定时任务，这里的定时任务的具体实现就在DeliverDelayedMessageTimerTask类之中，它核心代码是executeOnTimeup方法之中，我们来看一下主要部分：

// 根据主题和队列Id获取消息队列

ConsumeQueue cq =

ScheduleMessageService.this.defaultMessageStore.findConsumeQueue(

TopicValidator.RMQ_SYS_SCHEDULE_TOPIC

, delayLevel2QueueId(delayLevel));

如果没有获取到对应的消息队列，则在DELAY_FOR_A_WHILE（默认为100）毫秒后再执行任务。如果获取到了，就继续执行下面操作：

// 根据消费偏移量从消息队列中获取所有有效消息

SelectMappedBufferResult bufferCQ = cq.getIndexBuffer(this.offset);

如果没有获取到有效消息，则在DELAY_FOR_A_WHILE（默认为100）毫秒后再执行任务。如果获取到了，就继续执行下面操作：

// 遍历所有消息

for (; i < bufferCQ.getSize(); i += ConsumeQueue.CQ_STORE_UNIT_SIZE) {

// 获取消息的物理偏移量

long offsetPy = bufferCQ.getByteBuffer().getLong();

// 获取消息的物理长度

总结

三个工作日收到了offer，头条面试体验还是很棒的，这次的头条面试好像每面技术都问了我算法，然后就是中间件、MySQL、Redis、Kafka、网络等等。

• 第一个是算法

关于算法，我觉得最好的是刷题，作死的刷的，多做多练习，加上自己的理解，还是比较容易拿下的。

而且，我貌似是将《算法刷题LeetCode中文版》、《算法的乐趣》大概都过了一遍，尤其是这本

《算法刷题LeetCode中文版》总共有15个章节：编程技巧、线性表、字符串、栈和队列、树、排序、查找、暴力枚举法、广度优先搜索、深度优先搜索、分治法、贪心法、动态规划、图、细节实现题

《算法的乐趣》共有23个章节：

• 第二个是Redis、MySQL、kafka（给大家看下我都有哪些复习笔记）

基本上都是面试真题解析、笔记和学习大纲图，感觉复习也就需要这些吧（个人意见）

• 第三个是网络（给大家看一本我之前得到的《JAVA核心知识整理》包括30个章节分类，这本283页的JAVA核心知识整理还是很不错的，一次性总结了30个分享的大知识点）

《算法的乐趣》共有23个章节：

[外链图片转存中…(img-6KXTTJCO-1714145870279)]

[外链图片转存中…(img-LRqwZEVE-1714145870279)]

• 第二个是Redis、MySQL、kafka（给大家看下我都有哪些复习笔记）

基本上都是面试真题解析、笔记和学习大纲图，感觉复习也就需要这些吧（个人意见）

[外链图片转存中…(img-EPr4rQ2I-1714145870279)]

• 第三个是网络（给大家看一本我之前得到的《JAVA核心知识整理》包括30个章节分类，这本283页的JAVA核心知识整理还是很不错的，一次性总结了30个分享的大知识点）

[外链图片转存中…(img-60XTOh1h-1714145870280)]

本文已被CODING开源项目：【一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码】收录