前面介绍了消息的发送,这节主要介绍消息的存储。这里只关注普通消息,事务消息在后面介绍。
MQ存储方式
一般有分布式kv、文件系统、DB等,不同的MQ根据设计的不同有各自的选择,RocketMQ同kafka一样,选择了文件系统作为存储方式,在存储设计上借鉴了kafka。
RocketMQ与kafka对比
kafka将消息用topic+partition分割成不同的文件,在topic和partition数量较多的情况下,server端文件的顺序读写会变成随机读写,性能严重下降。RocketMQ则将所有topic的消息全部存储在一个文件中,这样,对于发消息的写文件操作来说,是完全的顺序写,性能不会因为topic数量产生影响。但是对于消费消息的读文件操作来说,则变为了完全随机的读操作,并且存储文件中会存在大量不属于本topic的消息。为了解决这个问题,RocketMQ在原始存储文件的基础上,为每一个topic建立了消息索引文件,消费消息时先读索引文件,再根据索引位置读取原始文件中的消息。这样,消息读取就变为顺序的了,不过却额外增加了一次文件读操作。
存储结构
存储结构如下: