Rocketmq消息持久化

本文编写,参考:https://my.oschina.net/bieber/blog/725646

producer Send()的Message最终将由broker处理,处理类为:SendMessageProcessor ,处理方法:processRequet.

public class SendMessageProcessor extends AbstractSendMessageProcessor implements NettyRequestProcessor {

private List<ConsumeMessageHook> consumeMessageHookList;

public SendMessageProcessor(final BrokerController brokerController) {
super(brokerController);
}

@Override
public RemotingCommand processRequest(ChannelHandlerContext ctx, RemotingCommand request) throws RemotingCommandException {}
上述方法,并不是直接处理消息,而是交由MessageStore处理,相关代码如下:
MessageExtBrokerInner msgInner = new MessageExtBrokerInner();
msgInner.setTopic(requestHeader.getTopic());
msgInner.setQueueId(queueIdInt);
//......
PutMessageResult putMessageResult = this.brokerController.getMessageStore().putMessage(msgInner);

然而MessageStore也不直接持久化消息,转交给 CommitLog
long beginTime = this.getSystemClock().now();
PutMessageResult result = this.commitLog.putMessages(messageExtBatch);

从MappedFileQueue中取出最新的一条:
MappedFile mappedFile = this.mappedFileQueue.getLastMappedFile();
//写消息
result = mappedFile.appendMessages(messageExtBatch, this.appendMessageCallback);
//持久化到磁盘,最终通过FileChannel持久化到文件
handleDiskFlush(result, putMessageResult, messageExtBatch);

handleHA(result, putMessageResult, messageExtBatch);


2.cousumer 从broker读消息。
消费者从broker读取消息经由PullMessageProcessor类处理的,processRequest()方法处理请求:
RemotingCommand processRequest(final Channel channel, RemotingCommand request, boolean brokerAllowSuspend)

经过一系列的判断处理,之后交由 MessageStore:
final GetMessageResult getMessageResult =
this.brokerController.getMessageStore().getMessage(requestHeader.getConsumerGroup(), requestHeader.getTopic(),
requestHeader.getQueueId(), requestHeader.getQueueOffset(), requestHeader.getMaxMsgNums(), messageFilter);
读取消息。
之后交由commitLog,读出消息,
SelectMappedBufferResult selectResult = this.commitLog.getMessage(offsetPy, sizePy);
可以看到是先从ConsumerQueue中获取消息索引,然后再从commitlog中读取消息内容。这些内容也是在存储消息的时候写入的。
相关也可参考:http://jm.taobao.org/2017/01/12/rocketmq-quick-start-in-10-minutes/



转载于:https://www.cnblogs.com/itdev/p/7086322.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RocketMQ 是一款分布式消息中间件,它提供了消息的可靠性传输和持久化的功能。在 RocketMQ 中,消息持久化主要是指将消息存储到磁盘上,以确保消息在发送和消费过程中不会丢失。 RocketMQ消息持久化是通过将消息写入磁盘上的 CommitLog 文件来实现的。CommitLog 是 RocketMQ 的核心数据结构,它是一个顺序写入的文件,用于存储消息的内容和元数据。当生产者发送消息时,RocketMQ消息追加到 CommitLog 文件的末尾,并将消息的偏移量返回给生产者。消费者从 CommitLog 文件中读取消息并进行消费。 为了提高持久化的性能和可靠性,RocketMQ 还采用了一些优化和机制。例如,消息会进行批量写入和刷盘操作,以减少磁盘的随机写入次数和提高吞吐量;同时,RocketMQ 还支持异步刷盘和同步刷盘两种方式,可以根据需要进行配置。 此外,RocketMQ 还提供了主从复制和消息落地双写等机制来增加消息的可靠性。主从复制通过将消息复制到多个 Broker 节点上来实现冗余备份,当主节点出现故障时,可以快速切换到备份节点继续提供服务。消息落地双写则是将消息同时写入主节点和备份节点,确保消息不会因为单点故障而丢失。 总的来说,RocketMQ 通过将消息持久化到磁盘,并采用一系列的优化和机制来确保消息的可靠性传输和持久化。这使得 RocketMQ 在分布式消息传输和处理场景中得到了广泛的应用。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值