总结rocketmq消息丢失四种情况

1、 生产者网络波动 消息丢失

解决方法:利用rocketmq自带的事务机制处理,首先发送half消息于rocketmq服务器,此时消息于消费者不可见,等生产者业务处理完成则发送,否则回滚,如果half消息发送成功,且RocketMQ返回成功响应,则消费者正常消费,否则回滚

核心代码展示

生产者

//设置回调函数
producer.setTransactionCheckListener(transactionCheckListener);
//发送事务消息
SendResult sendResult = producer.sendMessageInTransaction(msg, tranExecuter, null)

回调函数
回调方法实现 TransactionListener

//重写执行事务方法 (生产者主动告诉rocketmq状态)
//根据事务执行情况返回相应的LocalTransactionState
LocalTransactionState executeLocalTransaction(Message message, Object o)

//重写rocketmq回查事务方法 (rocketmq主动向消费者回查状态)
//根据事务执行情况返回相应的LocalTransactionState
LocalTransactionState checkLocalTransaction(MessageExt messageExt)

2、rocketmq写入内存队列,却没来得及进行磁盘持久化

要保证消息不丢失,首先需要将os cache的异步刷盘策略改为同步刷盘,这一步需要修改Broker的配置文件,将flushDiskType改为SYNC_FLUSH同步刷盘策略,默认的是ASYNC_FLUSH异步刷盘。

3、消息写入磁盘,但是磁盘损坏
需要对RocketMQ采用主从架构,集群部署,Leader中的数据在多个Follower中都存有备份,防止单点故障

4、消费者未消费完就通知rocketmq消费成功
需要在RocketMQ在消费者中注册了一个监听器,当消费者获取到了消息,就会去回调这个监听器函数,去处理里面的消息当你的消息处理完毕之后,才会返回

核心代码展示

//注册消息监听器处理消息
consumer.registerMessageListener(new MessageListenerConcurrently() {
@Override
public ConsumeConcurrentlyStatus consumeMessage(List msgs, ConsumeConcurrentlyContext context){
//对消息进行处理
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});

rocketmq 有一个至少成功一次的机制(At least Once)
如果消费者消费失败,会进行重试,默认16次重试机会,直至消费者消费成功为止,否则加入死信队列

死信队列
死信队列消息的前提是基于consumer消费消息异常后经过多次重试队列的投递依赖消费失败最终会进入死信队列。

重投处理逻辑先将消息投递到重试Topic的%RETRY%consumerGroup队列,超过最大重试次数后将消息投递到死信Topic的%DLQ%consumerGroup队列。

注意:重试可能会产生出现消息重复消费的事件,通过保证业务幂等性解决

  • 2
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
当使用 RocketMQ 时,消息丢失可能是由多种原因引起的。以下是一些常见的消息丢失问题和解决方案: 1. 生产者发送失败:如果生产者在发送消息时遇到异常或错误,消息可能会丢失。为了解决这个问题,可以在生产者端实现重试机制,确保消息成功发送到 RocketMQ。此外,可以检查日志和错误信息,以确定发送失败的具体原因。 2. 消费者处理失败:如果消费者在处理消息时发生错误,并且没有实现消息重试或异常处理机制,那么消息可能会被认为是已经消费,但实际上并未成功处理。为了解决这个问题,建议在消费者端实现消息的幂等性和异常处理机制,以确保消息的可靠消费。 3. 消费者负载过高:如果消费者的负载过高,消费速度无法跟上消息的到达速度,那么部分消息可能会被丢弃。为了解决这个问题,可以增加消费者的数量,或者调整消费者的线程池大小来提高消费速度。 4. 消息存储配置不正确:RocketMQ 提供了两种消息存储方式,分别是同步刷盘和异步刷盘。如果配置为同步刷盘模式,并且消息发送量很大,可能会导致消息发送的性能下降,并且有可能出现消息丢失情况。为了解决这个问题,可以将消息存储配置为异步刷盘模式,以提高消息发送的性能和可靠性。 5. 网络问题:如果网络不稳定或者存在丢包问题,可能会导致消息丢失。为了解决这个问题,可以检查网络连接和配置,确保网络稳定性和可靠性。 总结: 要解决 RocketMQ 中的消息丢失问题,可以采取以下措施:实现生产者的重试机制、消费者的幂等性和异常处理机制、增加消费者数量、调整消息存储配置、检查网络连接和配置。根据具体的场景和问题,还可以进行更深入的排查和调优。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值