kafka，rabbitMQ，rocketMQ的消息可靠性保证，高级面试技巧

最新推荐文章于 2024-09-13 18:06:54 发布

沉默的王二

最新推荐文章于 2024-09-13 18:06:54 发布

阅读量789

点赞数 19

分类专栏： 2024年程序员学习文章标签： kafka rabbitmq rocketmq

本文链接：https://blog.csdn.net/2301_76379606/article/details/137567615

版权

2024年程序员学习专栏收录该内容

77 篇文章 1 订阅

订阅专栏

本文讨论了RocketMQ集群中消息可能丢失的情况，如主从异步复制导致的数据丢失，以及如何通过同步双写、消费确认机制和队列设计确保消息的完整性和顺序。同时提及了Kafka在消息顺序保证上的挑战和解决方案。还提到了Python开发者的学习资源整理，特别是对于学习路线、工具、视频和实战案例的关注。

摘要由CSDN通过智能技术生成

同步失败

rocketMQ集群环境下，broker主从使用异步复制模式时，若master节点崩溃且数据无法恢复，会丢失还未同步至从节点的部分消息，解决方式是使用同步双写的方式同步消息，但会降低吞吐率。

2.消费者消费失败

与生产者类似，若消费者在消费消息失败时未告知消息队列，此消息丢失。kafka，rabbitMQ，rocketMQ都提供了相似的消费成功确认机制来解决这个问题，rabbitMQ通过auto_ack参数设置自动确认或手动确认。而rocketMQ和kafka通过消息偏移量来控制信息消费，rocketMQ在pull模式下需要自己维护偏移量。

3.队列因为自身体原因丢失数据

这个很好理解，例如rabbitMQ默认将消息保存再内存中，如果队列崩溃，消息自然丢失

2.消息顺序

1.`kafka`

kafka保证同一分区内消息的顺序，也就是说，如果要让某一topic内消息全部有序，只能为该topic设置一个分区，这会降低该主题的吞吐量。通常使用消息的key值将消息散布到不同分区上，以此保证消息的局部有序性，但这种局部有序性的保证仅仅在消息写入分区时是有序的才能保证，例如生产者按顺序消息写入消息A，消息B，消息A写入失败，消息B写入成功，生产者重发消息A且成功，这时候两个消息的顺序就颠倒了，解决方式是设定max.in.flight.requests.per.connection为1,指定生产者在收到消息成功发送的确认之前不允许发送其他信息，但这种方式也会严重降低吞吐量。另一个问题是kafka默认的分区器使用散列算法将消息的key值映射到对映的分区上，如果增加了分区，key值映射的分区可能会与之前的不一致。在kafka中，一个分区只能被一个消费者消费，保证了消息消费的局部有序性。

2.`rocketMQ`

rocketMQ的队列（Message Queue）与kafka的分区在概念上相似，所以rocketMQ在消息有序性的保证上自然也是基于队列（Message Queue）的，同kafka一样，如果要让某一主题内的消息有序，必须将此主题内的独写队列数量设为1，但和kafka一样，这种操作会大量降低该主题的吞吐量。rocketMQ中在发送消息时传入自定义的MessageQueueSelector保证消息生产的局部有序性，在消费消息时push模式下通过MessageListenerOrderly保证顺序消费。