超级会员免费看
本文探讨了如何检测和确保消息队列中消息的不丢失。通过在Producer端附加连续序号并在Consumer端检查连续性来检测丢失，同时在生产、存储和消费三个阶段采取措施保证消息可靠性。在生产阶段，关注确认响应；存储阶段，配置同步刷盘和集群副本；消费阶段，延迟消费确认直至业务逻辑执行完毕。
检测消息丢失的方法
我们可以利用消息队列的有序性来验证是否有消息丢失。在 Producer 端，我们给每个发出的消息附加一个连续递增的序号，然后在 Consumer 端来检查这个序号的连续性。
如果没有消息丢失，Consumer 收到消息的序号必然是连续递增的，或者说收到的消息，其中的序号必然是上一条消息的序号 +1。如果检测到序号不连续，那就是丢消息了。还可以通过缺失的序号来确定丢失的是哪条消息，方便进一步排查原因。
首先，像 Kafka 和 RocketMQ 这样的消息队列，它是不保证在 Topic 上的严格顺序的，只能保证分区上的消息是有序的，所以我们在发消息的时候必须要指定分区，并且，在每个分区单独检测消息序号的连续性。
如果你的系统中 Producer 是多实例的，由于并不好协调多个 Producer 之间的发送顺序，所以也需要每个 Producer 分别生成各自的消息序号，并且需要附加上 Producer 的标识，在 Consumer 端按照每个 Producer 分别来检测序号的连续性。
Consumer 实例的数量最好和分区数量一致，做到 Consumer 和分区一一对应，这样会比较方便地在 Consumer 内检测消息序号的连续性。
订阅专栏 解锁全文
1864
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
