多线程顺序消费MySQL数据_关于MQ的几件小事(五)如何保证消息按顺序执行

文章探讨了在使用消息队列如RabbitMQ和Kafka时,如何确保对同一数据操作的消息按顺序执行,以避免数据异常。通过分析顺序错乱的场景,提出了解决方案,包括拆分队列、限制消费者数量和利用内存队列等策略,以保证消息的消费顺序。
摘要由CSDN通过智能技术生成

1.为什么要保证顺序

消息队列中的若干消息如果是对同一个数据进行操作,这些操作具有前后的关系,必须要按前后的顺序执行,否则就会造成数据异常。举例:

比如通过mysql binlog进行两个数据库的数据同步,由于对数据库的数据操作是具有顺序性的,如果操作顺序搞反,就会造成不可估量的错误。比如数据库对一条数据依次进行了 插入->更新->删除操作,这个顺序必须是这样,如果在同步过程中,消息的顺序变成了 删除->插入->更新,那么原本应该被删除的数据,就没有被删除,造成数据的不一致问题。

2.出现顺序错乱的场景

(1)rabbitmq

①一个queue,有多个consumer去消费,这样就会造成顺序的错误,consumer从MQ里面读取数据是有序的,但是每个consumer的执行时间是不固定的,无法保证先读到消息的consumer一定先完成操作,这样就会出现消息并没有按照顺序执行,造成数据顺序错误。

05dc1dcc7d0f92b6ea8bd416d7a27bc6.png

②一个queue对应一个consumer,但是consumer里面进行了多线程消费,这样也会造成消息消费顺序错误。

49351edbbf6069a2cefefec7b29c168d.png

(2)kafka

①kafka一个topic,一个partition,一个consumer,但是consumer内部进行多线程消费,这样数据也会出现顺序错乱问题。

0d6f7a9f9029042f9e9686e70329b953.png

②具有顺序的数据写入到了不同的partition里面,不同的消费者去消费,但是每个consumer的执行时间是不固定的,无法保证先读到消息的consumer一定先完成操作,这样就会出现消息并没有按照顺序执行,造成数据顺序错误。

cc331ed5b8925968bdb40fff42a2f420.png

3.保证消息的消费顺序

(1)rabbitmq

①拆分多个queue,每个queue一个consumer,就是多一些queue而已,确实是麻烦点;这样也会造成吞吐量下降,可以在消费者内部采用多线程的方式取消费。

e5882962bbf9035a4a0cfc847928f624.png

②或者就一个queue但是对应一个consumer,然后这个consumer内部用内存队列做排队,然后分发给底层不同的worker来处理

a5803ec6d317cd8231b1d296c2e64d29.png

(2)kafka

①确保同一个消息发送到同一个partition,一个topic,一个partition,一个consumer,内部单线程消费。

831e337d56f26d11ff43f638ab4c8e28.png

②写N个内存queue,然后N个线程分别消费一个内存queue即可

70ed583d65611797abd0158d12dfc266.png

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值