消息总线能否实现消息必达?

转载 2018年04月17日 13:24:07

消息总线能否实现消息必达?

原创 2017-03-18 58沈剑 架构师之路

一、缘起

上周讨论了两期环形队列的业务应用:

高效定时任务的触发

延迟消息的快速实现

 

两期的均有大量读者提问:

任务、延迟消息都放在内存里,万一重启了怎么办?

能否保证消息必达?

 

今天就简单聊聊消息队列(MsgQueue)的消息必达性架构与流程

 

二、架构方向

MQ要想尽量消息必达,架构上有两个核心设计点:

1消息落地

2消息超时、重传、确认

 

三、MQ核心架构

上图是一个MQ的核心架构图,基本可以分为三大块:

1发送方 -> 左侧粉色部分

2MQ核心集群 -> 中间蓝色部分

3接收方 -> 右侧黄色部分

 

粉色发送方又由两部分构成:业务调用方MQ-client-sender

其中后者向前者提供了两个核心API

SendMsg(bytes[] msg)

SendCallback()

 

蓝色MQ核心集群又分为四个部分:MQ-serverzkdb,管理后台web

 

黄色接收方也由两部分构成:业务接收方MQ-client-receiver

其中后者向前者提供了两个核心API

RecvCallback(bytes[] msg)

SendAck()

 

MQ是一个系统间解耦的利器,它能够很好的解除发布订阅者之间的耦合,它将上下游的消息投递解耦成两个部分,如上述架构图中的1箭头2箭头

1)发送方将消息投递给MQ上半场

2MQ将消息投递给接收方,下半场

 

四、MQ消息可靠投递核心流程

MQ既然将消息投递拆成了上下半场,为了保证消息的可靠投递,上下半场都必须尽量保证消息必达

MQ消息投递上半场MQ-client-senderMQ-server流程见上图1-3

1MQ-client将消息发送给MQ-server(此时业务方调用的是APISendMsg

2MQ-server消息落地,落地后即为发送成功

3MQ-server将应答发送给MQ-client(此时回调业务方是APISendCallback

 

MQ消息投递下半场MQ-serverMQ-client-receiver流程见上图4-6

1MQ-server将消息发送给MQ-client(此时回调业务方是APIRecvCallback

2MQ-client回复应答给MQ-server(此时业务方主动调用APISendAck

3MQ-server收到ack将之前已经落地的消息删除,完成消息的可靠投递

 

如果消息丢了怎么办?

MQ消息投递的上下半场,都可以出现消息丢失,为了降低消息丢失的概率,MQ需要进行超时和重传

 

上半场的超时与重传

MQ上半场的1或者2或者3如果丢失或者超时,MQ-client-sender内的timer会重发消息,直到期望收到3,如果重传N次后还未收到,则SendCallback回调发送失败,需要注意的是,这个过程中MQ-server可能会收到同一条消息的多次重发。

 

下半场的超时与重传

MQ下半场的4或者5或者6如果丢失或者超时MQ-server内的timer会重发消息,直到收到5并且成功执行6,这个过程可能会重发很多次消息,一般采用指数退避的策略,先隔x秒重发,2x秒重发,4x秒重发,以此类推,需要注意的是,这个过程中MQ-client-receiver也可能会收到同一条消息的多次重发。

 

MQ-clientMQ-server如何进行消息去重,如何进行架构幂等性设计,下一次撰文另述,此处暂且认为为了保证消息必达,可能收到重复的消息。

 

五、总结

消息总线是系统之间的解耦利器,但切勿滥用,未来也会撰文细究MQ的使用场景,消息总线为了尽量保证消息必达,架构设计方向为:

1消息收到先落地

2消息超时、重传、确认保证消息必达

 

有问题随时沟通交流,后续讲消息去重、幂等性设计、何时该使用MQ

MQ消息架构设计二(消息总线能否实现消息必达?)

转载自:https://mp.weixin.qq.com/s?__biz=MjM5ODYxMDA5OQ==&mid=2651959966&idx=1&sn=068a2866dcc49335d613d7...
  • zenghaolin510824
  • zenghaolin510824
  • 2017-11-24 10:55:02
  • 93

消息总线(MQ)知多少

1 什么时候用MQ?1.1 MQ的基本概念  消息总线(Message Queue,MQ),是一种跨进程的通信机制,用于在上下游之间传递消息。MQ是一种常见的上下游“逻辑解耦+物理解耦”的消息通信服务...
  • u010255818
  • u010255818
  • 2017-09-05 21:39:23
  • 3950

【ActiveMQ】开源消息总线ActiveMQ的使用

1:下载 ActiveMQ 5.6.0 Release  http://activemq.apache.org/download.html  放到d盘  2:运行apache-activem...
  • u010515761
  • u010515761
  • 2014-10-13 10:18:59
  • 1152

消息总线真的能保证幂等?

一、缘起 如《消息总线消息必达》所述,MQ消息必达,架构上有两个核心设计点: (1)消息落地 (2)消息超时、重传、确认 再次回顾消息总线核心架构,它由发送...
  • admin1973
  • admin1973
  • 2017-04-23 11:04:58
  • 1025

消息总线授权设计

本文主要探讨了消息总线的授权模型设计。
  • yanghua_kobe
  • yanghua_kobe
  • 2015-03-28 08:27:30
  • 2480

消息总线能否实现消息必达?(58沈剑)

一、缘起 上周讨论了两期环形队列的业务应用: 《高效定时任务的触发》 《延迟消息的快速实现》   两期的均有大量读者提问: 任务、延迟消息都放在内存里,万一重启了怎...
  • jiangzhexi
  • jiangzhexi
  • 2017-06-25 11:51:12
  • 172

谈消息总线客户端的多线程实现

本文通过阐述消息总线客户端实现时遇到的并发问题以及个人的思考,提出了这种通用client可行的一种并发问题的解决方案。...
  • yanghua_kobe
  • yanghua_kobe
  • 2015-03-08 16:13:11
  • 3232

OpenStack设计与实现(四)消息总线(AMQP)

在西方有一句谚语,叫做“Don’t Reinvent the Wheel!”。直译过来就是不要在重新发明轮子了。也就是说我们应该避免做一些重复性的工作,如果一个东西别人已经做过了,那么我们拿来直接用就...
  • xingjiarong
  • xingjiarong
  • 2016-01-23 10:41:19
  • 3013

谈消息总线的路由模型

本文就基于RabbitMQ的路由模型的实现过程中遇到的一些问题进行了探讨,并谈到了树形拓扑实现各种通信模型的权衡。...
  • yanghua_kobe
  • yanghua_kobe
  • 2015-03-18 22:24:03
  • 3482

kafka+观察者模式,实现高性能事件总线

一个事件总线的实现,主要包含三个较色:1、消息发布  2、消息队列  3、消息派送 消息队列可以有多种选择,redis,kafka,rocketMQ等,甚至是jdk bockQueue。 但作为一...
  • candyzh
  • candyzh
  • 2016-09-24 17:21:47
  • 2219
收藏助手
不良信息举报
您举报文章:消息总线能否实现消息必达?
举报原因:
原因补充:

(最多只允许输入30个字)