RocketMQ架构原理

名词解释

• Message Model：

       消息模型。RocketMQ主要由Producer、Broker、Consumer三部分组成，其中Producer负责生产消息，Consumer负责消费消息，Broker负责存储消息。Broker在实际部署过程中对应一台服务器，每个Broker可以存储多个Topic的消息，每个Topic的消息也可以分片存储于不同的Broker。Message Queue用于存储消息的物理地址，每个Topic中的消息地址存储于多个Message Queue中。ConsumerGroup由多个Consumer实例构成。

• Producer

       消息生产者。负责生产消息，一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到Broker服务器。RocketMQ提供多种发送方式，同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认消息，单向发送不需要。

• Consumer

       消息消费者。负责消费消息，一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式：拉取式消费、推送式消费。

• Topic

       主题。标识一类消息的集合，每个主题包含若干条消息，每条消息只能属于一个主题，是RocketMQ进行消息订阅的基本单位。

• Broker Server

       代理服务器。消息中转角色，负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备、代理服务器也存储消息相关的元数据，包括消费者组、消费进度偏移、主题和队列消息等。

• Name Server   

       名称服务。名称服务充当路由消息的提供者。生产者或消费者能够通过名称服务查找各主题相应的Broker IP列表。多个NameSrv实例组成集群，但相互独立，没有信息交换。

• Pull Consumer

       拉取式消费。Consumer消费的一种类型，应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控制。一旦获取了批量消息，应用就会启动消费过程。

• Push Consumer

       推送式消费。Consumer消费的一种类型，该模式下Broker收到数据后会主动推送给消费端，该消费模式一般实时性较高。

• Producer Group

       同一类Producer的集合，这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃，则Broker服务器会联系同一生产者组的其它生产者实例以提交或回溯消费。

• Consumer Group

       消费者组。同一类Consumer的集合，这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面，实现负责均衡和容错的目标变得非常容易。要注意的是，消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ支持两种消息模式：集群消费（Clustering）和广播消费（Broadcasting）。

• Clustering

       集群消费。集群消费模式下，相同Consumer Group的每个Consumer实例平均分摊消息。

• Broadcasting

       广播消息。广播消息模式下，相同Consumer Group的每个Consumer实例都接收全量的消息。

• Normal Ordered Message

       普通顺序消息。普通顺序消费模式下，消费者通过同一个消费队列收到的消息是有顺序的，不同队列收到的消息则可能是无顺序的。

• Strictly Ordered Message

       严格顺序消息。严格顺序消息模式下，消费者收到的所有消息均是有顺序的。

• Message

       消息。消息系统所传输信息的物理载体，生产和消费数据的最小单位，每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID，且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。

• Tag

       标签。为消息设置的标志，用于同一主题下区分不同类型的消息。来自同一业务单元的消息，可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性，并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑，实现更好的扩展性。

RocketMQ集群部署模式

部署模式	优点	缺点
单Master模式	适合本地测试。	这种方式风险较大，一旦Broker重启或者宕机时，会导致整个服务不可用。不建议线上环境使用。
多Master模式	配置简单，单个Master宕机或重启维护对应用无影响，在磁盘配置为RAID10时，即使机器宕机不可恢复情况下，由于RAID10磁盘非常可靠，消息也不会丢失（异步刷盘丢失少量消息，同步刷盘一条不丢），性能最高。	单台机器宕机期间，这台机器上未被消费的消息在机器恢复之前不可订阅，消息实时性会受到影响。
多Master多Slave模式（异步复制）	即使磁盘损坏，消息丢失的非常少，且消息实时性不会受影响，同时Master宕机后，消费者仍然可以从Slave消费，而且此过程对应用透明，不需要人工干预，性能同多Master模式几乎一样。	Master宕机，磁盘损坏情况下丢失少量消息。
多Master多Slave模式（同步复制）	数据与服务都无单点故障，Master宕机情况下，消息无延迟，服务可用性与数据可用性都非常高。	性能比异步复制模式略低（大约低10%左右），发送单个消息的RT会略高，且目前版本在主节点宕机后，备机不能自动切换为主机。