RocketMQ-入门介绍

最新推荐文章于 2024-07-11 22:41:42 发布

coder-zzzz

最新推荐文章于 2024-07-11 22:41:42 发布

阅读量245

点赞数 1

分类专栏： RocketMQ

本文链接：https://blog.csdn.net/zhangjun039009/article/details/105690526

版权

RocketMQ 专栏收录该内容

13 篇文章 0 订阅

订阅专栏

RocketMQ-入门介绍

技术架构

在这里插入图片描述

基本概念

消息模型（Message Model）

RocketMQ主要由 Producer、Broker、Consumer 三部分组成，其中Producer 负责生产消息，Consumer 负责消费消息，Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器，每个 Broker 可以存储多个Topic的消息，每个Topic的消息也可以分片存储于不同的 Broker。Message Queue 用于存储消息的物理地址，每个Topic中的消息地址存储于多个 Message Queue 中。ConsumerGroup 由多个Consumer 实例构成。

消息生产者（Producer）

负责生产消息，一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式，同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息，单向发送不需要。

补充说明：

顺序发送：producer在发送消息时，可以选择将消息发往哪个queue，比如将同一订单号order_a的消息，都发往queue_0，这样在queue_0内消息是有序的

正常一个进程中只要一个producer实例就够了，性能完全够用

一个进程中多个producer，希望发往不同的cluster

https://blog.csdn.net/weixin_39047791/article/details/82858765

生产者组（Producer Group）

同一类Producer的集合，这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃，则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。

消息消费者（Consumer）

负责消费消息，一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式：拉取式消费、推动式消费。

补充说明：

推动式消费，其实底层也是通过定时（默认的间隔=0）去broker拉取消息，并不存在broker主动推送消息的场景
消费模式：集群 or 广播

消费者组（Consumer Group）

同一类Consumer的集合，这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面，实现负载均衡和容错的目标变得非常容易。要注意的是，消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式：集群消费（Clustering）和广播消费（Broadcasting）。

补充说明：

同一消费组的消费者实例，不仅仅是订阅的topic要完全相同，连tag也要完全一致，否则会出问题！

https://blog.csdn.net/a417930422/article/details/50663639

集群消费（Clustering）

集群消费模式下,相同Consumer Group的每个Consumer实例平均分摊消息。

补充说明：

不同的ConsumerGroup会收到同一条消息，但只会由Group下的一个Consumer实例消费该消息

广播消费（Broadcasting）

广播消费模式下，相同Consumer Group的每个Consumer实例都接收全量的消息。

拉取式消费（Pull Consumer）

Consumer消费的一种类型，应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控制。一旦获取了批量消息，应用就会启动消费过程。

推动式消费（Push Consumer）

Consumer消费的一种类型，该模式下Broker收到数据后会主动推送给消费端，该消费模式一般实时性较高。

补充说明

这边文档其实是有错误的，Broker不会主动推送，而是Consumer定时拉取，只是在用户层面不需要主动调用拉取方法，对用户层面来说像是broker把消息推送过来的

代理服务器（Broker Server）

消息中转角色，负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据，包括消费者组、消费进度偏移和主题和队列消息等。

补充说明：

若是广播模式的消费，消费进度存储在consumer实例机器上，broker没有相应消费进度元数据

名字服务（Name Server）

名称服务充当路由消息的提供者。生产者或消费者能够通过名字服务查找各主题相应的Broker IP列表。多个Namesrv实例组成集群，但相互独立，没有信息交换。

补充说明

类似电话本，记录着某个Topic的联系方式，producer,consumer通过这个电话本，查询topic存放在哪些broker上，然后producer，consumer就与broker建立长连接，进行消息的生产和消费

主题（Topic）

表示一类消息的集合，每个主题包含若干条消息，每条消息只能属于一个主题，是RocketMQ进行消息订阅的基本单位。

补充说明：

同时也是ACL权限管控的基本单位，管控某个Topic可以由谁来生产消息，消费消息

- accessKey: xxx-ak
  secretKey: xxx-sk
  admin: false
  topicPerms:
  - TOPIC_A=SUB
  - TOPIC_B=PUB|SUB
  groupPerms:
  - C_GROUP_A=SUB
  - C_GROUP_B=SUB
  # A,B两个Group都能够消费Topic_A和Topic_B的消息

Topic分片（Message Queue）

Topic下最小粒度的消息存储通道，producer往broker发送消息时，实际上是往该broker-topic下的某个Queue发送数据。集群模式下，一个queue只会由一个consumer实例负责消费。

消息（Message）

消息系统所传输信息的物理载体，生产和消费数据的最小单位，每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID，且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。

补充说明

Key由生产者在构造消息时指定

msgId由broker生成，返回给生产者

可以通过控制台查询消息，目前还未开放 （权限控制没做）

标签（Tag）

为消息设置的标志，用于同一主题下区分不同类型的消息。来自同一业务单元的消息，可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性，并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑，实现更好的扩展性。

补充说明

可以把Tag看成是Topic的子分类中，系统中存在二级分类，一级是Topic，Topic下还有一级子分类Tag
producer在给msg打tag时，一条msg只能有一个tag
consumer可以通过tag来进行消息过滤，只消费Topic下的某个或多个tag类消息，这个过滤动作由broker处理
优点：可以将相关的消息都往一个topic丢，通过tag进行业务上的区分，比如订单类的消息，都在order这个topic里，A产品的订单过tagA标签区分，B产品的订单通过tagB区分。同时减小了无用的网络传输
缺点：增加broker的负担
如果可能的话，还是将业务拆分成多个topic进行处理，你好我好大家好

消息下标（Offset）

可以认为每个queue都是一个无限长度的数组，这个数组的下标就是这条消息的offset，每次有一个新消息往queue中写入，offset+1

max offset：当前queue中存放的消息最大offset
min offset：queue中最小的offset，消息都有最大保存时间，在超期后会对queue中的消息进行清除，比minOffset还小的消息，已经无法再被消费

consumer offset：记录consumerGroup在queue上的消息进度

{
  "offsetTable": {
    #Topic@ConsumerGroup
    "ZJ_TEST@C_ZJ_TEST": {
      #queue-0，消费到565
      0: 565,
      1: 564
    }
  }
}

注意：集群模式下consumerOffset存放在broker机器的consumerOffset.json文件中，广播模式下存放于Consumer实例的机器上，默认是Home目录

PushConsumer配置

参数名	默认值	说明
consumeFromWhere	CONSUME_FROM_LAST_OFFSET	Consumer启动后，默认从上次消费的位置开始消费，这包含两种情况：一种是上次消费的位置未过期，则消费从上次中止的位置进行；一种是上次消费位置已经过期，则从当前队列第一条消息开始消费

补充说明：

该参数只对一个全新的consumerGroup启动时生效
CONSUME_FROM_LAST_OFFSET表示的是从maxOffset进行消费，CONSUME_FROM_FIRST_OFFSET表示的是从minOffset开始消费

普通顺序消息（Normal Ordered Message）

普通顺序消费模式下，消费者通过同一个消费队列收到的消息是有顺序的，不同消息队列收到的消息则可能是无顺序的。

补充说明：

在某些异常情况下，会有消息乱序的情况下发生，例如queue的数量发生了变化，或者consumer实例数发生了变化，触发了重新分配，可能会将某个queue分配给其他consumer实例，导致消息的短暂乱序
需要producer，consumer一起配合才能实现

严格顺序消息（Strictly Ordered Message）

严格顺序消息模式下，消费者收到的所有消息均是有顺序的。

补充说明：

实现方式：其实就是只在一台broker上创建该Topic，且只有一个MessageQueue
牺牲了性能及高可用，换取了严格顺序消息。比如mysql的binlog同步，就必须是严格顺序消息

负载均衡

Topic负载均衡

在这里插入图片描述

Producer负载均衡

在这里插入图片描述

Consumer负载均衡-集群模式

Group间消息分配

Group内消息分配

默认的AllocateMessageQueueAveragely算法

At least Once

至少投递一次，应用程序需要实现幂等！！！

参考资料

https://github.com/apache/rocketmq/tree/release-4.6.0/docs/cn

http://rocketmq.apache.org/docs/motivation/

http://jaskey.github.io/blog/2016/12/19/rocketmq-rebalance/

https://blog.csdn.net/qq_34930488/article/details/101282436

coder-zzzz

关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
RocketMQ-入门介绍

RocketMQ-入门介绍技术架构基本概念消息模型（Message Model）RocketMQ主要由 Producer、Broker、Consumer 三部分组成，其中Producer 负责生产消息，Consumer 负责消费消息，Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器，每个 Broker 可以存储多个Topic的消息，每个Topic的消息也可以分片...
复制链接

扫一扫

专栏目录