RocketMQ初探-3 基础概念
目录
消息模型 Message Queue
RocketMQ主要由Producer,Broker,Consumer三部分组成,其中Producer负责生产消息,Consumer负责消费消息,Broker负责存储消息。Broker在实际部署过程中对应一台服务器。每个Broker可以存储多个Topic的消息,每个Top的消息可以分片存储在不同的Broker。Message Queue用于存储消息的物理地址,每个Topic中的消息地址存储于多个Message Queue中。ConsumerGroup由多个ConsumerGroup由多个Consumer实例构成。
消息生产者 Producer
负责生产消息,一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到Broker服务器。RocketMQ提供多种发送方式,同步发送,异步发送,顺序发送,单向发送。同步和异步方式均需要Broker返回确认信息,单向发送不需要。
生产者中,会把同一类Producer组成一个集合,叫做生产者组,这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃,则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。(生产者组的作用)
消息消费者 Consumer
负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息,并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式:拉取式消费,推送式消费
- 拉取式消费的应用通常是主动调用Consumer的拉消息方法从Broker服务器拉消息,主动权由应用去控制。一旦获取了批量消息,应用就会启动线程消费
- 推送式消费模式下Broker收到数据后会主动推给消费端,该消费模式一般实时性较高。
主题 Topic
表示一类消息的集合,每个主题包含若干条消息,每条消息只能属于一个主题,是RocketMQ进行消息订阅的基本单位。
同一个Topic下的数据,会分片保存到不同的Broker上,而每一个分片单位,叫做MessageQueue。它是生产者发送消息和消费者消费消息的最小单位。
代理服务器 Broker Server
消息中转角色,负责存储消息,转发消息。代理服务器在RocketMQ系统中负责接收从生产者发来的消息并存储,同时为消费者的拉取请求做准备。代理服务器也存储消息相关的元数据,包括消费者组,消费进度偏移和主题和队列消息等。
组成如下:
- Remoting Module:整个Broker的实体,负责处理来自clients端的请求。
- Client Manager:负责管理客户端(P/C)和维护Consumer的Topic的订阅消息
- Store Service:提供方便简单的Api接口处理消息存储到物理硬盘和查询功能
- HA Service:高可用服务,提供Master Broker和Slave Broker之间的数据同步功能。
- Index Service:根据特定的Message key对投递到Broker的消息进行索引服务,以提供消息的快速查询
Broker集群方式
普通集群
给每个节点分配一个固定的角色,master负责响应客户端的请求并存储消息。slave只负责对master消息进行同步保存,并响应部分客户端的读请求。消息同步方式分为同步同步和异步同步。
这种集群模式下角色无法切换,master节点挂了,这一组Broker就不可用了。
Dledger高可用集群
Dledger是RocketMQ自4.5版本引入的实现高可用集群的一项技术。这个模式下的集群会随机选出一个节点作为master,当master挂了之后,会从slave中自动选出一个节点升级为master。
Dledger技术做了哪些事。
- 接管Broker的CommitLog消息存储
- 从集群中选举出master节点
- 完成master节点往slave节点的消息同步
Dledger采用Raft算法进行节点选举(后期深入)
名字服务 Name Service
名称服务充当路由消息的提供者,Broker Service会在启动时向所有的Name Service注册自己的服务信息,并且后续通过心跳请求的方式保证这服务信息的实时性。生成这或消费者能通过名字服务查找各个主体相应的Broker IP列表。多个Name Service实例组成集群,相互独立,没有信息交换。
这就意味着Name Service中任意的节点挂了不会对整个路由服务由影响。
消息Message
消息系统所传输的物理载体。生产和消费数据的最小单位,每条消息必须属于一个Topic。RocketMQ中每一个消息拥有唯一的Message ID,且可以携带举有业务标识的key。系统提供了通过Message ID和key查询消息的功能。并且Message上有一个为消息社子和的标签,Tag标签。用于同一主体下区分不同类型的消息。来自同一业务单元的消息。可以根据不同业务目的在同一主体下设置不同标签。标签能够有效的保持代码的清晰度和连贯性,并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主体的不同消费逻辑,实现更好的拓展性。
Message对象属性介绍:
- topic
- propoties 消息自己的苏醒
- transactionId
…