网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
第一章 RocketMQ概述
一、MQ概述
1. MQ简介
MQ(Message Queue)消息队列,是基础数据结构中“先进先出”的一种数据结构。它也是一种提供消息队列服务的中间件,也称消息中间件,是一套提供了消息生产、存储、消费全过程API的软件系统。
2. MQ用途
总结为三点:解耦、异步、削峰
3. 常见MQ
ActiveMQ、RabbitMQ、Kafka、RocketMQ
4. MQ常见协议
4.1 JMS(Java Message Service)
JMS,JMS即Java消息服务应用程序接口,是一个Java平台中关于面向消息中间件(MOM)的API,用于在两个应用程序之间,或分布式系统中发送消息,进行异步通信。ActiveMQ是该协议的典型实现。
4.2 STMOP(Streaming Text Orientated Message Protocol)
STMOP是一种为MOM(Message Oriented Middleware,面向消息的中间件)设计的简单文本协议。提供可操作的连接格式,允许客户端与任意STMOP消息代理进行交互。ActiveMQ是该协议的典型实现,RabbitMQ通过插件可支持该协议。
4.3 AMQP(Advanced Message Queuing Protocol)
AMQP是高级消息队列协议,一个提供统一消息服务的应用层标准,是应用层协议的一个开放标准,是一种MOM设计,基于此协议的客户端与消息中间件可传递消息,并不受客户端中间件不同产品、不同开发语言等条件的限制。RabbitMQ是其典型实现。
4.4 MQTT(Message Queuing Telemetry Transport)
它是IBM开发的一个即时通信协议,是一种二进制协议,主要用于服务器和低功耗IoT(Internet of Things,物联网)设备的通信。该协议支持所有平台,几乎可以把所有联网物品和外部连接起来,被用来当作传感器和驱动器的通信协议,RabbitMQ通过插件可以支持该协议。
二、RocketMQ概述
阿里巴巴开源的消息中间件。
官网:https://rocketmq.apache.org/
1. RocketMQ发展史
2001 年,阿里内部适应淘宝 B2C 启动 “五彩石项目”
2011 年,阿里为满足内部顺序消息、海量消息堆积、完全自主控制消息队列,弃用 Apache ActiveMQ,创建 MetaQ。同年,LinkedIn 将 kafka 开源
2012 年,阿里参考 kafka 基于 MetaQ,研发消息队列引擎 RocketMQ
2016 年,阿里将 RocketMQ 捐献给 Apache 基金会,2017 年 9 月,RocketMQ 成为 Apache 顶级项目(国内首个互利网中间件在 Apache 的顶级项目)
第二章 RocketMQ基本概念
一、基本概念
1. 消息(Message)
消息系统所传输信息的物理载体,生产和消费数据的最小单位,每条消息必须属于一个主题。
2. 主题(Topic)
主题是一个逻辑上的概念,它还可以细分为多个分区,一个分区只属于单个主题,很多时候也会把分区称为主题分区(Topic-Partition)。
3. 标签(Tags)
Topic是消息的一级分类,Tag是消息的二级分类。例如,
Topic | Tag |
---|---|
货物 | 上海 |
货物 | 江苏 |
货物 | 武汉 |
4. 队列(Queue)
存储消息的物理实体,一个topic中可以包含多个Queue,每个Queue中存放的就是该topic的消息。一个topic的Queue也被称为一个topic中消息的分区(Partition)。
一个分区只能被一个消费者消费,一个分区不能被多个消费者消费。
那么有个疑问?RocketMQ广播时分区里是怎样的呢?
集群模式时RocketMQ的一条消息只能被同一个消费者组中的一个消费者消费;
广播模式时RocketMQ的一条消息会被消费者组中的每个消费者都消费一次。
5. 分片(Sharing)
分片不同于分区,分片指的是存放相同Topic的Broker。每个分片中会创建出相应数量的分区,即每个Queue的大小都是相同。
6. 消息标识(MessageId/Key)
RocketMQ中每个消息有唯一标识MessageId,且可以携带业务标识的key,以方便对消息的查询。
生产者send()消息时会生成一个MessageId,当消息到达Broker后,Broker也会自动生成一个MessageId。
- msgId:由producer端生成,生成规则为producerId + 进程PID + MessageClientIDSetter类的ClassLoader的hashcode + 当前时间 + AutomicInteger自增计数器;
- offsetMsgId:由broker端生成,其生成规则为 brokerId + 物理分区的offset;
- key:由用户指定的业务相关的唯一标识;
二、系统架构
1. Producer
消息生产者,负责生产消息,Produer通过MQ的负载均衡模块选择相应的Boker集群队列进行消息投递,投递的过程支持快速失败并且低延迟。
RocketMQ中的消息生产者都是以生产者组(Producer Group)的形式出现的。生产者组是同一类生产者的集合,这类Producer发送相同Topic类型的消息。一个生产组可以同时发送多个主题的消息(每个生产者投递到多个topic)。
2. Consumer
消费消息者,负责消费消息。一个消息消费者会从Broker服务器中获取到消息,并对消息进行相关业务处理。
RocketMQ中的消息消费者都是以消费者组(Consumer Group)的形式出现的。消费者组是同一类消费者的集合,这类Consumer消费的是同一Topic类型的消息。消费者使得消息消费方面,实现负载均衡(这里的负载均衡指的是一个Topic中不同的Queue平均分配给一个Consumer Group中不同的Consumer消费)和容错的目标变得非常容易。
消费者组中Consumer的数量应该小于等于订阅Topic的Queue的数量,如果超过Queue数量,则多出Consumer将不能消费消息。
一个Topic类型的消息可以被多个消费者组同时消费。
注意:
1)消费者组只能消费一个Topic的消息,不能同时消费多个Topic的消息;
2)一个消费者组中的消费者必须订阅完全相同的Topic;
3. Name Server
3.1 功能介绍
Name Server是一个Broker与Topic路由的注册中心,支持Broker的动态注册与发现。
主要包含两个功能:
- Broker管理:接受Broker集群的注册信息并且保存下来作为路由信息的基本数据;提供心跳检测机制,检查Broker是否还存活;
- 路由信息管理:每个Name Server中保存着Broker集群的整个路由信息和用于客户端查询的队列信息。Producer通过Name Server可以获取整个Broker集群的路由信息,从而进行消息的投递和消费。
3.2 路由注册
NameServer通常也是以集群的方式部署,不过,NameServer是无状态的,即NameServer集群中的各个节点间是无差异的,各节点间相互不进行信息通讯。那各节点中的数据是如何进行数据同步的呢?在Broker节点启动时,轮询NameServer列表,与每个NameServer节点建立长连接,发起注册请求。在NameServer内部维护着⼀个Broker列表,用来动态存储Broker的信息。
注意,这是与其它像zk、Eureka、Nacos等注册中心不同的地方。这种Name Server的无状态方式,有什么优缺点:
优点:Name Server集群搭建简单,扩容简单。
缺点:对于Broker,必须明确指出所有Name Server地址。否则未指出的将不会去注册。也正因为如此,NameServer并不能随便扩容。因为,若Broker不重新配置,新增的Name Server对于Broker来说是不可见的,其不会向这个Name Server进行注册。
Broker节点为了证明自己是活着的,为了维护与Name Server间的长连接,会将最新的信息以心跳包的方式上报给Name Server,每30秒发送一次心跳。心跳包中包含 BrokerId、Broker地址(IP+Port)、Broker名称、Broker所属集群名称等等。Name Server在接收到心跳包后,会更新心跳时间戳,记录这个Broker的最新存活时间。
3.3 路由剔除
由于Broker关机、宕机或网络抖动等原因,Name Server没有收到Broker的心跳,Name Server可能会将其从Broker列表中剔除。
Name Server中有⼀个定时任务,每隔10秒就会扫描⼀次Broker表,查看每一个Broker的最新心跳时间戳距离当前时间是否超过120秒,如果超过,则会判定Broker失效,然后将其从Broker列表中剔除。
扩展:对于RocketMQ日常运维工作,例如Broker升级,需要停掉Broker的工作。OP需要怎么做?
OP需要将Broker的读写权限禁掉。一旦client(Consumer或Producer)向broker发送请求,都会收到broker的NO_PERMISSION响应,然后client会进行对其它Broker的重试。
当OP观察到这个Broker没有流量后,再关闭它,实现Broker从Name Server的移除。
OP:Operations Engineer,运维工程师
SRE:Site Reliability Engineer,现场可靠性工程师
3.4 路由发现
RocketMQ的路由发现采用的是Pull模型。当Topic路由信息出现变化时,NameServer不会主动推送给客户端,而是客户端定时拉取主题最新的路由。默认客户端每30秒会拉取一次最新的路由。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
803789)]
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!