RocketMQ集群搭建

已于 2022-02-07 10:39:37 修改
阅读量2.1k 收藏 2
点赞数
分类专栏： RocketMq学习 文章标签： 消息队列 中间件 linux
于 2022-02-07 10:34:52 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Lazy_Piggy/article/details/122805202
版权
本文详细介绍了RocketMQ集群的搭建过程，包括数据复制的同步和异步策略，以及刷盘的同步和异步方式。文中讨论了不同集群模式的优缺点，如单master、多master和多master多slave模式，特别强调了同步双写在确保数据安全性上的优势。此外，还提供了双主双从异步复制集群的具体配置和启动步骤。
摘要由CSDN通过智能技术生成

RocketMQ集群搭建

文章目录

数据复制与刷盘策略

数据复制

复制策略是Broker的Master和Slave之间的数据同步方式。分为同步复制和异步复制。

  • 同步复制：消息写入master后，master会等待slave同步数据成功后才向producer返回成功ACK
  • 异步复制（降低写入延迟，提高吞吐量），消息写入master后，master立即向producer返回成功ACK，无需等待slave同步数据成功。

异步复制: 降低写入延迟，RT变小，提高了吞吐量。

如何才知道数据是否成功了？涉及到刷盘策略

刷盘策略

刷盘策略指的是broker中的消息的落盘方式，即消息发送到broker内存后消息持久化到磁盘的方式。分为同步刷盘和异步刷盘。

  • 同步刷盘：当消息持久化到broker的磁盘后才算是消息写入成功。
  • 异步刷盘：当消息写入到broker的内存后即表示消息写入成功，无需等待消息持久化到磁盘。

异步刷盘: 降低写入延迟，RT变小，提高了吞吐量。
消息写入到broker的内存，一般是写入到了PageCache缓存。
对于异步刷盘策略，消息会写入到PageCache后立即返回ACK，并不会立即做落盘操作，而是当PageCache达到一定量会自动落盘。

所以，数据复制成功需要看采用哪种刷盘策略，并且落盘成功才算是数据复制成功了。

Broker集群模式

根据broker集群中各个节点关系的不同，broker集群可以分为以下几类：

单master（单机版）

只有一个broker，只能在测试时使用，生产环境下不能使用，因为存在单点问题。

多master

broker集群由多个master构成，不存在slave。同一个topic是各个queue会分布会平均分布在在各个节点上。

  • 优点：配置简单，但哥master宕机或重启维护对应用无影响，在磁盘配饰为RAID10时，即使机器宕机不可恢复情况下，由于RAID10磁盘非常可靠，消息也不会丢失（异步刷盘丢失少量消息，同步刷盘一条不丢），性能最高。
  • 缺点：单台机器宕机期间，这台机器上未被消费的消息在机器恢复前不可订阅，消息实时性会受到影响。

以上有点的前提是，这些master都配置了RAID磁盘阵列，如果没有配置一旦出现某master宕机，则会发生大量消息丢失的情况。

多master多slave模式-异步复制

broker集群由多个master构成，每个master又配置了多个slave（在配置了RAID磁盘阵列的情况下，一个master一般配置一个slave即可）。master与slave的关系是主备关系，即master负责处理消息的读写请求，而slave仅负责消息的备份与master宕机后的角色互换。

异步复制即前面所讲的复制策略中的异步复制策略，即消息写入master成功后，master立即向producer返回成功ACK，无需等待slave同步数据成功。

该模式的最大特点之一是，当master宕机后slave能够自动切换为master。不过由于slave从master的同步具有短暂的延迟（毫秒级），所以当master宕机后，这种异步复制会存在少量的丢失。

slave从master同步的延迟越短，其可能丢失的消息就越少。

对于master的RAID磁盘阵列，若使用的也是异步复制策略，同样也存在延迟问题，同样也可能会丢失消息。但RAID阵列的秘诀是微秒级的（因为是硬盘支持的），所以丢失数据会更少。

多master多slave模式-同步双写

该模式是多master多slave模式的同步复制实现。所谓同步双写，指的是消息写入master成功后，master等待slave同步数据成功后才向producer返回成功ACK，即master与slave都要写入成功后才会返回成功ACK，也即双写。

该模式与异步复制相比，优点是消息的安全性更高，不存在消息丢失的情况。但单个消息的RT略高，从而导致性能略低（大约低10%）。

该模式存在一个大问题：对于目前版本，master宕机后，slave不会自动切换到master。

最佳实现

一般会为master配置RAID10磁盘阵列，然后再为其配置一个slave。即利用了RAID10磁盘阵列的高效、安全性，又解决了可能会影响订阅的问题。

  1. RAID磁盘阵列的效率要高于master-slave集群，因为RAID是硬件支持的。也正因为如此，所以RAID阵列的搭建成本较高。
  2. 多master+RAID整列，与多master多slave集群的却别是什么？
  • 多master+RAID阵列，其仅仅可以保证数据不丢失，即不影响消息写入，但可能会影响到消息的订。但其执行效率要远高于多master多slave集群。
  • 多master多slave集群，其不仅可以保证数据不丢失，也不会影响消息写入。其运行效率要低于多master+RAID阵列。

集群搭建实践

集群架构

搭建一个双主双从异步复制的broker集群。

序号主机IP功能broker角色
1rocketmqOS1192.168.59.164NameServer+Brokermaster1+slave2
2rocketmqOS1192.168.59.165NameServer+Brokermaster2+slave1

克隆生成rocketmqOS1

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-N9FvGzyS-1644201465275)(.\images\image-20220124152538838.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-3NyL1tMk-1644201465275)(.\images\image-20220124153111103.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-l1fYFA0g-1644201552085)(C:\Users\10542\Desktop\学习笔记\RocketMQ\images\image-20220124153128172.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DIAWC2Jw-1644201465276)(C:\Users\10542\Desktop\学习笔记\RocketMQ\images\image-20220124153142851.png)]

修改主机名和IP

修改hostname为rocketmqOS1

$ vim /etc/hostname

修改IP为192.168.59.165

$ vim /etc/sysconfig/network-scripts/ifcfg-ens33

修改rocketmqOS1配置文件

要修改的文件在安装目录下的conf/2m-2s-async文件里

  1. 修改broker-a.properties

    # 指定整个broker集群的名称，或者说是rocketmq集群的名称
brokerClusterName=DefaultCluster
# 指定整个master-slave集群的名称。一个rocketmq集群可以包含多个master-slave集群
brokerName=broker-a
# master的brokerId为0，非master的为非0
brokerId=0
# 指定删除消息存储过期文件的时间为凌晨4点
deleteWhen=04
# 指定未发生更新的消息存储文件的保留时长为48小时，48小时后过期，将会被删除
fileReservedTime=48
# 指定当前broker为异步复制master
brokerRole=ASYNC_MASTER
# 指定刷盘策略为异步刷盘
flushDiskType=ASYNC_FLUSH
# 指定name server的地址
namesrvAddr=192.168.59.165:9876;192.168.59.166:9876

  2. 修改broker-b-s.properties

    # 指定整个broker集群的名称，或者说是rocketmq集群的名称
brokerClusterName=DefaultCluster
# 指定整个master-slave集群的名称。一个rocketmq集群可以包含多个master-slave集群
brokerName=broker-b
# master的brokerId为0，大于0表示slave
brokerId=1
# 指定删除消息存储过期文件的时间为凌晨4点
deleteWhen=04
# 指定未发生更新的消息存储文件的保留时长为48小时，48小时后过期，将会被删除
fileReservedTime=48
# Broker的角色: SLAVE
brokerRole=ASYNC_MASTER
# 刷盘策略: 异步刷盘
flushDiskType=ASYNC_FLUSH
# 指定name server的地址
namesrvAddr=192.168.59.165:9876;192.168.59.166:9876
# 指定broker对外提供服务的端口，即broker与producer与consumer通信的端口。默认是10911。由于当前主机同时充当master1和slave2，而前面的master1使用的是默认端口。这里需要将两个端口加以区分，以区分出master1和slave2。
listenPort=11911
# 指定消息存储相关的路径。默认路径为~/store目录。由于当前主机同时充当着master1与slave2，master1使用默认路径，这里就需要再指定一个不同路径
storePathRootDir=~/store-s
storePathCommitLog=~/store-s/commmitlog
storePathConsumeQueue=~/store-s/consumequeue
storePathIndex=~/store-s/index
storeCheckpoint=~/store-s/checkpoint
abortFile=~/store-s/abort

  3. 除了以上配置外，这些配置文件中还可以设置其他属性

    # 指定整个broker集群的名称，或者说是rocketmq集群的名称
brokerClusterName=rocket-MS
# 指定整个master-slave集群的名称。一个rocketmq集群可以包含多个master-slave集群
brokerName=broker-b
# master的brokerId为0，大于0表示slave
brokerId=0
# 指定删除消息存储过期文件的时间为凌晨4点
deleteWhen=04
# 指定未发生更新的消息存储文件的保留时长为48小时，48小时后过期，将会被删除
fileReservedTime=48
# Broker的角色
# 异步复制master: ASYNC_MASTER
# 同步双写master: SYNC_MASTER
# slave: SLAVE
brokerRole=ASYNC_MASTER
# 刷盘策略
# 同步刷盘: SYNC_FLUSH
# 异步刷盘: ASYNC_FLUSH
flushDiskType=ASYNC_FLUSH
# 指定name server的地址
namesrvAddr=192.168.59.165:9876;192.168.59.166:9876
# 指定broker对外提供服务的端口，即broker与producer与consumer通信的端口。默认是10911。由于当前主机同时充当master1和slave2，而前面的master1使用的是默认端口。这里需要将两个端口加以区分，以区分出master1和slave2
listenPort=11911
# HA高可用监听端口，即master与slave间通信的端口，默认值为listenPort+1
haListenPort=10912
# 指定消息存储相关的路径。默认路径为~/store目录。由于当前主机同时充当着master1与slave2，master1使用默认路径，这里就需要再指定一个不同路径
storePathRootDir=~/store-s
storePathCommitLog=~/store-s/commmitlog
storePathConsumeQueue=~/store-s/consumequeue
storePathIndex=~/store-s/index
storeCheckpoint=~/store-s/checkpoint
abortFile=~/store-s/abort
# 默认为新建的Topic所创建的队列数
defaultTopicQueueNums=4
# 是否允许broker自动创建topic，建议生产环境中关闭
autoCreateTopicEnable=false
# 是否允许broker自动创建订阅组，建议生产环境中关闭
autoCreateSubscriptionGroup=true
# 指定commitLog目录中每个文件的大小，默认1G
mapedFileSizeCommitLog=1073741824
# 指定ConsumeQueue的每个Topic的每个Queue文件中可以存放的消息数量，默认为30w条
mapedFileSizeConsumeQueue=300000
# 在清除过期文件时，如果该文件被其他线程所占用（引用数大于0，比如读取消息），此时会阻止本次删除任务，同时在第一次试图删除文件时记录当前时间戳，该属性则表示从
第一次拒绝删除后开始计时，该文件最多可以保留的时长，在此时间内若引用数仍不为0，则删除仍会被拒绝，不过时间到期后，文件将会被强制删除
# destroyMapedFileIntervalForcibly=120000
# 指定消息的最大大小
maxMessageSize=65536
# 发消息线程池数量
sendMessageThreadPoolNums=128
# 拉消息线程池数量
pullMessageThreadPoolNums=128
# 强制本机IP，需要根据每台机器进行修改，官方介绍可以为空，系统默认自动识别，但多网卡时IP地址可能读取错误
brokerIP1=192.168.3.165

rocketmqOS1克隆生成rocketmqOS2

步骤同rocketOS1

修改rocketmqOS2配置文件

  1. 修改broker-b.properties

    # 指定整个broker集群的名称，或者说是rocketmq集群的名称
brokerClusterName=DefaultCluster
# 指定整个master-slave集群的名称。一个rocketmq集群可以包含多个master-slave集群
brokerName=broker-b
# master的brokerId为0，非master的为非0
brokerId=0
# 指定删除消息存储过期文件的时间为凌晨4点
deleteWhen=04
# 指定未发生更新的消息存储文件的保留时长为48小时，48小时后过期，将会被删除
fileReservedTime=48
# 指定当前broker为异步复制master
brokerRole=ASYNC_MASTER
# 指定刷盘策略为异步刷盘
flushDiskType=ASYNC_FLUSH
# 指定name server的地址
namesrvAddr=192.168.59.165:9876;192.168.59.166:9876

  2. 修改broker-a-s.properties

    # 指定整个broker集群的名称，或者说是rocketmq集群的名称
brokerClusterName=DefaultCluster
# 指定整个master-slave集群的名称。一个rocketmq集群可以包含多个master-slave集群
brokerName=broker-a
# master的brokerId为0，大于0表示slave
brokerId=1
# 指定删除消息存储过期文件的时间为凌晨4点
deleteWhen=04
# 指定未发生更新的消息存储文件的保留时长为48小时，48小时后过期，将会被删除
fileReservedTime=48
# Broker的角色: SLAVE
brokerRole=ASYNC_MASTER
# 刷盘策略: 异步刷盘
flushDiskType=ASYNC_FLUSH
# 指定name server的地址
namesrvAddr=192.168.59.165:9876;192.168.59.166:9876
# 指定broker对外提供服务的端口，即broker与producer与consumer通信的端口。默认是10911。由于当前主机同时充当master1和slave2，而前面的master1使用的是默认端口。这里需要将两个端口加以区分，以区分出master1和slave2。
listenPort=11911
# 指定消息存储相关的路径。默认路径为~/store目录。由于当前主机同时充当着master1与slave2，master1使用默认路径，这里就需要再指定一个不同路径
storePathRootDir=~/store-s
storePathCommitLog=~/store-s/commmitlog
storePathConsumeQueue=~/store-s/consumequeue
storePathIndex=~/store-s/index
storeCheckpoint=~/store-s/checkpoint
abortFile=~/store-s/abort

启动服务器

启动NameServer集群

分别启动rocketmqOS1和rocketmqOS2两个主机中的MameServer。启动命令完全相同。

$ nohup sh bin/mqnamesrv & 
$ tail -f ~/logs/rocketmqlogs/namesrv.log

启动两个master

分别启动rocketmqOS1和rocketmqOS2两个主机中的broker master。注意，他们指定要加载的配置文件是不同的。

# rocketmqOS1

$ nohup sh bin/mqbroker -c conf/2m-2s-async/broker-a.properties &
$ tail -f ~/logs/rocketmqlogs/broker.log

# rocketmqOS2

$ nohup sh bin/mqbroker -c conf/2m-2s-async/broker-b.properties &
$ tail -f ~/logs/rocketmqlogs/broker.log

启动两个slave

# rocketmqOS1

$ nohup sh bin/mqbroker -c conf/2m-2s-async/broker-b-s.properties &
$ tail -f ~/logs/rocketmqlogs/broker.log

# rocketmqOS2

$ nohup sh bin/mqbroker -c conf/2m-2s-async/broker-a-s.properties &
$ tail -f ~/logs/rocketmqlogs/broker.log

启动dashboard

  1. 修改src\main\resources\application.properties文件中namesrvAddr地址
rocketmq.config.namesrvAddr=rocketmqOS1:9876;rocketmqOS2:9876
  1. 重新打包
> mvn clean package -Dmaven.test.skip=true

3.运行target\rocketmq-dashboard-1.0.0.jar文件，访问localhost:7000

> java -jar rocketmq-dashboard-1.0.0.jar
时间不留下脚印
关注
专栏目录
RocketMq集群搭建
weixin_61157922的博客
08-01 612
准备两个Linux机器。
RocketMQ 集群搭建
涛涛之海
09-12 832
文章目录RocketMQ 集群搭建各角色介绍集群搭建方式集群特点集群模式1）单Master模式2）多Master模式3）多Master多Slave模式（异步）4）多Master多Slave模式（同步）双主双从(同步)集群搭建工作流程配置步骤(1) 修改 vim /etc/hosts(2) 重启网卡(3) 修改防火墙(4) 配置环境变量(5) 创建消息存储路径(6)broker 配置文件(7)修改启动脚本文件(8) 服务启动mqadmin 管理工具1 使用方式2 命令介绍1）`Topic`相关2）集群相关3
RocketMQ 集群搭建详细指南
最新发布
hello.reader
09-14 1877
RocketMQ是阿里巴巴开源的一款分布式消息中间件，具备高性能、高可用性和强大的消息传递能力，能够胜任从实时消息传递、事务消息到事件驱动架构的多种场景。RocketMQ 的核心架构设计使其能够支持高并发、低延迟的场景，尤其是在互联网公司和金融领域广泛应用。为了确保系统的高可用性和扩展性，我们通常会在生产环境中搭建RocketMQ 集群。通过集群化部署，RocketMQ 可以在节点故障时保持正常运行，并通过水平扩展来提升系统的吞吐能力。
Rocketmq的集群搭建
wssc63262的博客
07-27 1885
居于RocketMQ4.9.4搭建集群
rocketmq集群搭建
qq_41196211的博客
03-27 1114
是否允许 Broker 自动创建Topic，建议线下开启，线上关闭。#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭。#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭。#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数。#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数。#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数。#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数。
rocketmq集群搭建资源以及搭建详细步骤（全套）
03-04
在本压缩包中，你将找到搭建RocketMQ集群所需的全部资源，包括必要的jar包和war包。 首先，我们来了解一下RocketMQ集群的基本概念。在RocketMQ中，集群主要由NameServer、Broker和Producer/Consumer等角色组成。...
Rocketmq集群搭建
Kevin
02-28 374
Rocketmq集群搭建 拓扑 主机名 网卡名 IP 作用 mq-master01 ens33 192.168.162.10 broker-a mq-master02 ens33 192.168.162.11 broker-b mq-slave01 ens33 192.168.162.12 broker-a-s mq-slave02 ens33 192.168.162....
高可用 RocketMQ 集群搭建.doc
08-24
高可用 RocketMQ 集群搭建 RocketMQ 是一款流行的开源消息队列系统，具有高性能、高可用性和低延迟等特点。为了确保 RocketMQ 集群的高可用性，需要对其进行合理的设计和部署。下面将详细介绍高可用 RocketMQ ...
window进行rocketMQ集群搭建--简单无错版
weixin_45309354的博客
07-11 741
window集群rocketmq
RocketMQ的集群搭建
流浪猫
02-24 438
1、数据复制和刷盘策略 数据复制 复制策略是Broker的Master和Slave之间的数据同步方式，分为同步复制和异步复制 同步复制：消息写入master后，master会等待slave同步数据成功后才向producer返回成功ACK 异步复制：消息写入master后，master会立即向producer返回成功ACK，不会等待slave同步数据成功 刷盘策略 刷盘策略是指消息发送到broker内存后消息持久化到磁盘的方式(也叫做落盘)，分为同步刷盘和异步刷盘 同步刷盘：当消息持.
关于rocketMq的windows集群部署工作日志
Ai3JianDan的博客
10-30 677
关于rocketMq的windows集群部署工作日志 最近需要在公司提供的windows环境上部署rocketmq集群做测试用，网上找了很多文章，自己也是刚接触不断摸索，写一下部署的过程备忘。主要思路在两台机器上部署rocketMq集群，为了简单每台机器上启动1个masterbroker和一个slavebroker。 下载rocketmq包 rocketmq包下载链接 修改配置 解压到合适的目录，...
RocketMQ-集群搭建
weixin_58482311的博客
12-01 1503
在RocketMQ的这种主从架构的集群下，客户端发送的消息会分散保存到broker-a和broker-b两个服务上，然后每个服务都配有slave服务，可以备份对应master服务上的消息，这样就可以防止单点故障造成的消息丢失问题。与第一组broker-a服务的配置方式类似，在worker3上配置broker-b的MASTER服务。了的，slave服务虽然拥有全部的数据，但是它没办法升级成为master服务去响应客户端的请求，依然只是傻傻等待master服务重启后，继续做它的数据备份工作。
第二章 RocketMQ集群简介-安装-测试
qq_41133245的博客
11-08 512
1.各角色介绍 Producer：消息的发送者；举例：发信者 Consumer：消息接收者；举例：收信者 Broker：暂存和传输消息；举例：邮局 NameServer：管理Broker；举例：各个邮局的管理机构 Topic：区分消息的种类；一个发送者可以发送消息给一个或者多个Topic；一个消息的接收者可以订阅一个或者多个Topic消息 Message Queue：相当于是Topic的分区；用于并行发送和接收消息 2.集群特点 NameServer是一个几乎无状态节点，可集群部署，节点之间无任何
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值