Centos安装RocketMQ之双主双从模式（同步双写方式）

已于 2024-01-13 17:27:03 修改
阅读量1.1k 收藏 21
点赞数 22
分类专栏： RocketMQ 文章标签： centos rocketmq linux
于 2024-01-13 17:14:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lcgskycby/article/details/135443851
版权
本文详细介绍了如何在两台服务器上搭建RocketMQ的NameServe和Broker集群，包括环境准备、配置文件修改、防火墙设置以及启动服务过程中的注意事项和常见问题解决。
摘要由CSDN通过智能技术生成

目录

前言

一、总体架构

二、环境准备

1、文件准备

2、服务器换环境

3、防火墙配置

4、创建消息存储路径

 三、配置文件修改

1、master1配置修改

2、slave2配置修改

3、master2配置修改

4、slave1配置修改

 四、启动脚本修改

 五、启动服务

1、启动NameServe集群

​编辑

2、启动Broker集群

 2.1 在 161上启动master1和slave2

 2.2 在 163上启动master2和slave1

2.3 注意

2.4 问题

2.4.1  Lock failed,MQ already started 

前言

RocketMQ单机版模式，这种模式风险较大，一旦Broker重启或者宕机时，会导致整个服务不可用。不建议线上环境使用,可以用于本地测试，单机版环境搭建可以参考文档。

一、总体架构

二、环境准备

1、文件准备

把对应的安装包上传到服务器中，并且进行解压

2、服务器换环境

序号IP角色架构模式
110.100.24.161nameserver、brokerserverMaster1、Slave2
210.100.24.163nameserver、brokerserverMaster2、Slave1

3、防火墙配置

宿主机需要远程访问虚拟机的rocketmq服务和web服务，需要开放相关的端口号，简单粗暴的方式是直接关闭防火墙

# 关闭防火墙
systemctl stop firewalld.service
# 查看防火墙的状态
firewall-cmd --state
# 禁止firewall开机启动

systemctl disable firewalld.service

或者为了安全，只开放特定的端口号，RocketMQ默认使用3个端口：9876 、10911 、11011 。如果防火墙没有关闭的话，那么防火墙就必须开放这些端口：

  • nameserver 默认使用 9876 端口

  • master 默认使用 10911 端口

  • slave 默认使用11011 端口

执行以下命令：

 # 开放name server默认端口
firewall-cmd --remove-port=9876/tcp --permanent
# 开放master默认端口
firewall-cmd --remove-port=10911/tcp --permanent
# 开放slave默认端口 (当前集群模式可不开启)
firewall-cmd --remove-port=11011/tcp --permanent 
# 重启防火墙
firewall-cmd --reload

4、创建消息存储路径

mkdir /usr/local/rocketMq/store
mkdir /usr/local/rocketMq/store/commitlog
mkdir /usr/local/rocketMq/store/consumequeue
mkdir /usr/local/rocketMq/store/index

同一系统下如果有要创建两个broker,则对应的store路径要不一样

mkdir /usr/local/rocketMq/store_s
mkdir /usr/local/rocketMq/store_s/commitlog
mkdir /usr/local/rocketMq/store_s/consumequeue
mkdir /usr/local/rocketMq/store_s/index

 

 三、配置文件修改

1、master1配置修改

IP：10.100.24.161

 vi broker-a.properties

 

如果直接在ssh中用vi编辑不直观，可以借助文本编辑工具

修改配置如下：

brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master，>0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=10.100.24.161:9876;10.100.24.163:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketMq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketMq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketMq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketMq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketMq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketMq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

 修改后效果

2、slave2配置修改

IP：10.100.24.161

 vi broker-b-s.properties

修改配置如下：

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master，>0 表示 Slave
brokerId=1
#nameServer地址，分号分割
namesrvAddr=10.100.24.161:9876;10.100.24.163:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketMq/store_s
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketMq/store_s/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketMq/store_s/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketMq/store_s/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketMq/store_s/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketMq/store_s/abort
#限制的消息大小
#maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH 
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

3、master2配置修改

IP：10.100.24.163

 vi broker-b.properties

修改配置如下：

 brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master，>0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=10.100.24.161:9876;10.100.24.163:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketMq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketMq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketMq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketMq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketMq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketMq/store/abort
#限制的消息大小
#maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

4、slave1配置修改

IP：10.100.24.163

 vi broker-a-s.properties

修改配置如下：

 brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master，>0 表示 Slave
brokerId=1
#nameServer地址，分号分割
namesrvAddr=10.100.24.161:9876;10.100.24.163:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketMq/store_s
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketMq/store_s/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketMq/store_s/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketMq/store_s/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketMq/store_s/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketMq/store_s/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
 

 四、启动脚本修改

如果是非服务器部署即内存没有那么大，则需要修改RocketMQ默认的虚拟机，启动Broker如果因为内存不足失败，需要编辑如下两个配置文件，修改JVM内存大小，或者因为系统需求需要调高对应配置。

# 编辑runbroker.sh和runserver.sh修改默认JVM大小

vi runbroker.sh

 vi runserver.sh

 五、启动服务

1、启动NameServe集群

   分别在161，163中启动NameServe

nohup sh bin/mqnamesrv &

2、启动Broker集群

 2.1 在 161上启动master1和slave2

master1:

nohup sh bin/mqbroker  -c conf/2m-2s-sync/broker-a.properties   &

 slave2：

nohup sh bin/mqbroker  -c conf/2m-2s-sync/broker-b-s.properties   &

 

 2.2 在 163上启动master2和slave1

master2:

nohup sh bin/mqbroker -c conf/2m-2s-sync/broker-b.properties   &

 slave1:

 nohup sh bin/mqbroker -c conf/2m-2s-sync/broker-a-s.properties   &

 

2.3 注意

在启动broker 的时候，使用的命令中 -c 与 nohup sh bin/mqbroker中间只能有一个空格，不然broker启动的时候就不会读取对应的配置文件

2.4 问题
2.4.1  Lock failed,MQ already started 

这个问题就是因为一台服务器，同时部署两个broker节点，并且两个节点的消息存储路径相同导致的，所以消息存储路径创建了两个一个是store,一个是store_s。

但是本人踩的坑就是在注意当中提到的问题，虽然我创建了两个路径并也配置对了，但是在启动broker的时候 -c 前边有两个空格，导致启动的时候broker没有读取正确的配置文件，从而导致两次启动的时候，读取的配置文件相同也就是默认配置文件，进而导致报这个错误

右璇
关注
专栏目录
docker-compose 搭建RocketMQ 5.1.0 集群（双主双从模式） | Spring Cloud 28
gmHappy
03-22 1万+
网上关于`Docker`搭建`RocketMQ`单机&集群的版本一般都是`4.X`。关于最新的`5.X`版本，官方给出的示例都是基于物理机&虚拟机实现，不便于我们我们日常开发使用，而且官方镜像 https://hub.docker.com/r/apache/rocketmq 中也没有关于容器化使用的介绍。 本章的目的：展示基于`docker-compose` 搭建`RocketMQ 5.1.0`集群，及一些部署在部署过程中的注意事项，方便大家对新版本的尝鲜与使用。
rocketmq双主集群搭建
08-14
双主集群是RocketMQ最简集群，会双主部署搭建了，多主或多主多从也自然没啥问题了
Rocketmq双主双从部署
weixin_48452961的博客
07-10 920
总结：消息生产者生产消息前，会先向NameServer中获取Broker，这就要求Broker需先注册到NameServer中，producer获取到Broker以后，就可以生产消息并交由Broker存储，Broker内部调用模块MessageQueue存储消息，而MessageQueue又会被逻辑划分为一个一个的topic，之后，消息消费者从NameServer中获取Broker，获取到Broker后，取出消息进行消费。2）Broker启动，跟所有的NameServer保持长连接，定时发送心跳包。
RocketMQ各种集群模式介绍
Leon_Jinhai_Sun的博客
06-13 1363
集群模式 1）单Master模式 这种方式风险较大，一旦Broker重启或者宕机时，会导致整个服务不可用。不建议线上环境使用,可以用于本地测试。 2）多Master模式 一个集群无Slave，全是Master，例如2个Master或者3个Master，这种模式的优缺点如下： 优点：配置简单，单个Master宕机或重启维护对应用无影响，在磁盘配置为RAID10时，即使机器宕机不可恢复情况下，由于RAID10磁盘非常可靠，消息也不会丢（异步刷盘丢失少量消息，同步刷盘一条不丢），性能最高；
系列十五（实战）、搭建RocketMQ集群（双主双从）
仰望星空，脚踏实地！安全感是自己给的，努力才是一辈子的安全感。
07-11 3201
NameServer是一个几乎无状态节点，可集群部署，节点之间无任何信息同步。
RocketMQ第4集 集群的搭建（2主2从异步复制集群模式）
健康平安的活着的专栏
06-05 2560
本案例采用2m-2s-async的方式搭建集群。实际项目中，为了达到高可用，一般会使用dleger。集群规划说明：nameserver是一个轻量级的注册中心，，直接启动即可。3台nameserver之间不需要通信，而是被请求方来关联3台nameserver的地址。机器角色配置在rocketmq的config目录下可以看到rocketmq建议的各种配置方式：2m-2s-async: 2主2从异步刷盘(吞吐量较大，但是消息可能丢失),
Java教程：RocketMq集群消息核心知识与SpringBoot整合并实现生产者与消费者
wfeil211的博客
09-28 4336
Java教程：RocketMq集群消息核心知识与SpringBoot整合并实现生产者与消费者
Centos7.x下MySQL5.7.30安装以及双主环境搭建指南
09-18
在本文中，我们将深入探讨如何在CentOS 7.x操作系统上安装MySQL 5.7.30，并且详细讲解如何设置MySQL的双主复制环境。这个过程对于那些需要高可用性和数据冗余的大型数据库系统至关重要。让我们逐一了解每个步骤。 #...
centos7 安装 ROCKETMQ4.9.4
最新发布
08-26
centos7 安装 ROCKETMQ rocketmq-all-4.9.4
在CentOS-6.8 64bit下安装Rocketmq4.2.0，采用双主双从同步复制
03-14
### 在CentOS-6.8 64bit下安装Rocketmq4.2.0，采用双主双从同步复制 #### 一、安装操作系统及基础配置 为了搭建RocketMQ集群，首先需要创建一个CentOS虚拟机，具体版本为CentOS-6.8 64位。建议配置如下： - **...
Windows 10安装Centos7双系统教程
01-20
工作比较清闲，闲来无事自然要自己找找乐子，顺便提升下自己计算机技术，最早win10安装centos7思维是这样的，以前听过用老毛桃能装系统，将centos的.iso放在LMT文件目录下，BIOS启动界面进行一件安装，对于我这种...
Win8.1 + CentOS7 双系统 U盘安装（超详细教程）
09-15
### Win8.1 + CentOS7 双系统 U盘安装详细教程 #### 一、准备工作 在开始安装前，确保以下准备工作已经完成： 1. **硬件准备**：本教程以宏碁Aspire4752G笔记本为例进行操作，但适用于大多数支持UEFI启动模式的...
RocketMQ双主双从集群搭建
YHJ
05-23 1946
1 各角色介绍 Producer：消息的发送者；举例：发信者 Consumer：消息接收者；举例：收信者 Broker：暂存和传输消息；举例：邮局 NameServer：管理Broker；举例：各个邮局的管理机构 Topic：区分消息的种类；一个发送者可以发送消息给一个或者多个Topic；一个消息的接收者可以订阅一个或者多个Topic消息 Message Queue：相当于是Topic的分区；用于并行发送和接收消息 2 集群搭建方式 2.1 集群特点 NameServer是一个几乎无
RocketMQ 的双主双从集群搭建
qq_40230026的博客
02-15 3059
文章目录1：介绍2：准备2.1 准备虚拟机2.2 修改虚拟机的ip地址 1：介绍 1：本次搭建集群采用异步复制，主备有短暂消息延迟，毫秒级 2：即使磁盘损坏，消息丢失的非常少，且消息实时性不会受影响，因为Master 宕机后，消费者仍然可以从 Slave消费，此过程对应用透明。不需要人工干预。 3：Master 宕机，磁盘损坏情况，会丢失少量消息。这个是 rocket 3.5 之前都存在的，3.6之后可以支持主备切换，这个我们下次搭建。 2：准备 准备了 4台虚拟机，IP 地址准备设置成 192.168.1
RocketMQ双主双从搭建
认知 行动 坚持
01-08 826
runbroker.sh,runserver.sh启动参数默认对jvm的堆内存设置比较大(不改启动不起来)，如果是虚拟机非线上环境需要改下参数，大小可以根据自己机器来决定。因为rocketmq是java开发的，所以通过jps命令查看namesrv有没有启动，当然通过日志文件也可以，namesrv正常启动之后，后续再分别启动Broker。#替换*.xml文件中的{user.home}为自己指定的目录。#设置 rocketmq 环境变量。另外一台机器也是这样配置。#设置jdk环境变量。4、修改日志配置文件。
RocketMQ双主双从环境搭建
weixin_39710170的博客
05-10 1385
这样当需要增加topic时就需要在web管理界面上#添加即可。#设置broker节点所在服务器的ip地址（**这个非常重要,主从模式下，从节点会根据主节点的brokerIP2来同步数据，#如果不配置，主从无法同步，brokerIP1设置为自己外网能访问的ip，服务器双网卡情况下必须配置，比如阿里云这$种，#主节点需要配置ip1和ip2，从节点只需要配置ip1即可）mkdir /data/public/rocketmq/slave/store/consumequeue:类似于数据库索引的文件结构，
rocketmq双主双从部署+dashbord
Grey_fantasy的博客
01-19 706
rocketmq双主双从部署+dashbord
4.2 RocketMQ (二) 双主双从同步复制集群方案
蟑螂恶霸的博客
09-21 258
在两台服务器上分别查看java进程，确认两台服务器上是否各启动了三个java进程，分别运行。在一台服务器上启动两个 broker 实例，需要为不同实例设置单独的数据存储目录。，它们不用做任何集群的配置，都是作为独立服务运行，它们之间也不会进行数据复制。，在两台虚拟机上安装 Rocketmq。或在一台虚拟机上装好后进行克隆。为了方便起见，我们在两台服务器上都创建这四个实例所需要的的目录。目录下提供了四种集群方案的配置样例。服务启动后，要同时连接这两个。在两台服务器上启动两个。在两台服务器上都启动。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值