完全经过实践的rocketmq5版本集群搭建教程
Apache RocketMQ5.x 双主双从异步刷盘集群部署
参考网上rocketmq5的集群部署资料较少,于是准备自己搭建一套rocketmq集群,并记录完整过程
环境:rocketmq5.2、两台服务器、jdk21、centos7
快速部署一个2m-2s-async集群:2主2从异步刷盘,吞吐量较大
目录
参考官方文档:
部署
每台服务器分别是一个namesrv节点、brokermaster节点和brokerslave节点,共两台机器
以下操作两台机器都需要执行:
下载
下载rocketmq
解压到/usr/local目录
unzip rocketmq-all-5.2.0-bin-release.zip
将目录改名为rocketmq
mv rocketmq-all-5.2.0-bin-release rocketmq
目录结构如下
hosts
#编辑hosts文件 vim /etc/hosts
192.168.31.11 rocketmq-nameserver1
192.168.31.12 rocketmq-nameserver2
# broker
192.168.31.11 rocketmq-master1
192.168.31.11 rocketmq-slave2
192.168.31.12 rocketmq-master2
192.168.31.12 rocketmq-slave1
systemctl restart network
防火墙
# 查看防火墙的状态
firewall-cmd --state
# 关闭防火墙
systemctl stop firewalld.service
# 禁止firewall开机启动
systemctl disable firewalld.service
#开放端口号
#nameserver:默认使用 9876 端口
#master:默认使用 10911 端口
#slave:默认使用 11011 端口
# 开放nameserver默认端口
firewall-cmd --remove-port=9876/tcp --permanent
# 开放master默认端口
firewall-cmd --remove-port=10911/tcp --permanent
# 开放slave默认端口 (当前集群模式可不开启)
firewall-cmd --remove-port=11011/tcp --permanent
# 重启防火墙
firewall-cmd --reload
或直接关闭
环境变量
# 编辑profile文件
vim /etc/profile
# 配置
# RocketMQ Config
ROCKETMQ_HOME=/usr/local/rocketmq
PATH=$PATH:$ROCKETMQ_HOME/bin
export ROCKETMQ_HOME PATH
# 生效配置
source /etc/profile
消息存储路径
经实践A机器中的Master1和Slave2不能使用相同的路径。同理,B机器中的Master2与Slave1也就不能相同,否则会报错
mkdir /usr/local/rocketmq/store
mkdir /usr/local/rocketmq/store/commitlog
mkdir /usr/local/rocketmq/store/consumequeue
mkdir /usr/local/rocketmq/store/index
mkdir /usr/local/rocketmq/store_s
mkdir /usr/local/rocketmq/store_s/commitlog
mkdir /usr/local/rocketmq/store_s/consumequeue
mkdir /usr/local/rocketmq/store_s/index
broker
修改配置文件,master1和slave2两个节点和master2、slave1两个节点在两台机器,所以配置的时候需要注意名称和路径
master1
# 服务器:【192.168.31.11】
vim /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties
# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
# 0 表示 Master,>0 表示 Slave
brokerId=0
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=10911
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=ASYNC_MASTER
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128
slave2
vim /usr/local/rocketmq/conf/2m-2s-async/broker-b-s.properties
# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
# 0 表示 Master,>0 表示 Slave
brokerId=1
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=11011
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store-s
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store-s/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store-s/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store-s/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store-s/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store-s/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=SLAVE
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128
master2
另一台机器,目录同样为/usr/local/rocketmq/conf/2m-2s-async
vim /usr/local/rocketmq/conf/2m-2s-async/broker-b.properties
# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
# 0 表示 Master,>0 表示 Slave
brokerId=0
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=10911
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=ASYNC_MASTER
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128
slave1
vim /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties
# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
# 0 表示 Master,>0 表示 Slave
brokerId=1
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=11011
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store-s
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store-s/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store-s/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store-s/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store-s/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store-s/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=SLAVE
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128
proxy
rocketmq需要配置proxy,用于将存储与计算分离,在配置客户端endpoints的时候也需要配置为proxy的地址,而不是nameserver的9876端口
两台机器做相同改动,然后指定配置文件启动proxy
#目录:conf/rmq-proxy.json
{
#名称与broker配置文件的集群名称相同
"rocketMQClusterName": "rocketmq-cluster",
"remotingListenPort":28080,
"grpcServerPort":28081
}
修改启动脚本(jvm内存)
修改runbroker.sh指定jvm大小,将JAVA_OPT参数改为适当的数值
# 编辑runbroker.sh
vim /usr/local/rocketmq/bin/runbroker.sh
# 配置信息如下:需要根据内存大小进行适当的对JVM参数进行调整
# 开发环境配置 JVM Configuration
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
runserver.sh
# 编辑runserver.sh
vim /usr/local/rocketmq/bin/runserver.sh
# 配置信息如下:需要根据内存大小进行适当的对JVM参数进行调整
# 开发环境配置 JVM Configuration
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
启动
启动脚本
192.168.31.11:
#!/bin/bash
ROCKETMQ_DIR=/usr/local/rocketmq
CONFIG_DIR=$ROCKETMQ_DIR/conf/2m-2s-async
NAMESRV_ADDRESSES="192.168.31.11:9876;192.168.31.12:9876"
nohup sh $ROCKETMQ_DIR/bin/mqnamesrv > "/usr/local/rocketmq/logs/mqnamesrv.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker -c $CONFIG_DIR/broker-a.properties > "/usr/local/rocketmq/logs/mqbroker.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker -c $CONFIG_DIR/broker-b-s.properties > "/usr/local/rocketmq/logs/mqbroker-s.log" 2>&1 &
sleep 5
nohup sh "${ROCKETMQ_DIR}/bin/mqproxy" -n "${NAMESRV_ADDRESSES}" -pc "${ROCKETMQ_DIR}/conf/rmq-proxy.json" > "${ROCKETMQ_DIR}/logs/mqproxy.log" 2>&1 &
192.168.31.12
#!/bin/bash
ROCKETMQ_DIR=/usr/local/rocketmq
CONFIG_DIR=$ROCKETMQ_DIR/conf/2m-2s-async
NAMESRV_ADDRESSES="192.168.31.11:9876;192.168.31.12:9876"
nohup sh $ROCKETMQ_DIR/bin/mqnamesrv > "/usr/local/rocketmq/logs/mqnamesrv.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker -c $CONFIG_DIR/broker-a-s.properties > "/usr/local/rocketmq/logs/mqbroker.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker -c $CONFIG_DIR/broker-b.properties > "/usr/local/rocketmq/logs/mqbroker-s.log" 2>&1 &
sleep 5
nohup sh "${ROCKETMQ_DIR}/bin/mqproxy" -n "${NAMESRV_ADDRESSES}" -pc "${ROCKETMQ_DIR}/conf/rmq-proxy.json" > "${ROCKETMQ_DIR}/logs/mqproxy.log" 2>&1 &
关闭
//关闭NameServer
sh bin/mqshutdown namesrv
//关闭Broker
sh bin/mqshutdown broker
日志
# 查看nameServer日志
tail -500f ~/logs/rocketmqlogs/namesrv.log
# 查看broker日志
tail -500f ~/logs/rocketmqlogs/broker.log
topic
topic我此处用到的是延迟队列,于是手动创建
创建延迟topic,需要指定topic类型为DELAY
sh ./mqadmin updateTopic -n 192.168.31.11:9876 -t vast-delay -c rocketmq-cluster -a +message.type=DELAY
官方文档:topic类型
# default
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster
# normal topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=NORMAL
# fifo topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=FIFO
# delay topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=DELAY
# transaction topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=TRANSACTION
创建完成日志:
create topic to 192.168.31.12:10911 success.
create topic to 192.168.31.11:10911 success.
TopicConfig [topicName=vast-delay, readQueueNums=8, writeQueueNums=8, perm=RW-, topicFilterType=SINGLE_TAG, topicSysFlag=0, order=false, attributes={+message.type=DELAY}]
控制台
创建控制台dashboard,这里我直接用docker创建,访问192.168.31.11:8080即可
docker run -d --name rocketmq-dashboard -e "JAVA_OPTS=-Drocketmq.namesrv.addr=192.168.31.11:9876" -p 8080:8080 -t apacherocketmq/rocketmq-dashboard:latest
问题
如果你的jdk版本大于15需要从启动脚本里删除jvm的偏向锁配置,否则报错
服务器jdk版本21
-XX:-UseBiasedLocking
是一个 Java 虚拟机(JVM)启动参数,用于控制 JVM 中偏向锁(Biased Locking)的启用或禁用。偏向锁是一种加速对象锁定的机制,它假设在大多数情况下,锁定是无竞争的,因此通过偏向第一个获取它的线程来减少锁的开销。当启用偏向锁时,如果一个线程获得了锁,JVM 会尽量避免在该线程再次请求锁时进行全面的同步。
-XX:-UseBiasedLocking
中的-
符号表示禁用偏向锁。相反,如果你想显式启用偏向锁,可以使用-XX:+UseBiasedLocking
。
在较新的 Java 版本中,特别是从 JDK 15 开始,偏向锁的默认设置已经发生变化。JEP 374: Biased Locking的禁用和废弃在 JDK 15 中标记了偏向锁的禁用。这意味着从 JDK 15 开始,-XX:+UseBiasedLocking
和 -XX:-UseBiasedLocking
参数的行为与以前版本不同,因为默认情况下不再启用偏向锁。
jdk21已经不再有该参数
所以rocketmq的启动配置的JAVA_OPT里需要删除,否则会参数无效的错误
集群搭建完毕
关于controller的部署模式有机会研究一下,一起探讨