详细!完全经过实践的rocketmq5集群搭建教程,两主两从5.2proxy版本部署

完全经过实践的rocketmq5版本集群搭建教程

Apache RocketMQ5.x 双主双从异步刷盘集群部署

参考网上rocketmq5的集群部署资料较少,于是准备自己搭建一套rocketmq集群,并记录完整过程

环境:rocketmq5.2、两台服务器、jdk21、centos7

快速部署一个2m-2s-async集群:2主2从异步刷盘,吞吐量较大

目录

部署

下载

hosts

防火墙

环境变量

消息存储路径

broker

master1

slave2

master2

slave1

proxy

修改启动脚本(jvm内存)

启动

日志

topic

控制台

问题


参考官方文档:

rocketmq.apache.org

部署

每台服务器分别是一个namesrv节点、brokermaster节点和brokerslave节点,共两台机器

以下操作两台机器都需要执行:

下载

下载rocketmq

官网地址

解压到/usr/local目录

unzip rocketmq-all-5.2.0-bin-release.zip

将目录改名为rocketmq

mv rocketmq-all-5.2.0-bin-release rocketmq

目录结构如下

hosts

#编辑hosts文件  vim /etc/hosts

192.168.31.11 rocketmq-nameserver1
192.168.31.12 rocketmq-nameserver2

# broker
192.168.31.11 rocketmq-master1
192.168.31.11 rocketmq-slave2
192.168.31.12 rocketmq-master2
192.168.31.12 rocketmq-slave1

systemctl restart network

防火墙

# 查看防火墙的状态
firewall-cmd --state 
# 关闭防火墙
systemctl stop firewalld.service 
# 禁止firewall开机启动
systemctl disable firewalld.service

#开放端口号
#nameserver:默认使用 9876 端口
#master:默认使用 10911 端口
#slave:默认使用 11011 端口
# 开放nameserver默认端口
firewall-cmd --remove-port=9876/tcp --permanent
# 开放master默认端口
firewall-cmd --remove-port=10911/tcp --permanent
# 开放slave默认端口 (当前集群模式可不开启)
firewall-cmd --remove-port=11011/tcp --permanent 
# 重启防火墙
firewall-cmd --reload

或直接关闭

环境变量

# 编辑profile文件
vim /etc/profile

# 配置
# RocketMQ Config
ROCKETMQ_HOME=/usr/local/rocketmq
PATH=$PATH:$ROCKETMQ_HOME/bin
export ROCKETMQ_HOME PATH

# 生效配置
source /etc/profile

消息存储路径

经实践A机器中的Master1和Slave2不能使用相同的路径。同理,B机器中的Master2与Slave1也就不能相同,否则会报错

mkdir /usr/local/rocketmq/store
mkdir /usr/local/rocketmq/store/commitlog
mkdir /usr/local/rocketmq/store/consumequeue
mkdir /usr/local/rocketmq/store/index

mkdir /usr/local/rocketmq/store_s
mkdir /usr/local/rocketmq/store_s/commitlog
mkdir /usr/local/rocketmq/store_s/consumequeue
mkdir /usr/local/rocketmq/store_s/index

broker

修改配置文件,master1和slave2两个节点和master2、slave1两个节点在两台机器,所以配置的时候需要注意名称和路径

master1

# 服务器:【192.168.31.11】
vim /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties

# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
# 0 表示 Master,>0 表示 Slave
brokerId=0
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=10911
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=ASYNC_MASTER
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128

slave2

vim /usr/local/rocketmq/conf/2m-2s-async/broker-b-s.properties


# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
# 0 表示 Master,>0 表示 Slave
brokerId=1
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=11011
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store-s
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store-s/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store-s/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store-s/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store-s/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store-s/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=SLAVE
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128

master2

另一台机器,目录同样为/usr/local/rocketmq/conf/2m-2s-async

vim /usr/local/rocketmq/conf/2m-2s-async/broker-b.properties

# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
# 0 表示 Master,>0 表示 Slave
brokerId=0
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=10911
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=ASYNC_MASTER
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128

slave1

vim /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties


# 配置信息如下:
# 所属集群名字
brokerClusterName=rocketmq-cluster
# broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
# 0 表示 Master,>0 表示 Slave
brokerId=1
# nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
# 在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
# 是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
# 是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
# Broker 对外服务的监听端口
listenPort=11011
# 删除文件时间点,默认凌晨 4点
deleteWhen=04
# 文件保留时间,默认 48 小时
fileReservedTime=120
# commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
# ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
# destroyMapedFileIntervalForcibly=120000
# redeleteHangedFileInterval=120000
# 检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
# 存储路径
storePathRootDir=/usr/local/rocketmq/store-s
# commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store-s/commitlog
# 消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store-s/consumequeue
# 消息索引存储路径
storePathIndex=/usr/local/rocketmq/store-s/index
# checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store-s/checkpoint
# abort 文件存储路径
abortFile=/usr/local/rocketmq/store-s/abort
# 限制的消息大小
maxMessageSize=65536
# flushCommitLogLeastPages=4
# flushConsumeQueueLeastPages=2
# flushCommitLogThoroughInterval=10000
# flushConsumeQueueThoroughInterval=60000
# Broker 的角色
# - ASYNC_MASTER 异步复制Master
# - SYNC_MASTER 同步双写Master
# - SLAVE
brokerRole=SLAVE
# 刷盘方式
# - ASYNC_FLUSH 异步刷盘
# - SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
# checkTransactionMessageEnable=false
# 发消息线程池数量
# sendMessageThreadPoolNums=128
# 拉消息线程池数量
# pullMessageThreadPoolNums=128

proxy

rocketmq需要配置proxy,用于将存储与计算分离,在配置客户端endpoints的时候也需要配置为proxy的地址,而不是nameserver的9876端口

两台机器做相同改动,然后指定配置文件启动proxy

#目录:conf/rmq-proxy.json

{
  #名称与broker配置文件的集群名称相同
  "rocketMQClusterName": "rocketmq-cluster",
  "remotingListenPort":28080,
  "grpcServerPort":28081
}

修改启动脚本(jvm内存)

修改runbroker.sh指定jvm大小,将JAVA_OPT参数改为适当的数值

# 编辑runbroker.sh
vim /usr/local/rocketmq/bin/runbroker.sh

# 配置信息如下:需要根据内存大小进行适当的对JVM参数进行调整
# 开发环境配置 JVM Configuration
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

runserver.sh

# 编辑runserver.sh
vim /usr/local/rocketmq/bin/runserver.sh

# 配置信息如下:需要根据内存大小进行适当的对JVM参数进行调整
# 开发环境配置 JVM Configuration
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

启动

启动脚本

192.168.31.11:

#!/bin/bash
ROCKETMQ_DIR=/usr/local/rocketmq
CONFIG_DIR=$ROCKETMQ_DIR/conf/2m-2s-async
NAMESRV_ADDRESSES="192.168.31.11:9876;192.168.31.12:9876"

nohup sh $ROCKETMQ_DIR/bin/mqnamesrv > "/usr/local/rocketmq/logs/mqnamesrv.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker  -c $CONFIG_DIR/broker-a.properties > "/usr/local/rocketmq/logs/mqbroker.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker  -c $CONFIG_DIR/broker-b-s.properties > "/usr/local/rocketmq/logs/mqbroker-s.log" 2>&1 &
sleep 5
nohup sh "${ROCKETMQ_DIR}/bin/mqproxy" -n "${NAMESRV_ADDRESSES}" -pc "${ROCKETMQ_DIR}/conf/rmq-proxy.json" > "${ROCKETMQ_DIR}/logs/mqproxy.log" 2>&1 &

192.168.31.12

#!/bin/bash
ROCKETMQ_DIR=/usr/local/rocketmq
CONFIG_DIR=$ROCKETMQ_DIR/conf/2m-2s-async
NAMESRV_ADDRESSES="192.168.31.11:9876;192.168.31.12:9876"


nohup sh $ROCKETMQ_DIR/bin/mqnamesrv > "/usr/local/rocketmq/logs/mqnamesrv.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker  -c $CONFIG_DIR/broker-a-s.properties > "/usr/local/rocketmq/logs/mqbroker.log" 2>&1 &
sleep 5
nohup sh $ROCKETMQ_DIR/bin/mqbroker  -c $CONFIG_DIR/broker-b.properties > "/usr/local/rocketmq/logs/mqbroker-s.log" 2>&1 &
sleep 5
nohup sh "${ROCKETMQ_DIR}/bin/mqproxy" -n "${NAMESRV_ADDRESSES}" -pc "${ROCKETMQ_DIR}/conf/rmq-proxy.json" > "${ROCKETMQ_DIR}/logs/mqproxy.log" 2>&1 &

关闭

//关闭NameServer
sh bin/mqshutdown namesrv 

 //关闭Broker
sh bin/mqshutdown broker

日志

# 查看nameServer日志
tail -500f ~/logs/rocketmqlogs/namesrv.log
# 查看broker日志
tail -500f ~/logs/rocketmqlogs/broker.log

topic

topic我此处用到的是延迟队列,于是手动创建

创建延迟topic,需要指定topic类型为DELAY

sh ./mqadmin updateTopic -n 192.168.31.11:9876 -t vast-delay -c rocketmq-cluster -a +message.type=DELAY
官方文档:topic类型
# default
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster

# normal topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=NORMAL

# fifo topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=FIFO

# delay topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=DELAY

# transaction topic
sh ./mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c DefaultCluster -a +message.type=TRANSACTION

创建完成日志:

create topic to 192.168.31.12:10911 success.
create topic to 192.168.31.11:10911 success.
TopicConfig [topicName=vast-delay, readQueueNums=8, writeQueueNums=8, perm=RW-, topicFilterType=SINGLE_TAG, topicSysFlag=0, order=false, attributes={+message.type=DELAY}]

控制台

创建控制台dashboard,这里我直接用docker创建,访问192.168.31.11:8080即可

docker run -d --name rocketmq-dashboard -e "JAVA_OPTS=-Drocketmq.namesrv.addr=192.168.31.11:9876" -p 8080:8080 -t apacherocketmq/rocketmq-dashboard:latest

问题

如果你的jdk版本大于15需要从启动脚本里删除jvm的偏向锁配置,否则报错

服务器jdk版本21

-XX:-UseBiasedLocking 是一个 Java 虚拟机(JVM)启动参数,用于控制 JVM 中偏向锁(Biased Locking)的启用或禁用。偏向锁是一种加速对象锁定的机制,它假设在大多数情况下,锁定是无竞争的,因此通过偏向第一个获取它的线程来减少锁的开销。当启用偏向锁时,如果一个线程获得了锁,JVM 会尽量避免在该线程再次请求锁时进行全面的同步。

  • -XX:-UseBiasedLocking 中的 - 符号表示禁用偏向锁。相反,如果你想显式启用偏向锁,可以使用 -XX:+UseBiasedLocking

在较新的 Java 版本中,特别是从 JDK 15 开始,偏向锁的默认设置已经发生变化。JEP 374: Biased Locking的禁用和废弃在 JDK 15 中标记了偏向锁的禁用。这意味着从 JDK 15 开始,-XX:+UseBiasedLocking-XX:-UseBiasedLocking 参数的行为与以前版本不同,因为默认情况下不再启用偏向锁。

jdk21已经不再有该参数

所以rocketmq的启动配置的JAVA_OPT里需要删除,否则会参数无效的错误

集群搭建完毕

关于controller的部署模式有机会研究一下,一起探讨

  • 14
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 5
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值