文章目录
目录
RocketMQ 单Master搭建
RocketMQ 双主双从高可用部署
00:41:37
RocketMQ - 主从模式集群环境构建与测试
- 主从模式环境构建可以保障消息的即时性与可靠性
- 投递一条消息后,关闭主节点
- 从节点继续可以提供消费者进行消费,但是不能接收消息
- 主节点上线后, 进行消费进度 offset 同步
终端操作
关闭服务
- 启动的时候,先 namesrv 后 broker
- 关闭的时候,先 broker 后 namesrv
这个顺序不能搞混了,不然会出现服务器启动不了或者数据没了。
[eddie@tracker rocketmq]# cd /usr/local/rocketmq/bin/
[eddie@tracker bin]# sh mqshutdown broker
The mqbroker(22683) is running...
Send shutdown request to mqbroker(22683) OK
[eddie@tracker bin]# sh mqshutdown namesrv
The mqnamesrv(22657) is running...
Send shutdown request to mqnamesrv(22657) OK
快速搭建开始
服务器信息
序号 | IP Addr | 说明 | 简称 |
---|---|---|---|
1 | 192.168.8.246 | master1,nameserver1 | a_Server |
2 | 192.168.8.247 | master-slave1,nameserver2 | b_Server |
a_Server 配置 (00:49:43)
vim /etc/hosts
192.168.8.246 rocketmq-master1
192.168.8.246 rocketmq-nameserver1
192.168.8.247 rocketmq-nameserver2
192.168.8.247 rocketmq-master-slave1
发送rocketmq包
[root@tracker bin]# cd /opt/software/
[root@tracker software]# ll
total 11368
-rw-r--r--. 1 root root 11639497 Oct 31 2018 rocketmq-all-4.3.0-bin-release.zip
[root@tracker software]# scp rocketmq-all-4.3.0-bin-release.zip 192.168.8.247:/opt/software/
root@192.168.8.247's password:
rocketmq-all-4.3.0-bin-release.zip 100% 11MB 60.4MB/s 00:00
配置主从文件部分
vim /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker 名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer 地址,分号分割
#namesrvAddr=rocketmq-nameserver1:9876
#namesrvAddr=192.168.8.246:9876;192.168.8.247:9876
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的 topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建 Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4 点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog 每个文件的大小默认 1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue 每个文件默认存 30W 条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
# 多网卡情况下必需指定,不然有可能选择其他网卡导致连接失败
brokerIP1=192.168.8.246
brokerIP2=192.168.8.246
备份 broker-a-s.properties
cd /usr/local/rocketmq/conf/2m-2s-async/
cp broker-a-s.properties broker-a-s.properties.bak
vim /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker 名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer 地址,分号分割
#namesrvAddr=192.168.8.246:9876;192.168.8.247:9876
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的 topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建 Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4 点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog 每个文件的大小默认 1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue 每个文件默认存 30W 条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
# 多网卡情况下必需指定,不然有可能选择其他网卡导致连接失败
brokerIP1=192.168.8.247
brokerName, brokerId, brokerRole, namesrvAddr 四个属性需要修改和注意的
如若集群服务器是多网卡的情况,参考:
RocketMQ中broker配置brokcerIP1和brokerIP2的作用
发送 a_Server_246 的配置文件到 b_Server_247 (是覆盖形式的)
[root@tracker 2m-2s-async]# scp broker-a.properties broker-a-s.properties 192.168.8.247:/usr/local/rocketmq/conf/2m-2s-async/
root@192.168.8.247's password:
broker-a.properties 100% 2247 2.8MB/s 00:00
broker-a-s.properties 100% 2093 3.0MB/s 00:00
b_Server 配置
解压包与软连接
unzip /opt/software/rocketmq-all-4.3.0-bin-release.zip && mv rocketmq-all-4.3.0-bin-release /usr/local/apache-rocketmq
ln -s /usr/local/apache-rocketmq /usr/local/rocketmq
创建文件夹
mkdir -p /usr/local/rocketmq/store
mkdir -p /usr/local/rocketmq/store/commitlog
mkdir -p /usr/local/rocketmq/store/consumequeue
mkdir -p /usr/local/rocketmq/store/index
mkdir -p /usr/local/rocketmq/logs
替换日志文件路径
cd /usr/local/rocketmq/conf && sed -i 's#${user.home}#/usr/local/rocketmq#g' *.xml
修改启动脚本的JVM内存(最低配)
vim /usr/local/rocketmq/bin/runbroker.sh
JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn1g"
JAVA_OPT="${JAVA_OPT} -XX:MaxDirectMemorySize=2g"
vim /usr/local/rocketmq/bin/runserver.sh
JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn1g -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
分别启动两台服务器的namesrv和broker
192.168.8.246 (a_Server)
nohup sh mqnamesrv &
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties >/dev/null 2>&1 &
192.168.8.247 (b_Server)
nohup sh mqnamesrv &
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties >/dev/null 2>&1 &
rocketmq-console-ng 配置集群模式
docker run -e "JAVA_OPTS=-Drocketmq.namesrv.addr=192.168.8.246:9876;192.168.8.247:9876 -Dcom.rocketmq.sendMessageWithVIPChannel=false" -p 8080:8080 --name=rocketmq-cluster -t styletang/rocketmq-console-ng