文章目录
单机部署RocketMQ
新建CentOS7.9虚拟机
设置主机名为worker1
hostnamectl set-hostname worker1
hostname #查看主机名
配置IP
ifconfig eth0 #查看IP
nmcli connection modify eth0 ipv4.method manual ipv4.addresses 192.168.8.181/24 ipv4.gateway 192.168.8.254 ipv4.dns 8.8.8.8 connection.autoconnect yes
编辑host文件
vim /etc/hosts
编辑内容如下
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.8.181 worker1
192.168.8.182 worker2
192.168.8.183 worker3
安装JDK
创建app文件夹,再创建jdk文件夹,将jdk包上传到/app/jdk目录下后解压
mkdir -p /app/jdk
cd /app/jdk
tar -zxvf jdk-8u171-linux-x64.tar.gz
配置jdk环境变量
vim /etc/profile
文件末尾添加如下内容
环境变量生效,显示jdk版本
source /etc/profile
java -version
安装RocketMQ
NameServer服务搭建
在app目录下创建rocketMQ,将RocketMQ包上传到/app/rocketMQ目录后解压
mkdir -p /app/rocketMQ
cd /app/rocketMQ
unzip rocketmq-all-5.1.0-bin-release.zip
配置RocketMQ环境变量
vim /etc/profile
文件末尾添加如下内容
环境变量生效
source /etc/profile
修改NameServer启动配置
cd /app/rocketMQ/rocketmq-all-5.1.0-bin-release/bin
vim runserver.sh
将JAVA_OPT="${JAVA_OPT} -server -Xms4g -Xmx4g -Xmn2g -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"改为JAVA_OPT="${JAVA_OPT} -server -Xms512m -Xmx512m -Xmn256m
启动NameServer,查看是否启动成功
nohup ./mqnamesrv & #启动
tail -f nohup.out #查看日志
jps
Broker服务搭建
修改broker启动脚本配置
vim runbroker.sh
将JAVA_OPT="${JAVA_OPT} -server -Xms8g -Xmx8g"改为JAVA_OPT="${JAVA_OPT} -server -Xms512m -Xmx512m"
修改broker配置文件,文件末添加如下内容
cd ../conf/
vim broker.conf
#允许自动创建topic
autoCreateTopicEnable=true
#添加nameserver地址
namesrvAddr=localhost:9876
启动broker
cd ../bin
nohup ./mqbroker -c ../conf/broker.conf & #启动broker
tail -f nohup.out #查看日志
RocketMQ消息发送与消费
在bin目录下执行以下命令测试消息发送
cd /app/rocketMQ/rocketmq-all-5.1.0-bin-release/bin
export NAMESRV_ADDR='localhost:9876'
./tools.sh org.apache.rocketmq.example.quickstart.Producer
执行以下命令测试消息接收
export NAMESRV_ADDR='localhost:9876'
./tools.sh org.apache.rocketmq.example.quickstart.Consumer
关闭RocketMQ服务
在bin目录下执行以下脚本关闭服务
关闭broker
sh ./mqshutdown broker
关闭NameServer
sh ./mqshutdown namesrv
部署RocketMQ集群
通过已经配置好的虚拟机克隆出另外两台机器
系统配置
worker2设置主机名配置IP
hostnamectl set-hostname worker2
nmcli connection modify eth0 ipv4.method manual ipv4.addresses 192.168.8.182/24 ipv4.gateway 192.168.8.254 ipv4.dns 8.8.8.8 connection.autoconnect yes
worker3设置主机名配置IP
hostnamectl set-hostname worker3
nmcli connection modify eth0 ipv4.method manual ipv4.addresses 192.168.8.183/24 ipv4.gateway 192.168.8.254 ipv4.dns 8.8.8.8 connection.autoconnect yes
三台虚拟机全部生成秘钥,并发送给其他机器,实现SSH免密登录
ssh-keygen
ssh-copy-id worker1
ssh-copy-id worker2
ssh-copy-id worker3
关闭防火墙
firewall-cmd --state #检查防火墙状态
systemctl stop firewalld #停止防火墙
systemctl disable firewalld #禁用防火墙
配置RocketMQ主从集群
使用conf/2m-2s-async下的配置文件搭建一个2主2从异步刷盘的集群。设计的集群情况如下:
机器名 | NameServer节点部署 | Broker节点部署 |
---|---|---|
worker1 | nameserver | |
worker2 | nameserver | broker-a,broker-b-s |
worker3 | nameserver | broker-b,broker-a-s |
在worker2中进入conf/2m-2s-async下,vim broker-a.properties,内容如下
#所属集群名字,名字一样的节点就在同一个集群内
brokerClusterName=DefaultCluster
#broker名字,名字一样的节点就是一组主从节点
brokerName=broker-a
#brokerid,0就表示是Master,>0的都是表示Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=worker1:9876;worker2:9876;worker3:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许Broker自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许Broker自动创建订阅组,建议线下开启,线上关闭autoCreateSubscriptionGroup=true
#Broker对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨4点
deleteWhen=04
#文件保留时间,默认48小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/app/rocketMQ/store
#commitLog存储路径
storePathCommitLog=/app/rocketMQ/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/app/rocketMQ/store/consumequeue
#消息索引存储路径
storePathIndex=/app/rocketMQ/store/index
#checkpoint文件存储路径
storeCheckpoint=/app/rocketMQ/store/checkpoint
#abort文件存储路径
abortFile=/app/rocketMQ/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker的角色
#-ASYNC MASTER异步复制Master
#-SYNC MASTER同步双写Master
#-SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#-ASYNC FLUSH异步刷盘
#-SYNC FLUSH同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
#开启sql过滤
enablePropertyFilter=true
#重试支持过滤
filterSupportRetry=true
在worker2中进入conf/2m-2s-async下,vim broker-b-s.properties,内容如下
#所属集群名字,名字一样的节点就在同一个集群内
brokerClusterName=DefaultCluster
#broker名字,名字一样的节点就是一组主从节点
brokerName=broker-b
#brokerid,0就表示是Master,>0的都是表示Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=worker1:9876;worker2:9876;worker3:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许Broker自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许Broker自动创建订阅组,建议线下开启,线上关闭autoCreateSubscriptionGroup=true
#Broker对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨4点
deleteWhen=04
#文件保留时间,默认48小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/app/rocketMQ/storeSlave
#commitLog存储路径
storePathCommitLog=/app/rocketMQ/storeSlave/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/app/rocketMQ/storeSlave/consumequeue
#消息索引存储路径
storePathIndex=/app/rocketMQ/storeSlave/index
#checkpoint文件存储路径
storeCheckpoint=/app/rocketMQ/storeSlave/checkpoint
#abort文件存储路径
abortFile=/app/rocketMQ/storeSlave/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker的角色
#-ASYNC_MASTER异步复制Master
#-SYNC_MASTER同步双写Master
#-SLAVE
brokerRole=SLAVE
#刷盘方式
#-ASYNC FLUSH异步刷盘
#-SYNC FLUSH同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
#开启sql过滤
enablePropertyFilter=true
#重试支持过滤
filterSupportRetry=true
在worker3中进入conf/2m-2s-async下,vim broker-b.properties,内容如下
#所属集群名字,名字一样的节点就在同一个集群内
brokerClusterName=DefaultCluster
#broker名字,名字一样的节点就是一组主从节点
brokerName=broker-b
#brokerid,0就表示是Master,>0的都是表示Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=worker1:9876;worker2:9876;worker3:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许Broker自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许Broker自动创建订阅组,建议线下开启,线上关闭autoCreateSubscriptionGroup=true
#Broker对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨4点
deleteWhen=04
#文件保留时间,默认48小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/app/rocketMQ/store
#commitLog存储路径
storePathCommitLog=/app/rocketMQ/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/app/rocketMQ/store/consumequeue
#消息索引存储路径
storePathIndex=/app/rocketMQ/store/index
#checkpoint文件存储路径
storeCheckpoint=/app/rocketMQ/store/checkpoint
#abort文件存储路径
abortFile=/app/rocketMQ/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker的角色
#-ASYNC MASTER异步复制Master
#-SYNC MASTER同步双写Master
#-SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#-ASYNC FLUSH异步刷盘
#-SYNC FLUSH同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
#开启sql过滤
enablePropertyFilter=true
#重试支持过滤
filterSupportRetry=true
在worker3中进入conf/2m-2s-async下,vim broker-a-s.properties,内容如下
#所属集群名字,名字一样的节点就在同一个集群内
brokerClusterName=DefaultCluster
#broker名字,名字一样的节点就是一组主从节点
brokerName=broker-a
#brokerid,0就表示是Master,>0的都是表示Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=worker1:9876;worker2:9876;worker3:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许Broker自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许Broker自动创建订阅组,建议线下开启,线上关闭autoCreateSubscriptionGroup=true
#Broker对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨4点
deleteWhen=04
#文件保留时间,默认48小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/app/rocketMQ/storeSlave
#commitLog存储路径
storePathCommitLog=/app/rocketMQ/storeSlave/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/app/rocketMQ/storeSlave/consumequeue
#消息索引存储路径
storePathIndex=/app/rocketMQ/storeSlave/index
#checkpoint文件存储路径
storeCheckpoint=/app/rocketMQ/storeSlave/checkpoint
#abort文件存储路径
abortFile=/app/rocketMQ/storeSlave/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker的角色
#-ASYNC_MASTER异步复制Master
#-SYNC_MASTER同步双写Master
#-SLAVE
brokerRole=SLAVE
#刷盘方式
#-ASYNC FLUSH异步刷盘
#-SYNC FLUSH同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
#开启sql过滤
enablePropertyFilter=true
#重试支持过滤
filterSupportRetry=true
启动集群
启动worker1、worker2、worker3的NameServer
cd /app/rocketMQ/rocketmq-all-5.1.0-bin-release/bin
nohup ./mqnamesrv &
worker2上启动broker-a节点与broker-b-s节点
nohup ./mqbroker -c ../conf/2m-2s-async/broker-a.properties &
nohup ./mqbroker -c ../conf/2m-2s-async/broker-b-s.properties &
tail -f nohup.out
tail -f ~/logs/rocketmqlogs/namesrv.log
worker3上启动broker-b节点与broker-a-s节点
nohup ./mqbroker -c ../conf/2m-2s-async/broker-b.properties &
nohup ./mqbroker -c ../conf/2m-2s-async/broker-a-s.properties &
tail -f nohup.out
tail -f ~/logs/rocketmqlogs/namesrv.log
测试消息收发
worker2发送消息
./tools.sh org.apache.rocketmq.example.quickstart.Producer
worker3接收消息
./tools.sh org.apache.rocketmq.example.quickstart.Consumer
安装rocketmq-dashboard
在worker1安装maven
mkdir -p /app/maven
cd /app/maven
tar -zxvf jdk-8u171-linux-x64.tar.gz
mkdir repository
配置环境变量,在文件末尾添加如下内容
vim /etc/profile
source /etc/profile
mnv -v
修改maven仓库配置
cd /app/maven/apache-maven-3.9.1/conf
vim settings.xml
编辑内容如下
<?xml version="1.0" encoding="UTF-8"?>
<settings xmlns="http://maven.apache.org/SETTINGS/1.2.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.2.0 http://maven.apache.org/xsd/settings-1.2.0.xsd">
<localRepository>/app/maven/repository</localRepository>
</servers>
<mirrors>
<mirror>
<id>alimaven</id>
<name>ali maven</name>
<mirrorOf>*</mirrorOf>
<url>https://maven.aliyun.com/repository/public/</url>
</mirror>
</mirrors>
</settings>
安装dashboard
mkdir -p /app/dashboard
cd /app/dashboard
unzip rocketmg-dashboard-rocketmg-dashboard-1.0.0.zip
编译dashboard
cd /app/dashboard/rocketmq-dashboard-rocketmq-dashboard-1.0.0
mvn clean package -Dmaven.test.skip=true
#打包失败可以使用以下命令,清除编译结果,重新打包。(编译成功无需使用)
mvn clean install -U -Dmaven.test.skip=true
启动dashboard
#进入到target目录
cd target/
nohup java -jar rocketmg-dashboard-1.0.0.jar &
tail -f nohup.out
启动成功后访问http://192.168.8.181:8080/#/ 到dashboard界面
RocketMQ集群部署完成