centos7.9安装rocketmq5.1.3&服务、集群搭建

1、RocketMQ安装

1.1、使用scp命令上传安装包到centos

Administrator@CHINAMI-NUB1805 MINGW64 ~/Downloads
$ scp 文件名 用户名@公网地址:目标路径
rocketmq-all-5.1.3-bin-release.zip            100%   55MB   3.8MB/s   00:14
#解压压缩包
[root@hecs-411189 rocketMQ]# unzip rocketmqpwd-all-5.1.3-bin-release.zip

1.2、配置环境变量

#编辑环境变量文件
[root@hecs-411189 rocketmq-all-5.1.3-bin-release]# vi /etc/profile  
#配置内容,注意其中包含了jdk的环境变量

export JAVA_HOME=/usr/app/jdk8/jdk1.8.0_381                                                                                   
                                                                                                                              
PATH=$ROCKETMQ_HOME/bin:$JAVA_HOME/bin:$PATH:$HOME/.local/bin:$HOME/bin                                                       
                                                                                                                              
export ROCKETMQ_HOME=/usr/app/rocketmq/rocketmq-all-5.1.3-bin-release                                                         
#centos7/centos7-1/centos7-2是机器名
export NAMESRV_ADDR='centos7:9876;centos7-1:9876;centos7-2:9876' 
#刷新环境变量
[root@hecs-411189 rocketmq-all-5.1.3-bin-release]# source /etc/profile

2、RocketMQ搭建nameserver服务

        在$ROCKETMQ_HOME/bin目录下有个mqnamesrv,直接执行这个脚本就可以启动RocketMQ的NameServer服务

        由于RocketMQ默认预设JVM内存是4G,这是RocketMQ的最佳配置,但是如果虚拟机或云服务器内存不足,就需要修改JVM内存

2.1、修改jvm内存

[root@hecs-411189 bin]# vi runserver.sh  

 2.2、启动服务

[root@centos7 bin]# nohup ./mqnamesrv &

2.3、查看日志:确认是否正常启动

tail -f nohup.out

        日志中显示boot success成功

3、RocketMQ搭建broker服务

        启动broker的脚本是broker.sh broker的默认预设内存是8G,如果内存不足同样需要调整JVM

3.1、修改jvm内存

[root@hecs-411189 bin]# vi runbroker.sh

3.2、文件路径在conf中 broker.conf

root@hecs-411189 bin]# vi broker.conf
#在文件最后加上这两行代码
autoCreateTopicEnable=true
namesrvAddr=localhost:9876

3.2、启动broker

        进入bin目录启动

#需要手动指定启动文件
[r#oot@hecs-411189 bin]# nohup ./mqbroker -c ../conf/broker.conf & 

3.3、测试rocketmq消息发送

[root@hecs-411189 bin]# export NAMESRV_ADDR='localhost:9876' 
[root@hecs-411189 bin]# ./tools.sh org.apache.rocketmq.example.quickstart.Producer

3.4、测试rocketmq消息消费

        测试消费不会自动退出,需要手动crtl+c退出

[root@hecs-411189 bin]# export NAMESRV_ADDR='localhost:9876' 
[root@hecs-411189 bin]# ./tools.sh org.apache.rocketmq.example.quickstart.Consumer

3.5、关闭broker

[root@hecs-411189 bin]# sh ./mqshutdown broker 

3.6、关闭NameServer

[root@hecs-411189 bin]# sh ./mqshutdown namesrv 

4、RocketMQ集群搭建

        准备三台机器,配置各自的ip地址,机器名(使用vmware克隆centos7虚拟机)

4.1、系统配置

4.1.1、使用vi /etc/host命令,配置机器名,在文件末尾加上以下配置,三台机器相同配置操作

[root@centos7 ~]# vi /etc/hosts
#在三台机器上分别配置上三台机器地址和机器名
192.168.189.131 centos7                                                                                                                               
192.168.189.129 centos7-1                                                                                                                             
192.168.189.130 centos7-2 

        配置完成后使用ping 机器名 命令检查是否成功

4.2.2、服务之间设置免密登录,三个机器相同操作,提示录入直接回车即可

[root@centos7-2 ~]# ssh-keygen

4.2.3、三台机器都是用一下命令分发给其他机器,输入yes,然后输入密码,这样可以直接某个机器使用ssh或者scp到另外的机器

#ssh copy-id 机器名
ssh-copy-id centos7
ssh-copy-id centos7-1
ssh-copy-id centos7-2

 4.2.4、停止并禁用防火墙或删除防火墙

#检查防火墙状态
[root@centos7 .ssh]# firewall-cmd --state                                                                   
#停止并禁用防火墙
[root@centos7 etc]# systemctl stop firewalld                                                               
[root@centos7 etc]# systemctl disable firewalld                                                            
#删除防火墙
yum remove firewalld

4.2、配置RocketMQ主从集群

        使用conf/2m-2s-async下的配置文件搭建一个2主2从的异步刷盘的集群

机器名

nameServer节点部署

broker节点部署

centos7

nameserver

centos7-1

nameserver

broker-a,broker-b-s

centos7-2

nameserver

broker-b,broker-a-s

4.2.1、conf目录下存在三种配置方式

        2m-2s-async:2主2从异步刷盘(吞吐量大,但是消息可能丢失)

        2m-2s-sync:2主2从同步刷盘(吞吐量会下降,但是消息更安全)

        2m-2s-notslve:2主无从(单点故障),然后可以直接配置broker.conf,进行单点环境配置

        dleger是用来实现主从切换的,集群中的节点会基于Raft协议随机选举出一个leader,其他的就是follower,通常正式环境都会采用这种方式搭建集群

4.2.2、搭建2主2从模式,配置2m-2s-async目录Broker文件

#centos7-1/centos7-2(两台从机器)
#进入配置文件目录
[root@centos7 etc]# cd /usr/app/rocketmq/rocketmq-all-5.1.3-bin-release/conf/
[root@centos7 conf]# cd 2m-2s-async 

 4.2.2.1、centos7-1修改broker a节点配置
#centos7-1修改broker a节点配置
[root@centos7 2m-2s-async]# vi broker-a.properties

         注释掉原有配置文件内容,添加如下配置(注意路径)

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割namesrvAddr=主机1名:9876;主机2名:9876;主机3名:9876
#使用主机名配置需要先完成2.1系统配置中的内容,如果没有完成需要将主机名改成对应的ip地址
namesrvAddr=centos7:9876;centos7-1:9876;centos7-2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/app/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/app/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/app/rocketmq/store/comsumequeue
#消息索引存储路径
storePathIndex=/usr/app/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/app/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/app/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
4.2.2.2、centos7-2修改broker b节点配置
#centos7-2修改broker b节点配置
[root@centos7 2m-2s-async]# vi broker-b.properties

         注释掉原有配置文件内容,添加如下配置(注意路径)

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割namesrvAddr=主机1名:9876;主机2名:9876;主机3名:9876
#使用主机名配置需要先完成2.1系统配置中的内容,如果没有完成需要将主机名改成对应的ip地址
namesrvAddr=centos7:9876;centos7-1:9876;centos7-2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/app/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/app/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/app/rocketmq/store/comsumequeue
#消息索引存储路径
storePathIndex=/usr/app/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/app/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/app/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
4.2.2.3、centos7-1修改broker b-s节点配置
#centos7-1修改broker b-s节点配置
[root@centos7 2m-2s-async]# vi broker-b-s.properties

         注释掉原有配置文件内容,添加如下配置(注意路径)

#所属集群名字,集群名字需要保持一直,否则不在同一个集群
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
workererver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/app/rocketmq/storeSlave
#commitLog 存储路径
storePathCommitLog=/usr/app/rocketmq/storeSlave/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/app/rocketmq/storeSlave/consumequeue
#消息索引存储路径
storePathIndex=/usr/app/rocketmq/storeSlave/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/app/rocketmq/storeSlave/checkpoint
#abort 文件存储路径
abortFile=/usr/app/rocketmq/storeSlave/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
4.2.2.4、centos7-2修改broker a-s节点配置
#修改broker a-s节点配置
[root@centos7 2m-2s-async]# vi broker-a-s.properties
#所属集群名字,集群名字需要保持一直,否则不在同一个集群
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/app/rocketmq/storeSlave
#commitLog 存储路径
storePathCommitLog=/usr/app/rocketmq/storeSlave/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/app/rocketmq/storeSlave/consumequeue
#消息索引存储路径
storePathIndex=/usr/app/rocketmq/storeSlave/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/app/rocketmq/storeSlave/checkpoint
#abort 文件存储路径
abortFile=/usr/app/rocketmq/storeSlave/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

        注意:同一机器上的两个实例的store目录不能相同,否则报错Lock failed,MQ already started

                同一机器上两个实例的listenPort也不能相同,否则报错端口被占用

                如果是多网卡的机器,比如云服务器,需要在broker.conf中增加brokerIP1属性,指定所在机器的外网网卡地址

4.2.3、启动集群

安装时在centos7单机部署过,所以相关的jvm参数已经调整过,如果是新配置需要注意jvm实际内存大小分配,其他两个机器是克隆过的,所以也无需再调整,nameServer不需要进行配置,直接启动即可

4.2.3.1、启动三台机器的nameServer
#启动之前使用jps命令查看下环境是否正常,有时候会出现环境变量异常,需要重新使用source ~/.bash_profile命令刷新配置
[root@centos7 bin]# nohup ./mqnamesrv &
#观察日志查看是否启动成功,出现The Name Server boot success. serializeType=JSON, address xxx表示成功
tail -f nohup.out
#也可以使用tail -f -/logs/rocketmqlogs/namesrv.log观察日志
4.2.3.2、启动centos7-1的broker-a节点与broker-b-s节点
nohup ./mqbroker -c /usr/app/rocketmq/rocketmq-all-5.1.3-bin-release/conf/2m-2s-async/broker-a.properties &
nohup ./mqbroker -c /usr/app/rocketmq/rocketmq-all-5.1.3-bin-release/conf/2m-2s-async/broker-b-s.properties &
4.2.3.3、启动centos7-2的broker-b节点与broker-a-s节点
nohup ./mqbroker -c /usr/app/rocketmq/rocketmq-all-5.1.3-bin-release/conf/2m-2s-async/broker-b.properties &
nohup ./mqbroker -c /usr/app/rocketmq/rocketmq-all-5.1.3-bin-release/conf/2m-2s-async/broker-a-s.properties &

4.2.4、测试

#在centos7-1上用工具发送数据
[root@centos7-1 bin]# ./tools.sh org.apache.rocketmq.example.quickstart.Producer
#在centos7-2上用工具接收数据
[root@centos7-2 bin]# ./tools.sh org.apache.rocketmq.example.quickstart.Consumer

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值