RocketMQ学习（二）：集群

最新推荐文章于 2024-05-11 10:15:22 发布
最新推荐文章于 2024-05-11 10:15:22 发布
阅读量436 收藏
点赞数 1
分类专栏： 消息中间件 # RocketMQ 文章标签： RocketMQ 集群 rocketmq-console 监控平台 Lock failed MQ already started
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/IcyDate/article/details/103065024
版权

目录

RocketMQ集群介绍

RocketMQ集群模式

1、单Master模式

2、多Master模式

3、多Master多Slave模式（异步）

4、多Master多Slave模式（同步）

双主双从集群搭建

1、服务器环境

2、防火墙配置

3、创建消息存储路径

4、Broker配置

1）Master1

2）Slave2

3）Mater2

3）Slave1

5、集群启动

搭建监控平台

RocketMQ集群介绍

 

  • NameServer是一个几乎无状态节点，可集群部署，节点之间无任何信息同步。

  • Broker部署相对复杂，Broker分为Master与Slave，一个Master可以对应多个Slave，但是一个Slave只能对应一个Master，Master与Slave的对应关系通过指定相同的BrokerName，不同的BrokerId来定义，BrokerId为0表示Master，非0表示Slave。Master也可以部署多个。每个Broker与NameServer集群中的所有节点建立长连接，定时注册Topic信息到所有NameServer。

  • Producer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer取Topic路由信息，并向提供Topic服务的Master建立长连接，且定时向Master发送心跳。Producer完全无状态，可集群部署。

  • Consumer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer取Topic路由信息，并向提供Topic服务的Master、Slave建立长连接，且定时向Master、Slave发送心跳。Consumer既可以从Master订阅消息，也可以从Slave订阅消息，订阅规则由Broker配置决定。

RocketMQ集群模式

1、单Master模式

这种方式风险较大，一旦Broker重启或者宕机时，会导致整个服务不可用。

2、多Master模式

一个集群无Slave，全是Master，例如2个Master或者3个Master，这种模式的优缺点如下：

  • 优点：配置简单，单个Master宕机或重启维护对应用无影响，在磁盘配置为RAID10时，即使机器宕机不可恢复情况下，由于RAID10磁盘非常可靠，消息也不会丢（异步刷盘丢失少量消息，同步刷盘一条不丢），性能最高。

  • 缺点：单台机器宕机期间，这台机器上未被消费的消息在机器恢复之前不可订阅，消息实时性会受到影响。

3、多Master多Slave模式（异步）

每个Master配置一个或多个Slave，有多对Master-Slave，HA采用异步复制方式，主Broker收到消息就返回成功，在异步的将消息同步至从Broker，主备有短暂消息延迟（毫秒级），这种模式的优缺点如下：

  • 优点：即使磁盘损坏，消息丢失的非常少，且消息实时性不会受影响，同时Master宕机后，消费者仍然可以从Slave消费，而且此过程对应用透明，不需要人工干预，性能同多Master模式几乎一样。

  • 缺点：Master宕机，磁盘损坏情况下会丢失少量消息。

4、多Master多Slave模式（同步）

每个Master配置一个或多个Slave，有多对Master-Slave，HA采用同步双写方式，即只有主备都写成功（主Broker收到消息立刻同步至从Broker），才向应用返回成功，这种模式的优缺点如下：

  • 优点：数据与服务都无单点故障，Master宕机情况下，消息无延迟，服务可用性与数据可用性都非常高；

  • 缺点：性能比异步复制模式略低（大约低10%左右），发送单个消息的RT会略高，且目前版本在主节点宕机后，备机不能自动切换为主机。

双主双从集群搭建

搭建2m-2s同步双写集群，本例采用两个服务器来搭建，假设两个服务器IP分别为192.168.1.1与192.168.1.2，如下图所示

1、服务器环境

序号IP需要启动的角色Broker分布
1192.168.1.1NameServer、BrokerMaster1、Slave2
1192.168.1.2NameServer、BrokerMaster2、Slave1

2、防火墙配置

服务器之间需要通信的话，首先需要配置服务器防火墙规则，需要关闭防火墙，简单，但若是线上则不安全。

# 关闭防火墙
systemctl stop firewalld.service 
# 查看防火墙的状态
firewall-cmd --state 
# 禁止firewall开机启动
systemctl disable firewalld.service

或者开放RocketMQ需要使用到的端口

  • NameServer默认使用 9876 端口

  • Broker Master 默认使用 10911 端口

  • Broker Slave 默认使用11011 端口

# 开放name server默认端口
firewall-cmd --remove-port=9876/tcp --permanent
# 开放master默认端口
firewall-cmd --remove-port=10911/tcp --permanent
# 开放slave默认端口 
firewall-cmd --remove-port=11011/tcp --permanent 
# 重启防火墙
firewall-cmd --reload

3、创建消息存储路径

消息存储路径是指Broker存储消息的路径。

需要注意的是，若主节点和从节点在一个服务器上，那么他们的存储路径不能相同，否则启动时会抛出异常

Lock failed,MQ already started

# 主节点
mkdir /opt/rocketmq/store-m
mkdir /opt/rocketmq/store-m/commitlog
mkdir /opt/rocketmq/store-m/consumequeue
mkdir /opt/rocketmq/store-m/index

# 从节点
mkdir /opt/rocketmq/store-s
mkdir /opt/rocketmq/store-s/commitlog
mkdir /opt/rocketmq/store-s/consumequeue
mkdir /opt/rocketmq/store-s/index

4、Broker配置

重要：如果搭建集群是用的公网服务器，那配置文件中一定要配置brokerIP=公网地址，且涉及到地址填写的配置都填写公网地址，否则RocketMQ将以内网地址启动，导致后续的监控页面连不上RocketMQ服务

1）Master1

服务器：192.168.1.1，打开配置文件位置，注释原有配置，添加新配置

vim /opt/rocketmq/conf/2m-2s-sync/broker-a.properties
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master，>0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=192.168.1.1:9876;192.168.1.2:9876
#broker启动地址，rocketmq默认内网启动
brokerIP1=192.168.1.1
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/opt/rocketmq/store-m
#commitLog 存储路径
storePathCommitLog=/opt/rocketmq/store-m/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/opt/rocketmq/store-m/consumequeue
#消息索引存储路径
storePathIndex=/opt/rocketmq/store-m/index
#checkpoint 文件存储路径
storeCheckpoint=/opt/rocketmq/store-m/checkpoint
#abort 文件存储路径
abortFile=/opt/rocketmq/store-m/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

2）Slave2

服务器：192.168.1.1，注意配置文件名称

vim /opt/rocketmq/conf/2m-2s-sync/broker-b-s.properties

仅列出与Master1有区别的部分

#broker名字，修改为broker-b，因为Slave2属于第二个主从
brokerName=broker-b
#0 表示 Master，>0 表示 Slave
brokerId=1
#Broker 对外服务的监听端口
listenPort=11011
#存储路径
storePathRootDir=/opt/rocketmq/store-s
#commitLog 存储路径
storePathCommitLog=/opt/rocketmq/store-s/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/opt/rocketmq/store-s/consumequeue
#消息索引存储路径
storePathIndex=/opt/rocketmq/store-s/index
#checkpoint 文件存储路径
storeCheckpoint=/opt/rocketmq/store-s/checkpoint
#abort 文件存储路径
abortFile=/opt/rocketmq/store-s/abort
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH

3）Mater2

服务器：192.168.1.2

vim /opt/rocketmq/conf/2m-2s-sync/broker-b.properties

仅列出与Master1有区别的部分

#broker启动地址，rocketmq默认内网启动
brokerIP1=192.168.1.2
#broker名字，修改为broker-b，因为Master2属于第二个主从
brokerName=broker-b
#0 表示 Master，>0 表示 Slave
brokerId=0
#Broker 对外服务的监听端口
listenPort=10911

3）Slave1

服务器：192.168.1.2，注意配置文件名称

vim /opt/rocketmq/conf/2m-2s-sync/broker-a-s.properties

仅列出与Master1有区别的部分

#broker启动地址，rocketmq默认内网启动
brokerIP1=192.168.1.2
#0 表示 Master，>0 表示 Slave
brokerId=1
#Broker 对外服务的监听端口
listenPort=11011
#存储路径
storePathRootDir=/opt/rocketmq/store-s
#commitLog 存储路径
storePathCommitLog=/opt/rocketmq/store-s/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/opt/rocketmq/store-s/consumequeue
#消息索引存储路径
storePathIndex=/opt/rocketmq/store-s/index
#checkpoint 文件存储路径
storeCheckpoint=/opt/rocketmq/store-s/checkpoint
#abort 文件存储路径
abortFile=/opt/rocketmq/store-s/abort
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH

5、集群启动

NameServer的启动非常简单，分别在两个服务器执行启动NameServer的命令即可。Broker则需要使用 -c 命令来指定启动时的配置文件，因为我是在bin目录执行命令，因此配置文件需要../回到上级目录

# 192.168.1.1
nohup sh mqnamesrv &
nohup sh mqbroker -c ../conf/2m-2s-sync/broker-a.properties &
nohup sh mqbroker -c ../conf/2m-2s-sync/broker-b-s.properties &

# 192.168.1.2
nohup sh mqnamesrv &
nohup sh mqbroker -c ../conf/2m-2s-sync/broker-b.properties &
nohup sh mqbroker -c ../conf/2m-2s-sync/broker-a-s.properties &

用JPS命令查看是否启动成功

最后，两边都启动完成后在任意服务器执行mqadmin命令查看集群是否搭建成功

sh mqadmin clusterlist -n localhost:9876

搭建监控平台

虽然使用mqadmin能够查看很多信息，但比较麻烦也不直观。RocketMQ有一个扩展项目rocketmq-externals，其中一个项目叫做rocketmq-console，这个项目便是控制台项目。

我们需要将其下载下来，进入rocketmq-console\src\main\resources\application.properties，修改namesrvAddr配置

rocketmq.config.namesrvAddr=192.168.1.1:9876;192.168.1.2:9876

然后再回到rocketmq-console目录下进行打包

mvn clean package -Dmaven.test.skip=true

打包完成后，会在target目录下生成项目的jar包，我们启动它

java -jar rocketmq-console-ng-1.0.1.jar

启动成功后就能通过http://localhost:8080进入控制台页面了

 

IcyDate
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
RocketMQ集群搭建
weixin_45203131的博客
08-28 492
消息消费的过程： Name Server是Broker的管理者，Broker会自动将自身的信息主动发送给Name Server。 生产消息：首先Producer首先向Name Server询问Broker的地址，然后将消息传递给Broker。 消费消息：Consumer消费消息则也需要指定需要消费的信息，而这个信息则存储在Broker中，所以Consumer消费之前要先向Name Server获取存储消息的Broker的地址，从而进行消费。 集群的工作流程： 1.启动NameServe...
RocketMQ集群部署说明
wangshaijie的博客
04-20 430
# RocketMQ集群部署说明 ### 一 RocketMQ概述 ##RocketMQ 物理部署结构![](https://i.imgur.com/14coz1W.png)如图所示，RocketMQ部署有如下特点：1. NameServer是个几乎无任何状态的节点，节点之间无任何信息同步2. Broker部署相对复杂，Broker分为Master与Slave，一个Master可以对应多个Slav...
连接rocketMQ时遇到报错 connection to ip : 10911 failed 解决办法
最新发布
m0_48516758的博客
05-11 1194
org.apache.rocketmq.remoting.exception.RemotingConnectException: connection to ip : 10911 failed
RocketMQ 阿里云部署 公网IP 配置
m0_37859502的博客
05-16 2585
今天将RocketMQ部署到阿里云上的时候 发现一直抱如下错误 [2022-05-16 13:11:33.207] ERROR collectTopicThread_6 - Failed to collect topic: TopicTest data org.apache.rocketmq.remoting.exception.RemotingConnectException: connect to 172.21.67.142:10911 failed at org.apache.rocketmq.re
RocketMQ服务中各端口号说明
梦想起飞的地方.........
11-22 1万+
xx
rocketmq无法发送消息失败问题。connect to ＜公网ip:10911＞ failed
weixin_52911459的博客
04-23 6464
解决rockmq的发送消息报错问题。connect to <106.52.152.221:10911> failed
RocketMQ高级原理：深入剖析消息系统的核心机制（超详细整理讲解，值得收藏）
03-17
RocketMQ是阿里巴巴开源的一款分布式消息中间件，广泛应用于大规模分布式系统中的消息传递。本文将深入剖析RocketMQ的核心机制，帮助读者...这份超详细整理的RocketMQ高级原理文档，无疑是深入学习和实践的宝贵资源。
Rocketmq学习指南
10-08
Rocketmq学习指南是一份专为初学者设计的文档集合，旨在深入浅出地介绍Apache RocketMQ这一高效的消息队列系统。RocketMQ最初由阿里巴巴开发，现已成为Apache顶级项目，广泛应用于分布式系统、微服务架构以及大数据...
尚硅谷完整的关于rocketmq的学习视频整理笔记
09-12
深入学习 RocketMQ 还包括了解其高可用策略（如主从复制、集群部署）、消息的顺序性保证、事务消息、延迟消息、死信消息等特性。通过实践操作和理解这些概念，你可以熟练地运用 RocketMQ 解决实际项目中的问题。
rocketmq 学习 – 面试
01-07
高可用保证： NameServer 集群化部署 Rocketmq 解决思路：Broker主从...rocketmq可以集群部署，部署多台。假如每台支持十万+的请求，我们只需要将请求均匀分散到多台机器上，保证每台请求QPS不超过10万即可。 数据路
RocketMq学习视频
08-11
004-004_RocketMQ_集群构建模型详解（二） 005-005_RocketMQ_双主模式集群环境搭建 006-006_RocketMQ_控制台使用讲解 007-007_RocketMQ_Broker配置文件详解 008-008_RocketMQ_helloworld示例讲解 009-009_RocketMQ_...
RocketMQ采坑笔记之connect to 172.17.42.1:10911 failed
u014786083的博客
07-25 8671
在按照RocketMQ官网（http://rocketmq.apache.org/docs/simple-example/）案例学习RocketMQ时，采了很多坑，记录下来，分享给小伙伴们。 前提： 在Linux分别运行成功地运行了NameServer和broker 问题描述： 分别启动了Name Server和Broker。然后运行http://rocketmq.apache.org/docs/simple-example/中的Consumer,再运行SyncProd...
RocketMQ 解决 No route info of this topic,connection to ip : 10911 failed的方法
wjs040的博客
12-07 1615
java 代码中连接时报错：No route info of this topic ## 首先改配置文件 vim broker.conf ## 这个文件里面最后加上 autoCreateTopicEnable=true ## 在启动broker时要显式声明一下使用该文件 nohup bin/mqbroker -c conf/broker.conf & org.apache.rocketmq.remoting.exception.RemotingConnectException: connecti
RocketMQ 5.0部署你需要开通的端口在这里
念念不忘，必有回响
04-27 2917
这里是weihubeats,觉得文章不错可以关注公众号，文章首发。拒绝营销号，拒绝标题党。
RocketMQ-环境搭建
qq_37466787的博客
02-04 253
目录 特点 术语词汇 特点 支持事务消息 支持顺序消息 支持consumer端tag过滤（还没研究） 术语词汇 Name Server:服务注册发现，用于生产者获取Broker节点信息 端口号：9876 Broker:存储和负责转发消息 默认10911 Producer :生产者 Consumer:消费者 单机版本安装 官网下载压缩包，解压配置文件: unzip rock...
rocketmq-常见问题总结(基本概念、高可用、中间件选型)
u011250186的博客
02-07 1105
参考： https://blog.csdn.net/meilong_whpu/article/details/76922456 http://blog.51cto.com/sofar/1540874 https://blog.csdn.net/lunaqi/article/details/78517200 https://mp.weixin.qq.com/s?__biz=MzIwMzg1ODcwMw==&mid=2247487688&idx=1&sn=d15551097...
阿里云服务器 RocketMQ外网访，JAVA服务连接不上问题
热门推荐
专注技术交流、咨询
07-18 1万+
一、RocketMQ外网访问配置(比如阿里云服务器，分内网ip和外网外IP) 经过排查，最终发现是因为，java客户端连接rocketmq时，rocketmq返回的Ip地址是阿里云服务器的内网地址（内网地址肯定访问不了，可惜当时没有截图留证），正确的应该是返回服务器的外网地址，解决办法如下： 在conf文件夹下修改broker.conf 添加 namesrvAddr = xx.xx.xx....
RocketMQ快速实战以及集群架构详解
qq_27740127的博客
10-10 2290
MQ：MessageQueue，消息队列。是在互联网中使用非常广泛的一系列服务中间件。这个词可以分两个部分来看，一是Message：消息。消息是在不同进程之间传递的数据。这些进程可以部署在同一台机器上，也可以分布在不同机器上。二是Queue：队列。队列原意是指一种具有FIFO(先进先出)特性的数据结构，是用来缓存数据的。对于消息中间件产品来说，能不能保证FIFO特性，尚值得考量。但是，所有消息队列都是需要具备存储消息，让消息排队的能力。
分布式消息系统RocketMQ的入门.docx
10-18
RocketMQ还支持多种消费模式，如集群消费和广播消费，以适应不同的业务需求。 在深入学习RocketMQ的过程中，还会涉及到事务消息、定时消息、延时消息等高级特性，以及如何进行性能调优和故障排查。通过学习和实践，...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值