分布式消息队列RocketMQ部署与监控

最新推荐文章于 2024-09-20 10:49:38 发布
最新推荐文章于 2024-09-20 10:49:38 发布
阅读量1.4k 收藏
点赞数
分类专栏： linux 消息队列 文章标签： 分布式 消息中间件 linux

==========================================================================================

一、RocketMQ简介

==========================================================================================

RocketMQ是一款分布式、队列模型的消息中间件，具有以下特点：

1、支持严格的消息顺序；

2、支持Topic与Queue两种模式；

3、亿级消息堆积能力；

4、比较友好的分布式特性；

5、同时支持Push与Pull方式消费消息；


更多介绍可以参考以下链接：

https://github.com/alibaba/RocketMQ/wiki

http://blog.csdn.net/a19881029/article/details/34446629

http://singlefly.blog.51cto.com/4658189/1368579


本文采用双Master的架构模式。


==========================================================================================

二、服务器分布

==========================================================================================

1、相关说明

IP地址

主机名

机型

角色

架构模式

10.217.121.123

rocketmq-master1

128G内存

nameserver、brokerserver

Master1（双Master模式）

10.217.122.31

rocketmq-master2

128G内存

nameserver、brokerserver

Master2（双Master模式）


2、hosts信息添加

# vim /etc/hosts

10.217.121.123  mqnameserver1

10.217.122.31    mqnameserver2

10.217.121.123  rocketmq-master1

10.217.122.31    rocketmq-master2


3、系统环境

CentOS 6.3


4、总体架构

wKioL1PuQE3DcTjUAAE4E08WEfw644.jpg


==========================================================================================

三、RocketMQ安装与配置

==========================================================================================

1、JDK安装

http://download.oracle.com/otn-pub/java/jdk/7u65-b17/jdk-7u65-linux-x64.tar.gz

# tar xvzf jdk-7u65-linux-x64.gz -C /usr/local

# rm -f jdk-7u65-linux-x64.gz

# cd /usr/local && ln -s jdk1.7.0_65 jdk

# cd /usr/local/bin && ln -s /usr/local/jdk/bin/java


2、RocketMQ安装

https://github.com/alibaba/RocketMQ/releases

# tar xvzf alibaba-rocketmq-3.1.7.tar.gz -C /usr/local

# mv alibaba-rocketmq alibaba-rocketmq-3.1.7

# ln -s alibaba-rocketmq-3.1.7 rocketmq

# rm alibaba-rocketmq-3.1.7.tar.gz

# ll /usr/local

wKiom1PuP2TDorXeAAKWNuNdZ7w687.jpg


3、环境变量设置

# vim /etc/profile

export PATH=$PATH:/usr/local/bin


export JAVA_HOME=/usr/local/jdk

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$PATH:$JAVA_HOME/bin


export ROCKETMQ_HOME=/usr/local/rocketmq

export PATH=$PATH::$ROCKETMQ_HOME/bin


# source /etc/profile

# cd /usr/local/rocketmq/bin && sh os.sh


4、主机名设置

(1)、Master1服务器

# vim /etc/hosts

10.217.121.123  mqnameserver1

10.217.122.31    mqnameserver2

10.217.121.123  rocketmq-master1

10.217.122.31    rocketmq-master2


# sed -i  '/HOSTNAME/d' /etc/sysconfig/network

# echo 'HOSTNAME=rocketmq-master1'  >> /etc/sysconfig/network

# hostname rocketmq-master1


(2)、Master2服务器

# vim /etc/hosts

10.217.121.123  mqnameserver1

10.217.122.31    mqnameserver2

10.217.121.123  rocketmq-master1

10.217.122.31    rocketmq-master2


# sed -i  '/HOSTNAME/d' /etc/sysconfig/network

# echo 'HOSTNAME=rocketmq-master2'  >> /etc/sysconfig/network

# hostname rocketmq-master2


5、RocketMQ配置

(1)、Master1服务器

# vim /usr/local/rocketmq/conf/2m-noslave/broker-a.properties

brokerClusterName=AdpMqCluster

brokerName=broker-a

brokerId=0

namesrvAddr=mqnameserver1:9876;mqnameserver2:9876

defaultTopicQueueNums=4

autoCreateTopicEnable=true

autoCreateSubscriptionGroup=true

listenPort=10911

deleteWhen=04

fileReservedTime=120

mapedFileSizeCommitLog=1073741824

mapedFileSizeConsumeQueue=50000000

destroyMapedFileIntervalForcibly=120000

redeleteHangedFileInterval=120000

diskMaxUsedSpaceRatio=88


storePathRootDir=/data/rocketmq/store

storePathCommitLog=/data/rocketmq/store/commitlog


maxMessageSize=65536


flushCommitLogLeastPages=4

flushConsumeQueueLeastPages=2

flushCommitLogThoroughInterval=10000

flushConsumeQueueThoroughInterval=60000


brokerRole=ASYNC_MASTER

flushDiskType=ASYNC_FLUSH


checkTransactionMessageEnable=false


sendMessageThreadPoolNums=128

pullMessageThreadPoolNums=128


(2)、Master2服务器

# vim /usr/local/rocketmq/conf/2m-noslave/broker-b.properties

brokerClusterName=AdpMqCluster

brokerName=broker-b

brokerId=1

namesrvAddr=mqnameserver1:9876;mqnameserver2:9876

defaultTopicQueueNums=4

autoCreateTopicEnable=true

autoCreateSubscriptionGroup=true

listenPort=10911

deleteWhen=04

fileReservedTime=120

mapedFileSizeCommitLog=1073741824

mapedFileSizeConsumeQueue=50000000

destroyMapedFileIntervalForcibly=120000

redeleteHangedFileInterval=120000

diskMaxUsedSpaceRatio=88


storePathRootDir=/data/rocketmq/store

storePathCommitLog=/data/rocketmq/store/commitlog


maxMessageSize=65536


flushCommitLogLeastPages=4

flushConsumeQueueLeastPages=2

flushCommitLogThoroughInterval=10000

flushConsumeQueueThoroughInterval=60000


brokerRole=ASYNC_MASTER

flushDiskType=ASYNC_FLUSH


checkTransactionMessageEnable=false


sendMessageThreadPoolNums=128

pullMessageThreadPoolNums=128


(3)、runbroker.sh参数调整

runbroker.sh需要根据内存大小进行适当地调整

JAVA_OPT_1="-server-Xms80g -Xmx80g -Xmn20g -XX:PermSize=1g -XX:MaxPermSize=1g"


6、服务启动

# mkdir -p /data/rocketmq/store/commitlog  /data/logs

# cd /usr/local/rocketmq/conf && sed -i  's#${user.home}#/data#g' *.xml


(1)、启动NameServer【master1、master2】

# cd /usr/local/rocketmq/bin

# nohup sh mqnamesrv &


(2)、启动BrokerServer A【master1】

# cd /usr/local/rocketmq/bin

# nohup sh mqbroker -c ../conf/2m-noslave/broker-a.properties  >/dev/null 2>&1 &


(3)、启动BrokerServer B【master2】

# cd /usr/local/rocketmq/bin

# nohup sh mqbroker -c ../conf/2m-noslave/broker-b.properties  >/dev/null 2>&1 &


# netstat -ntlp

wKioL1PuQKejDpe9AAC166EAySE757.jpg


# jps

wKiom1PuP6yBTpSfAAB_ScYujDc698.jpg


==========================================================================================

四、RocketMQ服务健康监控

==========================================================================================

1、依赖组件安装

# yum -y install nmap


2、nameserver监控

# vim /data/scripts/check_nameserver_health.sh

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
#!/bin/sh
PATH= /sbin : /bin : /usr/sbin : /usr/bin : /usr/local/bin : /usr/local/sbin
  
SRV_PORT= "9876"                     ## 端口号
SRV_PROT= "tcp"                      ## 协议类型
SRV_NAME= "rocketmq_nameserver"      ## 服务名
  
## 是否已正确扫描
SCAN_FLAG=0
  
for  ETH_NAME  in  ` /sbin/ifconfig  |  grep  eth1 |  awk  '{print $1}' `
do
        ETH1_ADDR=` /sbin/ifconfig  ${ETH_NAME} |  awk  -F  ':'  '/inet addr/{print $2}'  |  sed  's/[a-zA-Z ]//g' `
        [[ -z  "${ETH1_ADDR}"  ]] &&  continue  ||  break
done
  
TMP_SRV_PROT=` echo  ${SRV_PROT} |  tr  '[A-Z]'  '[a-z]' `
  
if  [[  "${TMP_SRV_PROT}"  ==  "tcp"  ]];  then
        PROT_OPT= "S"
elif  [[  "${TMP_SRV_PROT}"  ==  "udp"  ]];  then
        PROT_OPT= "U"
else
        echo  "未知的协议类型！"  && exit1
fi
  
## 最多扫描3次，成功一次即可，以避免网络抖动而导致误判
for  ((i=0; i<3; i++));  do
        RETVAL=` /usr/bin/nmap  -n -s${PROT_OPT} -p ${SRV_PORT} ${ETH1_ADDR} |  grep  open `
        [[ -n  "${RETVAL}"  ]] && SCAN_FLAG=1; break  ||  sleep  10
done
  
if  [[ ${SCAN_FLAG} - ne  1 ]];  then
        [[ -n ` ps  aux |  grep  java |  grep  namesrv` ]] &&  kill  -9 ` ps  aux |  grep  java |  awk  '/namesrv/{print $2}' `
        cd  /usr/local/rocketmq/bin  &&  nohup  sh mqnamesrv &
fi


3、brokerserver监控

# vim /data/scripts/check_brokerserver_health.sh

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
#!/bin/sh
PATH= /sbin : /bin : /usr/sbin : /usr/bin : /usr/local/bin : /usr/local/sbin
  
SRV_PORT= "10911"                       ## 端口号
SRV_PROT= "tcp"                         ## 协议类型
SRV_NAME= "rocketmq_brokerserver"       ## 服务名
  
## 是否已正确扫描
SCAN_FLAG=0
  
for  ETH_NAME  in  ` /sbin/ifconfig  |  grep  eth1 |  awk  '{print $1}' `
do
        ETH1_ADDR=` /sbin/ifconfig  ${ETH_NAME} |  awk  -F  ':'  '/inet addr/{print $2}'  |  sed  's/[a-zA-Z ]//g' `
        [[ -z  "${ETH1_ADDR}"  ]] &&  continue  ||  break
done
  
TMP_SRV_PROT=` echo  ${SRV_PROT} |  tr  '[A-Z]'  '[a-z]' `
  
if  [[  "${TMP_SRV_PROT}"  ==  "tcp"  ]];  then
        PROT_OPT= "S"
elif  [[  "${TMP_SRV_PROT}"  ==  "udp"  ]];  then
        PROT_OPT= "U"
else
        echo  "未知的协议类型！"  && exit1
fi
  
## 最多扫描3次，成功一次即可，以避免网络抖动而导致误判
for  ((i=0; i<3; i++));  do
        RETVAL=` /usr/bin/nmap  -n -s${PROT_OPT} -p ${SRV_PORT} ${ETH1_ADDR} |  grep  open `
        [[ -n  "${RETVAL}"  ]] && SCAN_FLAG=1; break  ||  sleep  10
done
  
if  [[ ${SCAN_FLAG} - ne  1 ]];  then
        [[ -n ` ps  aux |  grep  java |  grep  broker` ]] &&  kill  -9 ` ps  aux |  grep  java |  awk  '/broker/{print $2}' `
        cd  /usr/local/rocketmq/bin  &&  nohup  sh mqbroker -c .. /conf/2m-noslave/broker-a .properties &
fi


【注意】

以上红色标注部分，在master2上的名称为“broker-b.properties”


4、crontab信息添加

# touch /var/run/check_rocketmq_nameserver.lock

# touch /var/run/check_rocketmq_brokerserver.lock


# echo 'touch /var/run/check_rocketmq_nameserver.lock' >> /etc/rc.d/rc.local

# echo 'touch /var/run/check_rocketmq_brokerserver.lock' >> /etc/rc.d/rc.local


# crontab -e

*/2 * * * * (flock --timeout=0 /var/run/check_rocketmq_nameserver.lock /data/scripts/check_nameserver_health.sh >/dev/null 2>&1)


*/2 * * * * (flock --timeout=0 /var/run/check_rocketmq_brokerserver.lock /data/scripts/check_brokerserver_health.sh >/dev/null 2>&1)


本文出自 “人生理想在于坚持不懈” 博客，请务必保留此出处http://sofar.blog.51cto.com/353572/1540874

梦里花又落
关注
专栏目录
RocketMQ分布式消息队列
m0_61826771的博客
07-27 413
为什么要使用RocketMQ,我们先来看一个天府通刷地铁出站的业务场景【注意】假如天府通出站API 和 支付系统 是不同的子系统 (两个Tomcat远程通信)上下班高峰期使用天府通刷码的人非常多，意味并发量很高，一个出站请求到后台需要做费用计算，费用结算，或者积分赠送等业务。由于并发很高，并且费用结算和积分等业务本来就耗时，况且支付服务也不一定能承担那么大的请求量。当服务器线程耗尽，后续请求会等待变慢，再加上高并发请求就会导致后续请求越来越慢，请求长时间等待，导致大量请求超时。
分布式消息队列
腾讯技术工程
09-26 7122
作者：vincentchma，腾讯 IEG 后台开发工程师一、消息队列的演进分布式消息队列中间件是是大型分布式系统中常见的中间件。消息队列主要解决应用耦合、异步消息、流量削锋等问题，具有高...
(原创)Rocketmq分布式消息队列的部署与监控
weixin_34343000的博客
06-07 220
-------------------------------------------------------------------------------------------- 一、Rocketmq简介： -------------------------------------------------------------------------------------------...
RocketMq详解：一、RocketMQ 介绍及基本概念
最新发布
qq_59961910的博客
09-20 3609
Name Server和ZooKeeper的作用大致是相同的，从宏观上来看，Name Server做的东西很少，就是保存一些运行数据，Name Server之间不互连，这就需要broker端连接所有的Name Server，运行数据的改动要发送到每一个Name Server来保证运行数据的一致性（这个一致性确实有点弱），这样就变成了Name Server很轻量级，但是broker端就要做更多的东西了。这种方式优点是数据与服务都没有单点问题，Master 宕机时消息无延迟，服务与数据的可用性非常高。
linux 监听消息队列,Linux分布式消息队列RocketMQ部署与监控--双Master
weixin_32288959的博客
05-13 183
环境准备：CentOS_6.5_x64IP： 192.168.0.249 　　dbTest249 　　Master1IP： 192.168.0.251 　　webTest251 　　Master2下载alibaba-rocketmq软件一、安装rocketmq# tar zxf alibaba-rocketmq-3.2.4-beta1.tar.gz -C /usr/local/# cd /u...
RocketMQ分布式消息队列（最详细）
weixin_48133130的博客
10-30 7642
RocketMQ认识 - RocketMQ安装 - RocketMQ原理(重要) - RocketMQ应用(重要)
分布式消息队列RocketMQ部署与监控.docx
09-14
分布式消息队列RocketMQ部署与监控
分布式消息队列RocketMQ部署与监控详解
综上所述，RocketMQ作为一款优秀的分布式消息队列，部署与监控工作尤为重要。通过合理的部署和及时的监控，可以保证消息队列的稳定运行，提高系统的可靠性和性能。希望本文能对RocketMQ的部署与监控工作有所帮助。
美团十年架构师精心分享：手写分布式消息中间件RocketMQ笔记
m0_72011831的博客
09-16 357
这份PDF根据作者在项目中使用RocketMQ的实际经验，结合实际源码，由浅入深地讲解了RocketMQ核心功能的具体实现逻辑，并从消息队列的应用场景出发，使读者快速地了解MQ解决的问题。本篇介绍了RocketMQ的基本使用方法及其各个组件的基本原理，讲解原理时，都是采用先整体架构后详细分解的方式。详细分解时不会深入源码逐段讲，而是从代码结构出发梳理整个运行过程。这份RocketMQ分布式消息中间件—核心原理与最佳实践的完整版已经为大家整理成了PDF格式，所以下面只能为大家展示部分的内容，完整版-
RocketMQ部署
m0_46836425的博客
04-26 1426
本教程使⽤的是RocketMQ4.7.1版本，建议使⽤该版本进⾏之后的demo训练。运⾏版：https://www.apache.org/dyn/closer.cgi?源码：https://www.apache.org/dyn/closer.cgi?
大数据-玩转数据-RocketMQ和监控
s_unbo的博客
04-05 2678
一、什么是RocketMQ 消息队列RocketMQ版是阿里云基于Apache RocketMQ构建的低延迟、高并发、高可用、高可靠的分布式消息中间件。消息队列RocketMQ版既可为分布式应用系统提供异步解耦和削峰填谷的能力，同时也具备互联网应用所需的海量消息堆积、高吞吐、可靠重试等特性。 二、 ...
图解RocketMQ之保姆级部署指南
一个成长中的程序员，期待用技术的眼光生活
08-09 1093
但凡是亲自部署过 RocketMQ 的小伙伴估计都跟我有一样的感受，岂是一个坑字了得。RocketMQ 的迭代不算快，但出乎意料的是不同的版本之间部署的方式又不大一样，你去上网查吧，大部分教程也没标注使用的是哪个版本。作为技术博主，我对教程是有着强烈洁癖的，我认为一切不标注时效的教程都不是好教程。正如你所看到的，我正写的保姆级部署教程是基于的这个版本，来自未来的读者，我希望你在实践之前能和我的版本保持一致。
rocketmq配置文件详解
蓝天
07-03 2675
所属集群名字 附加：如果有多个master，那么每个master配置的名字应该一样，要不然识别不了对方，不知道是一个集群内部的 brokerClusterName=rocketmq-cluster 此处需手动更改 broker名字，注意此处不同的配置文件填写的不一样 附加：按配置文件文件名来匹配 brokerName=broker-a 0 表示Master, > 0 表示slave br...
RocketMq源码分析（六）--消息消费者启动流程
Shenkh的Java壁橱
05-02 962
如果是刚创建实例时（CREATE_JUST状态），则先将附实例状态更改为START_FAILED，然后进行一些列初始化并启动操作（检查配置、复制订阅信息、设置负载均衡实现、创建并加载消息进度offsetStore、创建并启动消息消费consumeMessageService服务、向消费者工厂注册自己），最后变更为RUNNING状态。//服务实例状态，有：CREATE_JUST、RUNNING、SHUTDOWN_ALREADY、START_FAILED，默认CREATE_JUST。接口定义，默认实现类为。
【RocketMQ系列十四】RocketMQ中消息堆积如何处理
码农飞哥
10-25 3467
RocketMQ消息堆积如何处理？
RocketMQ实战-搭建高可用的分布式消息队列集群
DreamKey
01-29 425
RocketMQ
MQ消息队列的消息队列管理和消息队列监控
AI天才研究院
01-25 1244
1.背景介绍 1. 背景介绍 消息队列(Message Queue，MQ)是一种异步通信机制，它允许不同的应用程序或系统在不同时间进行通信。消息队列的核心思想是将发送方和接收方之间的通信转换为一系列的消息，这些消息在队列中排队等待处理。 在现代分布式系统中，消息队列是非常重要的一部分，它可以帮助系统实现高可用、高性能和高扩展性。消息队列还可以帮助系统实现解耦和异步处理，从而提高系统的灵活性和...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值