消息中间件RocketMQ的安装与部署
官方简介:
RocketMQ是一款分布式、队列模型的消息中间件,具有以下特点:能够保证严格的消息顺序
提供丰富的消息拉取模式
高效的订阅者水平扩展能力
实时的消息订阅机制
亿级消息堆积能力
1.安装RocketMQ
1.1安装环境git,Java,Maven
安装git
yum install git
安装jdk环境
下载jdk
http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html
安装并设置环境变量rpm -ivh jdk-7u51-linux-x64.rpm
echo "exportJAVA_HOME=/usr/java/default" >> /etc/profile
source /etc/profile
安装mavenmkdir /usr/local/maven
tar zxvf apache-maven-3.2.1-bin.tar.gz -C/usr/local/maven/
echo 'exportM2_HOME=/usr/local/maven/apache-maven-3.2.1' >> /etc/profile
echo 'export M2=$M2_HOME/bin' >>/etc/profile
echo 'export MAVEN_OPTS="-Xms256m-Xmx512m"' >> /etc/profile
echo 'export PATH=$M2:$PATH' >>/etc/profile
source /etc/profile
mvn -v
1.2安装RocketMQwget https://github.com/alibaba/RocketMQ/archive/v3.0.8-beta1.tar.gz
tar zxvf v3.0.8-beta1.tar.gz
cd rocketmq
sh install.sh
cd devenv
2.RocketMQ部署
Producer、Consumer、Broker都可以分布式部署。Producer、Consumer通过Name Server来寻找Broker,Broker启动后,会定时将要发布的Topic注册到NameServer。
2.1启动nameserver
nohup mqnamesrv &
在生产环境部署nameserver,请参考以下软硬件要求
https://github.com/alibaba/RocketMQ/wiki/system_requirements
2.2 启动brokernohup mqbroker -n "192.168.0.1:9876;192.168.0.2:9876" &
Broker指定Name Server地址的方式(优先级按照高低顺序排序)
启动Broker时,命令行方式指定mqbroker -n "192.168.0.1:9876;192.168.0.2:9876"
通过环境变量指定exportNAMESRV_ADDR=192.168.0.1:9876;192.168.0.2:9876
2.3 关闭nameserver或brokersh ./mqshutdown
Useage: mqshutdown broker | namesrv
2.4 Producer/Consumer指定Name Server地址
通过代码中指定producer.setNamesrvAddr("192.168.0.1:9876;192.168.0.2:9876");
或consumer.setNamesrvAddr("192.168.0.1:9876;192.168.0.2:9876");
通过Java启动参数中指定-Drocketmq.namesrv.addr=192.168.0.1:9876;192.168.0.2:9876
通过环境变量指定exportNAMESRV_ADDR=192.168.0.1:9876;192.168.0.2:9876
在生产环境部署Broker,请参考以下软硬件要求
2.5 Broker集群部署
推荐的几种 Broker集群部署方式,这里的Slave不可写,但可读,类似与 Mysql主备方式。
1.单个 Master
这种方式风险较大,一旦Broker重启或者宕机时,会导致整个服务不可用,不建议线上环境使用。
2.多 Master模式
一个集群无 Slave,全是 Master,例如 2个 Master或者 3个 Master
优点:配置简单,单个Master宕机或重启维护对应用无影响,在磁盘配置为 RAID10时,即使机器宕机不可恢复情况下,由与 RAID10磁盘非常可靠,消息也不会丢(异步刷盘丢失少量消息,同步刷盘一条不丢)。性能最高。
缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受到受到影响。
###先启动 NameServer,例如机器 IP为:192.168.1.1:9876nohup sh mqnamesrv &
###在机器 A,启动第一个 Masternohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-noslave/broker-a.properties &
###在机器 B,启动第二个 Masternohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-noslave/broker-b.properties &
3.多 Master多 Slave模式,异步复制
每个 Master配置一个 Slave,有多对Master-Slave,HA采用异步复制方式,主备有短暂消息延迟,毫秒级。
优点:即使磁盘损坏,消息丢失的非常少,且消息实时性不会受影响,因为 Master宕机后,消费者仍然可以从 Slave消费,此过程对应用透明。不需要人工干预。性能同多 Master模式几乎一样。
缺点:Master宕机,磁盘损坏情况,会丢失少量消息。
###先启动 NameServer,例如机器 IP为:192.168.1.1:9876nohup sh mqnamesrv &
###在机器 A,启动第一个 Masternohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-a.properties &
###在机器 B,启动第二个 Masternohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-b.properties &
###在机器 C,启动第一个 Slavenohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-a-s.properties &
###在机器 D,启动第二个 Slavenohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-b-s.properties &
4.多 Master多 Slave模式,同步双写
每个 Master配置一个 Slave,有多对Master-Slave,HA采用同步双写方式,主备都写成功,向应用返回成功。
优点:数据与服务都无单点,Master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高
缺点:性能比异步复制模式略低,大约低 10%左右,发送单个消息的 RT会略高。目前主宕机后,备机不能自动切换为主机,后续会支持自动切换功能。
###先启动 NameServer,例如机器 IP为:192.168.1.1:9876nohup sh mqnamesrv &
###在机器 A,启动第一个 Masternohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-a.properties &
###在机器 B,启动第二个 Masternohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-b.properties &
###在机器 C,启动第一个 Slavenohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-a-s.properties &
###在机器 D,启动第二个 Slavenohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-b-s.properties &
以上 Broker与 Slave配对是通过指定相同的brokerName参数来配对,Master的 BrokerId必须是 0,Slave的BrokerId必须是大与 0的数。另外一个 Master下面可以挂载多个 Slave,同一 Master下的多个 Slave通过指定不同的 BrokerId来区分。
$ROCKETMQ_HOST指的 RocketMQ安装目录,需要用户自己设置此环境变量