RabbitMQ集群

乐一没烦恼

已于 2023-11-08 21:03:53 修改

阅读量56

点赞数 1

文章标签：运维 linux rabbitmq

于 2023-11-08 19:57:21 首次发布

本文链接：https://blog.csdn.net/yc1112/article/details/134297239

版权

1.消息中间件

1.1简介

消息中间件也可以称消息队列，是指用高效可靠的消息传递机制进行与平台无关的数据交流，并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型，可以在分布式环境下扩展进程的通信。

当下主流的消息中间件有RabbitMQ、Kafka、ActiveMQ、RocketMQ等。

1.2作用

主要作用：

冗余(存储)
扩展性
可恢复性
顺序保证
缓冲
异步通信

两种模式：

点对点模式：P2P模式包含三个角色：消息队列（Queue）、发送者(Sender)、接收者(Receiver)。每个消息都被发送到一个特定的队列，接收者从队列中获取消息。队列保留着消息，直到它们被消费或超时。

特点：

每个消息只有一个消费者（Consumer），即一旦被消费，消息就不再在消息队列中
发送者和接收者之间在时间上没有依赖性，也就是说当发送者发送了消息之后，不管接收者有没有正在运行它不会影响到消息被发送到队列
接收者在成功接收消息之后需向队列应答成功
如果希望发送的每个消息都会被成功处理的话，那么需要P2P模式

Pub/Sub模式：Pub/Sub模式包含三个角色：主题（Topic）、发布者（Publisher）、订阅者（Subscriber）。多个发布者将消息发送到Topic，系统将这些消息传递给多个订阅者。

特点：

每个消息可以有多个消费者
发布者和订阅者之间有时间上的依赖性。针对某个主题（Topic）的订阅者，它必须创建一个订阅者之后，才能消费发布者的消息
为了消费消息，订阅者必须保持运行的状态
如果希望发送的消息可以不被做任何处理、或者只被一个消息者处理、或者可以被多个消费者处理的话，那么可以采用Pub/Sub模型

1.3常用中间件介绍与对比

1、Kafka

Kafka是LinkedIn开源的分布式发布-订阅消息系统，目前归属于Apache顶级项目。Kafka主要特点是基于Pull的模式来处理消息消费，追求高吞吐量，一开始的目的就是用于日志收集和传输。0.8版本开始支持复制，不支持事务，对消息的重复、丢失、错误没有严格要求，适合产生大量数据的互联网服务的数据收集业务。

2、RabbitMQ

RabbitMQ是使用Erlang语言开发的开源消息队列系统，基于AMQP协议来实现。AMQP的主要特征是面向消息、队列、路由（包括点对点和发布/订阅）、可靠性、安全。AMQP协议更多用在企业系统内对数据一致性、稳定性和可靠性要求很高的场景，对性能和吞吐量的要求还在其次。

3、RocketMQ

RocketMQ是阿里开源的消息中间件，它是纯Java开发，具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。RocketMQ思路起源于Kafka，但并不是Kafka的一个Copy，它对消息的可靠传输及事务性做了优化，目前在阿里集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、binglog分发等场景。

RabbitMQ比Kafka可靠，Kafka更适合IO高吞吐的处理，一般应用在大数据日志处理或对实时性（少量延迟），可靠性（少量丢数据）要求稍低的场景使用，比如ELK日志收集。

2.RabbitMQ集群

2.1RabbitMQ简介

RabbiMQ是⽤Erang开发的，集群⾮常⽅便，因为Erlang天⽣就是⼀⻔分布式语⾔，但其本身并不⽀持负载均衡。支持高并发，支持可扩展。支持AJAX，持久化，用于在分布式系统中存储转发消息，在易用性、扩展性、高可用性等方面表现不俗。

2.2RabbitMQ特点

可靠性
扩展性
高可用性
多种协议
多语言客户端
管理界面
插件机制

2.3什么是消息队列

MQ 全称为Message Queue, 。是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息（针对应用程序的数据）来通信，而无需专用连接来链接它们。

消息传递指的是程序之间通过在消息中发送数据进行通信，而不是通过直接调用彼此来通信。

3.RabbitMQ集群部署

环境准备

准备3台虚拟机，关闭防火墙、selinux，做好域名解析

192.168.43.129 rabbitmq-1
192.168.43.133 rabbitmq-2
192.168.43.134 rabbitmq-3

#配置域名解析（3台都配）
[root@rabbitmq-1 ~]# vim /etc/hosts
  127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
  ::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
  192.168.43.129 rabbitmq-1
	192.168.43.133 rabbitmq-2
	192.168.43.134 rabbitmq-3

3台服务器安装rabbitmq软件

#安装环境
[root@rabbitmq-1 ~]# yum install -y epel-release gcc-c++ unixODBC unixODBC-devel openssl-devel ncurses-devel
#yum安装erlang
[root@rabbitmq-1 ~]# curl -s https://packagecloud.io/install/repositories/rabbitmq/erlang/script.rpm.sh | sudo bash
[root@rabbitmq-1 ~]# yum install erlang-21.3.8.21-1.el7.x86_64
#测试；
[root@rabbitmq-1 ~]# erl
Erlang/OTP 20 [erts-9.3] [source] [64-bit] [smp:1:1] [ds:1:1:10] [async-threads:10] [hipe] [kernel-poll:false]

Eshell V9.3  (abort with ^G)
1>

#安装rabbitmq
https://github.com/rabbitmq/rabbitmq-server/releases/tag/v3.7.10
[root@rabbitmq-1 ~]# yum install rabbitmq-server-3.7.10-1.el7.noarch.rpm

# rabbitmq 和erlang兼容版本
https://www.rabbitmq.com/which-erlang.html
# erlang 版本选择
https://packagecloud.io/rabbitmq/erlang
# rabbitmq 版本选择
https://www.rabbitmq.com/news.html

启动rabbitmq

启动方式一：
[root@rabbitmq-1 ~]# systemctl daemon-reload
[root@rabbitmq-1 ~]# systemctl start rabbitmq-server
[root@rabbitmq-1 ~]# systemctl enable rabbitmq-server
启动方式二:
[root@rabbitmq-1 ~]# /sbin/service rabbitmq-server status  ---查看状态
[root@rabbitmq-1 ~]# /sbin/service rabbitmq-server start   ---启动

如果启动报错，断开然后重新连接会话

每台都操作开启rabbitmq的web访问界面：
[root@rabbitmq-1 ~]# rabbitmq-plugins enable rabbitmq_management

开启用户远程登陆（所有机器）

[root@rabbitmq-1 ~]# cd /etc/rabbitmq/
[root@rabbitmq-1 rabbitmq]# cp /usr/share/doc/rabbitmq-server-3.7.10/rabbitmq.config.example /etc/rabbitmq/rabbitmq.config
[root@rabbitmq-1 rabbitmq]# ls
enabled_plugins  rabbitmq.config
[root@rabbitmq-1 rabbitmq]# vim rabbitmq.config

修改配置

三台机器都进行重启：systemctl restart rabbitmq-server

查看端口

4369 -- erlang发现端口

5672 --程序连接端口

15672 -- 管理界面ui端口

25672 -- server间内部通信口

访问192.168.43.129:15672

使用默认用户guest登录，密码为guest

新添加的用户为:leyi 密码:123456

开始部署集群三台机器都操作

[root@rabbitmq-1 ~]# mkdir -p /data/rabbitmq/data
[root@rabbitmq-1 ~]# mkdir -p /data/rabbitmq/logs
[root@rabbitmq-1 ~]# chmod 777 -R /data/rabbitmq
[root@rabbitmq-1 ~]# chown rabbitmq.rabbitmq /data/ -R
创建配置文件:
[root@rabbitmq-1 ~]# vim /etc/rabbitmq/rabbitmq-env.conf
[root@rabbitmq-1 ~]# cat /etc/rabbitmq/rabbitmq-env.conf
RABBITMQ_MNESIA_BASE=/data/rabbitmq/data
RABBITMQ_LOG_BASE=/data/rabbitmq/logs
重启服务
[root@rabbitmq-1 ~]# systemctl restart rabbitmq-server

2.拷贝erlang.cookie

[root@rabbitmq-1 ~]# cat /var/lib/rabbitmq/.erlang.cookie
HOUCUGJDZYTFZDSWXTHJ
⽤scp的⽅式将rabbitmq-1节点的.erlang.cookie的值复制到其他两个节点中。
[root@rabbitmq-1 ~]# scp /var/lib/rabbitmq/.erlang.cookie 192.168.43.133:/var/lib/rabbitmq/
[root@rabbitmq-1 ~]# scp /var/lib/rabbitmq/.erlang.cookie 192.168.43.134:/var/lib/rabbitmq/

3.将mq-2、mq-3作为内存节点加⼊mq-1节点集群中

在mq-2、mq-3执⾏如下命令：
[root@rabbitmq-2 ~]# systemctl restart rabbitmq-server
[root@rabbitmq-2 ~]# rabbitmqctl stop_app  #停止节点
[root@rabbitmq-2 ~]# rabbitmqctl reset   #如果有数据需要重置，没有则不用
[root@rabbitmq-2 ~]# rabbitmqctl join_cluster --ram rabbit@rabbitmq-1  #添加到内存节点
Clustering node 'rabbit@rabbitmq-2' with 'rabbit@rabbitmq-1' ...
[root@rabbitmq-2 ~]# rabbitmqctl start_app  #启动节点
Starting node 'rabbit@rabbitmq-2' ...
======================================================================
[root@rabbitmq-3 ~]# systemctl restart rabbitmq-server
[root@rabbitmq-3 ~]# rabbitmqctl stop_app
Stopping node 'rabbit@rabbitmq-3' ...
[root@rabbitmq-3 ~]# rabbitmqctl reset
Resetting node 'rabbit@rabbitmq-3' ...
[root@rabbitmq-3 ~]# rabbitmqctl join_cluster --ram rabbit@rabbitmq-1
Clustering node 'rabbit@rabbitmq-3' with 'rabbit@rabbitmq-1' ...
[root@rabbitmq-3 ~]# rabbitmqctl start_app
Starting node 'rabbit@rabbitmq-3' ...

mq-2和mq-3是内存节点，
mq-1是磁盘节点。
如果要使mq-2、mq-3都是磁盘节点，去掉--ram参数即可。
如果想要更改节点类型，可以使⽤命令rabbitmqctl change_cluster_node_type
disc(ram),前提是必须停掉rabbit应⽤
在RabbitMQ集群集群中，必须⾄少有⼀个磁盘节点，否则队列元数据⽆法写⼊到集群中，当磁盘节点宕掉时，集群将⽆法写⼊新的队列元数据信息。

4.查看集群状态

在 RabbitMQ 集群任意节点上执行 rabbitmqctl cluster_status来查看是否集群配置成功。每台机器显示出三台节点，表示已经添加成功！

5.登录rabbitmq web管理控制台，创建新的队列

打开浏览器输⼊http://192.168.43.129:15672, 输⼊默认的Username：guest，输⼊默认的密码：guest，登陆后长这样

4.RabbitMQ镜像集群配置

要想在队列节点宕机或故障也能正常应用，就要复制队列内容到集群里的每个节点，必须要创建镜像队列。

创建镜像集群

#三台机器都执行以下命令
[root@rabbitmq-1 ~]# rabbitmqctl set_policy  ha-all "^" '{"ha-mode":"all"}'
Setting policy "ha-all" for pattern "^" to "{"ha-mode":"all"}" with priority "0" for vhost "/" ...

"-p Vhost" :vhost名称， "^"匹配所有的队列， ha-all 策略名称为ha-all, '{"ha-mode":"all"}' 策略模式为 all 即复制到所有节点，包含新增节点。

在web界面创建一个虚拟主机，创建用户，并给用户权限添加队列，在第一台服务器中执行以下命令；

[root@rabbitmq-1 ~]# rabbitmqctl set_policy -p coresystem ha-all "^" '{"ha-mode":"all"}'

将所有队列设置为镜像队列

安装并配置负载均衡器

在192.168.43.129上安装haproxy

[root@rabbitmq-1 ~]yum -y install haproxy
修改配置文件
[root@rabbitmq-1 ~]# cp /etc/haproxy/haproxy.cfg /etc/haproxy/haproxy.cfg.bak
[root@rabbitmq-1 ~]# vim /etc/haproxy/haproxy.cfg
global
    log         127.0.0.1 local2

    chroot      /var/lib/haproxy
    pidfile     /var/run/haproxy.pid
    maxconn     4000
    user        haproxy
    group       haproxy
    nbproc      4
    daemon
    # turn on stats unix socket
    stats socket /var/lib/haproxy/stats
#---------------------------------------------------------------------
defaults
    mode                    http
    log                     global
    retries                 3
    timeout connect         10s
    timeout client          1m
    timeout server          1m
    timeout check           10s
    maxconn                 2048
#---------------------------------------------------------------------
##监控查看本地状态#####
listen admin_stats
        bind *:89   #防止端口冲突，这里修改一下端口
    mode http
    option httplog
    option httpclose
    log 127.0.0.1 local0 err
    stats uri  /haproxy
    stats auth leyi:123456
    stats refresh 30s
####################################
###反代监控
frontend server
    bind *:5670
    log global
    mode tcp
    #option forwardfor
    default_backend rabbitmq
    maxconn 3
backend rabbitmq
    mode        tcp
    log         global
    balance     roundrobin
    server      rabbitmq-1 192.168.43.129:5672 check inter 2000s rise 2 fall 3
    server      rabbitmq-2 192.168.43.133:5672 check inter 2000s rise 2 fall 3
    server      rabbitmq-3 192.168.43.134:5672 check inter 2000s rise 2 fall 3
    
[root@rabbitmq-1 ~]# systemctl start haproxy
[root@rabbitmq-1 ~]# ss -nplt #查看一下89 和5670端口有没有被监听

浏览器输入http://192.168.43.129:89/haproxy查看rabbitmq的状态。

rabbitmq测试

克隆代码
[root@rabbitmq-1 ~]# git clone https://gitea.beyourself.org.cn/newrain001/rabbitmq-test.git
[root@rabbitmq-1 ~]# cd rabbitmq-test
[root@rabbitmq-1 rabbitmq-test]# ll
总用量 16
-rw-r--r--. 1 root root 3572 10月  8 18:10 app.py
drwxr-xr-x. 2 root root   95 10月  8 18:10 __pycache__
-rw-r--r--. 1 root root  363 10月  8 18:10 README.md
-rw-r--r--. 1 root root  250 10月  8 18:10 requirements.txt
-rw-r--r--. 1 root root  188 10月  8 18:10 settings.py
drwxr-xr-x. 2 root root   46 10月  8 18:10 templates
装mysql
[root@rabbitmq-1 rabbitmq-test]# yum -y install mysql-server
[root@rabbitmq-1 ~]# systemctl start mysqld
[root@rabbitmq-1 ~]# grep "pass" /var/log/mysqld.log 
2023-11-08T08:25:35.292658Z 1 [Note] A temporary password is generated for root@localhost: VtkO!&?o>8aj
[root@rabbitmq-1 ~]# mysqladmin -uroot -p'VtkO!&?o>8aj' password 'Qianfeng@123'
mysqladmin: [Warning] Using a password on the command line interface can be insecure.
Warning: Since password will be sent to server in plain text, use ssl connection to ensure password safety.

mysql> grant all on *.* to 'root'@'%' identified by 'Qianfeng@123';
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> \q
Bye
[root@rabbitmq-1 rabbitmq-test]# cat settings.py 
# rabbitmq 配置
MQName="message_queue"
MQUser="guest"
MQPassword="guest"
MQHost="localhost"
MQPort=5670
 
# mysql数据库配置
DBHost="localhost"
DBUser="root"
DBPassword="Qianfeng@123"

装python环境
[root@rabbitmq-1 rabbitmq-test]#  yum install -y python3 python3-devel
[root@rabbitmq-1 rabbitmq-test]# pip3 install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple 
Successfully installed Faker-14.2.1 Flask-2.0.3 Jinja2-3.0.3 MarkupSafe-2.0.1 PyMySQL-1.0.2 Werkzeug-2.0.3 click-8.0.4 dataclasses-0.8 importlib-metadata-4.8.3 itsdangerous-2.0.1 pika-1.3.1 python-dateutil-2.8.2 six-1.16.0 typing-extensions-4.1.1 zipp-3.6.0
[root@rabbitmq-1 rabbitmq-test]# export FLASK_ENV=development
运行测试环境
[root@rabbitmq-1 rabbitmq-test]# flask run --reload -p 80 -h 0.0.0.0   
 * Environment: development
 * Debug mode: on
 * Running on all addresses.
   WARNING: This is a development server. Do not use it in a production deployment.
 * Running on http://192.168.43.129:80/ (Press CTRL+C to quit)
 * Restarting with stat
 * Debugger is active!
 * Debugger PIN: 556-232-772

浏览器http://192.168.43.129/为下单页面，可在此页面进行虚拟下单，http://192.168.43.129/read/进行发货，发货时客户的数据会写入到数据库中，在haproxy的web界面和rabbitmq的web界面观察.

rabbitmq的一些命令

创建用户：

创建用户
[root@rabbitmq-1 ~]# rabbitmqctl add_user leyi 123456
Creating user "leyi" ...
...done.
设为管理员
[root@rabbitmq-1 ~]# rabbitmqctl set_user_tags leyi administrator
Setting tags for user "leyi" to [administrator] ...
...done.
查看用户
[root@rabbitmq-1 ~]# rabbitmqctl list_users
Listing users ...
guest	[administrator]
leyi	[administrator]
...done.
授权虚拟主机
[root@rabbitmq-1 ~]# rabbitmqctl set_permissions -p "/" leyi ".*" ".*" ".*"
Setting permissions for user "leyi" in vhost "/" ...
...done.

 新建用户：rabbitmqctl add_user xxxpwd
  删除用户: rabbitmqctl delete_user xxx
  查看用户：rabbitmqctl list_users
  改密码: rabbimqctl change_password {username} {newpassword}
  设置用户角色：rabbitmqctlset_user_tags {username} {tag ...}
  Tag可以为 administrator,monitoring, management

插件管理

开启某个插件：rabbitmq-plugins enable  xxx
  关闭某个插件：rabbitmq-plugins disable xxx
  注意：重启服务器后生效。

virtual_host管理

  新建virtual_host:rabbitmqctl add_vhost  xxx
撤销virtual_host:rabbitmqctl  delete_vhost xxx

其他使用命令：

rabbitmq-plugins list    ----查看安装的插件
rabbitmq-server -detached  -----------启动RabbitMQ节点
rabbitmqctl start_app ----------启动RabbitMQ应用，而不是节点
rabbitmqctl stop_app  ------停止
rabbitmqctl status  ------查看状态
rabbitmqctl add_user mq 123456    -------设置用户和密码
rabbitmqctl set_user_tags mq administrator ------------------新增账户并设置为管理员
rabbitmq-plugins enable rabbitmq_management  --------------------启用RabbitMQ_Management
rabbitmqctl cluster_status -------------------集群状态
rabbitmqctl forget_cluster_node rabbit@rabbit3 -------------------节点摘除 
rabbitmqctl reset application----------------------重置
 rabbitmqctl set_permissions -p "/" 123456  ".*" ".*" ".*"    --------------授权
--------------------- 
查看Connection，Queue，Channel,User

   rabbitmqctl list_connections  #列出所有连接
   rabbitmqctl list_queues  #列出所有队列
   rabbitmqctl list_channels #列出所有通道
   rabbitmqctl list_users   #列出所有用户

  设置节点类型
如果你想更换节点类型可以通过命令修改，如下：

rabbitmqctl stop_app
rabbitmqctl change_cluster_node_type dist
rabbitmqctl change_cluster_node_type ram
rabbitmqctl start_app
===================================================
移除节点
如果想要把节点从集群中移除，可使用如下命令实现：

rabbitmqctl stop_app
rabbitmqctl restart
rabbitmqctl start_app
=============================================
集群重启顺序
集群重启的顺序是固定的，并且是相反的。如下所述：

启动顺序：磁盘节点 => 内存节点
关闭顺序：内存节点 => 磁盘节点

最后关闭必须是磁盘节点，不然可能回造成集群启动失败、数据丢失等异常情况。

乐一没烦恼

关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
RabbitMQ集群

消息中间件也可以称消息队列，是指用高效可靠的消息传递机制进行与平台无关的数据交流，并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型，可以在分布式环境下扩展进程的通信。当下主流的消息中间件有RabbitMQ、Kafka、ActiveMQ、RocketMQ等。Kafka是LinkedIn开源的分布式发布-订阅消息系统，目前归属于Apache顶级项目。Kafka主要特点是基于Pull的模式来处理消息消费，追求高吞吐量，一开始的目的就是用于日志收集和传输。
复制链接

扫一扫