RabbitMQ（十）RabbitMQ集群

最新推荐文章于 2023-06-13 19:29:34 发布
最新推荐文章于 2023-06-13 19:29:34 发布
阅读量269 收藏 1
点赞数
文章标签： rabbitmq 分布式 消息队列 linux 负载均衡
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_49741990/article/details/113199855
版权

RabbitMQ（十）RabbitMQ集群

rabbitmq有3种模式，但集群模式是2种。详细如下：

  • 单一模式：即单机情况不做集群，就单独运行一个rabbitmq而已。之前我们一直在用

  • 普通模式：默认模式，以两个节点（A、B）为例来进行说明

    • 当消息进入A节点的Queue后，consumer从B节点消费时，RabbitMQ会在A和B之间创建临时通道进行消息传输，把A中的消息实体取出并经过通过交给B发送给consumer
    • 当A故障后，B就无法取到A节点中未消费的消息实体
      • 如果做了消息持久化，那么得等A节点恢复，然后才可被消费
      • 如果没有持久化的话，就会产生消息丢失的现象

  • 镜像模式：非常经典的 mirror 镜像模式，保证 100% 数据不丢失。

    • 高可靠性解决方案，主要就是实现数据的同步，一般来讲是 2 - 3 个节点实现数据同步
    • 对于 100% 数据可靠性解决方案，一般是采用 3 个节点。
    • 在实际工作中也是用得最多的，并且实现非常的简单，一般互联网大厂都会构建这种镜像集群模式

  • 还有主备模式，远程模式，多活模式等，老夫也没有咋了解，可自行查阅资料了解

集群搭建

前置条件：准备两台linux，并安装好rabbitmq

  • 集群步骤如下：

  1. 修改 /etc/hosts 映射文件

    1号服务器：

    127.0.0.1 A localhost localhost.localdomain localhost4 localhost4.localdomain4
::1    A localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.204.141 A
192.168.204.142 B

    2号服务器：

    127.0.0.1 B localhost localhost.localdomain localhost4 localhost4.localdomain4
::1    B localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.204.141 A
192.168.204.142 B

    修改cookie文件，要重启服务器，reboot

  2. 相互通信，cookie必须保持一致，同步 rabbitmq的cookie 文件：跨服务器拷贝.erlang.cookie（隐藏文件，使用 ls -all 显示）

[root@A usr]# scp /var/lib/rabbitmq/.erlang.cookie 192.168.204.142:/var/lib/rabbitmq

修改cookie文件，要重启服务器，reboot

  1. 停止防火墙，启动rabbitmq服务

    [root@A ~]# systemctl stop firewalld
[root@A ~]# systemctl start rabbitmq-server

  2. 加入集群节点

    [root@B ~]# rabbitmqctl stop_app
[root@B ~]# rabbitmqctl join_cluster rabbit@A
[root@B ~]# rabbitmqctl start_app

  3. 查看节点状态

    [root@B ~]# rabbitmqctl cluster_status

  4. 查看管理端

    • 搭建集群结构之后，之前创建的交换机、队列、用户都属于单一结构，在新的集群环境中是不能用的

    • 所以在新的集群中重新手动添加用户即可（任意节点添加，所有节点共享）

      [root@A ~]# rabbitmqctl add_user admin admin
[root@A ~]# rabbitmqctl set_user_tags admin administrator
[root@A ~]# rabbitmqctl set_permissions -p "/" admin ".*" ".*" ".*"

    • 注意：当节点脱离集群还原成单一结构后，交换机，队列和用户等数据 都会重新回来

在这里插入图片描述

镜像模式

  • 将所有队列设置为镜像队列，即队列会被复制到各个节点，各个节点状态一致

    • 语法：set_policy {name} {pattern} {definition}

      • name：策略名，可自定义

      • pattern：队列的匹配模式（正则表达式）

        • “^” 可以使用正则表达式，比如"^queue_" 表示对队列名称以“queue_”开头的所有队列进行镜像，而"^"表示匹配所有的队列

      • definition：镜像定义，包括三个部分ha-mode, ha-params, ha-sync-mode

        • ha-mode：（High Available，高可用）模式，指明镜像队列的模式，有效值为all/exactly/nodes，当前策略模式为 all，即复制到所有节点，包含新增节点

          all：表示在集群中所有的节点上进行镜像
exactly：表示在指定个数的节点上进行镜像，节点的个数由ha-params指定
nodes：表示在指定的节点上进行镜像，节点名称通过ha-params指定

        • ha-params：ha-mode模式需要用到的参数

        • ha-sync-mode：进行队列中消息的同步方式，有效值为automatic和manual

[root@A ~]# rabbitmqctl set_policy xall "^" '{"ha-mode":"all"}'
  • 通过管理端设置镜像策略

在这里插入图片描述

HAProxy实现镜像队列的负载均衡

  • 虽然我们在程序中访问A服务器，可以实现消息的同步，虽然在同步，但都是A服务器在接收消息，A太累
  • 是否可以想Nginx一样，做负载均衡，A和B轮流接收消息，再镜像同步

HAProxy简介

  • HA（High Available，高可用），Proxy（代理）
  • HAProxy是一款提供高可用性，负载均衡，并且基于TCP和HTTP应用的代理软件
  • HAProxy完全免费
  • HAProxy可以支持数以万计的并发连接
  • HAProxy可以简单又安全的整合进架构中，同时还保护web服务器不被暴露到网络上

在这里插入图片描述

HAProxy与Nginx

OSI：（Open System Interconnection：开放式系统互联 是把网络通信的工作分为7层,分别是物理层,数据链路层,网络层,传输层,会话层,表示层和应用层）

  • Nginx的优点：

    • 工作在OSI第7层，可以针对http应用做一些分流的策略
    • Nginx对网络的依赖非常小，理论上能ping通就就能进行负载功能，屹立至今的绝对优势
    • Nginx安装和配置比较简单，测试起来比较方便；
    • Nginx不仅仅是一款优秀的负载均衡器/反向代理软件，它同时也是功能强大的Web应用服务器

  • HAProxy的优点：

    • 工作在网络4层和7层，支持TCP与Http协议
    • 它仅仅就只是一款负载均衡软件；单纯从效率上来讲HAProxy更会比Nginx有更出色的负载均衡速度，在并发处理上也是优于Nginx的
    • 支持8种负载均衡策略 ，支持心跳检测

  • 性能上HA胜，功能性和便利性上Nginx胜

  • 对于Http协议，Haproxy处理效率比Nginx高。所以，没有特殊要求的时候或者一般场景，建议使用Haproxy来做Http协议负载

  • 但如果是Web应用，那么建议使用Nginx！

  • 总之，大家可以结合各自使用场景的特点来进行合理地选择

安装和配置

解压

tar -zxvf haproxy-1.8.12.tar.gz

make时需要使用 TARGET 指定内核及版本

uname -r
4.18.0-193.28.1.el8_2.x86_64

根据内核版本选择编译参数：

在这里插入图片描述

进入目录，编译和安装

cd haproxy-1.8.12
make TARGET=linux2628 PREFIX=/usr/local/haproxy
make install PREFIX=/usr/local/haproxy

安装成功后，查看版本

/usr/local/haproxy/sbin/haproxy -v

配置启动文件，复制haproxy文件到/usr/sbin下 ，复制haproxy脚本，到/etc/init.d下

cp /usr/local/haproxy/sbin/haproxy /usr/sbin/
cp ./examples/haproxy.init /etc/init.d/haproxy
chmod 755 /etc/init.d/haproxy

创建系统账号

useradd -r haproxy

haproxy.cfg 配置文件需要自行创建

mkdir /etc/haproxy
vim /etc/haproxy/haproxy.cfg

添加配置信息到haproxy.cfg

#全局配置
global
 #设置日志
 log 127.0.0.1 local0 info
 #当前工作目录
 chroot /usr/local/haproxy
 #用户与用户组
 user haproxy
 group haproxy
 #运行进程ID
 uid 99
 gid 99
 #守护进程启动
 daemon
 #最大连接数
 maxconn 4096
#默认配置
defaults
 #应用全局的日志配置
 log global
 #默认的模式mode {tcp|http|health}，TCP是4层，HTTP是7层，health只返回OK
 mode tcp
 #日志类别tcplog
 option tcplog
 #不记录健康检查日志信息
 option dontlognull
 #3次失败则认为服务不可用
 retries 3
 #每个进程可用的最大连接数
 maxconn 2000
 #连接超时
 timeout connect 5s
 #客户端超时30秒，ha就会发起重新连接
 timeout client 30s
 #服务端超时15秒，ha就会发起重新连接
 timeout server 15s
#绑定配置
listen rabbitmq_cluster
   bind 192.168.204.143:5672
   #配置TCP模式
   mode tcp
   #简单的轮询
   balance roundrobin
   #RabbitMQ集群节点配置，每隔5秒对mq集群做检查，2次正确证明服务可用，3次失败证明服务不可用
   server A 192.168.204.141:5672 check inter 5000 rise 2 fall 3
   server B 192.168.204.142:5672 check inter 5000 rise 2 fall 3
#haproxy监控页面地址
listen monitor
   bind 192.168.204.143:8100
   mode http
   option httplog
   stats enable
   # 监控页面地址 http://192.168.204.143:8100/monitor
   stats uri /monitor 
   stats refresh 5s

启动HAProxy

service haproxy start

访问监控中心：http://192.168.204.143:8100/monitor

记得关闭防火墙： systemctl stop firewalld

在这里插入图片描述

项目发消息，只需要将服务器地址修改为143即可，其余不变

所有的请求都会交给HAProxy，其负载均衡给每个rabbitmq服务器

KeepAlived搭建高可用的HAProxy集群

现在的最后一个问题暴露出来了，如果HAProxy服务器宕机，rabbitmq服务器就不可用了。所以我们需要对HAProxy也要做高可用的集群

概述

  • Keepalived是Linux下一个轻量级别的高可用热备解决方案
  • Keepalived的作用是检测服务器的状态，它根据TCP/IP参考模型的第三、第四层、第五层交换机制检测每个服务节点的状态，如果有一台web服务器宕机，或工作出现故障，Keepalived将检测到，并将有故障的服务器从系统中剔除，同时使用其他服务器代替该服务器的工作，当服务器工作正常后Keepalived自动将服务器加入到服务器群中，这些工作全部自动完成，不需要人工干涉，需要人工做的只是修复故障的服务器。
  • keepalived基于vrrp（Virtual Router Redundancy Protocol，虚拟路由冗余协议）协议，vrrp它是一种主备（主机和备用机）模式的协议，通过VRRP可以在网络发生故障时透明的进行设备切换而不影响主机之间的数据通信
  • 两台主机之间生成一个虚拟的ip，我们称漂移ip，漂移ip由主服务器承担，一但主服务器宕机，备份服务器就会抢夺漂移ip，继续工作，有效的解决了群集中的单点故障
  • 说白了，将多台路由器设备虚拟成一个设备，对外提供统一ip（VIP）

在这里插入图片描述

安装KeepAlived

修改hosts文件的地址映射

ip用途主机名
192.168.204.143KeepAlived HAProxyC
192.168.204.144KeepAlived HAProxyD

安装 keepalived

yum install -y keepalived

修改配置文件（内容大改，不如删掉，重新创建）

rm -rf /etc/keepalived/keepalived.conf
vim /etc/keepalived/keepalived.conf

! Configuration File for keepalived
global_defs {
 router_id C ## 非常重要，标识本机的hostname
}
vrrp_script chk_haproxy{
 script "/etc/keepalived/haproxy_check.sh" ## 执行的脚本位置
 interval 2 ## 检测时间间隔
 weight -20 ## 如果条件成立则权重减20
}
vrrp_instance VI_1 {
 state MASTER ## 非常重要，标识主机，备用机143改为 BACKUP
 interface ens33 ## 非常重要，网卡名（ifconfig查看）
 virtual_router_id 66 ## 非常重要，自定义，虚拟路由ID号（主备节点要相同）
 priority 100 ## 优先级（0-254），一般主机的大于备机
 advert_int 1 ## 主备信息发送间隔，两个节点必须一致，默认1秒
 authentication { ## 认证匹配，设置认证类型和密码，MASTER和BACKUP必须使用相同的密码才能正常通信
   auth_type PASS
   auth_pass 1111
 }
 track_script {
   chk_haproxy ## 检查haproxy健康状况的脚本
 }
 virtual_ipaddress { ## 简称“VIP”
    192.168.204.66/24 ## 非常重要，虚拟ip，可以指定多个，以后连接mq就用这个虚拟ip
 }
}
virtual_server 192.168.204.66 5672 { ## 虚拟ip的详细配置
 delay_loop 6 # 健康检查间隔，单位为秒
 lb_algo rr # lvs调度算法rr|wrr|lc|wlc|lblc|sh|dh
 lb_kind NAT # 负载均衡转发规则。一般包括DR,NAT,TUN 3种
 protocol TCP # 转发协议，有TCP和UDP两种，一般用TCP
 real_server 192.168.204.143 5672 { ## 本机的真实ip
weight 1 # 默认为1,0为失效
 }
}

创建执行脚本 /etc/keepalived/haproxy_check.sh

#!/bin/bash
COUNT=`ps -C haproxy --no-header |wc -l`
if [ $COUNT -eq 0 ];then
 /usr/local/haproxy/sbin/haproxy -f /etc/haproxy/haproxy.cfg
  sleep 2
  if [ `ps -C haproxy --no-header |wc -l` -eq 0 ];then
    killall keepalived
  fi
fi

Keepalived 组之间的心跳检查并不能察觉到 HAproxy 负载是否正常，所以需要使用此脚本。
在 Keepalived 主机上，开启此脚本检测 HAproxy 是否正常工作，如正常工作，记录日志。
如进程不存在，则尝试重启 HAproxy ，2秒后检测，如果还没有，则关掉主 Keepalived ，此时备Keepalived 检测到主 Keepalived 挂掉，接管VIP，继续服务

授权，否则不能执行

chmod +x /etc/keepalived/haproxy_check.sh

启动keepalived（两台都启动）

systemctl stop firewalld
service keepalived start | stop | status | restart

查看状态

ps -ef | grep haproxy
ps -ef | grep keepalived

查看ip情况 ip addr 或 ip a

ip a

在这里插入图片描述

此时，安装完毕，按照上面的步骤就可以安装第二台了（服务器hostname和ip注意要修改）

常见的网络错误：子网掩码、网关等信息要一致

在这里插入图片描述

测试ip漂移的规则

查看虚拟ip ip addr 或 ip a

目前，C节点是主机，所以虚拟ip在C节点

在这里插入图片描述

停止C的keepalived，虚拟ip漂移到D节点

在这里插入图片描述

重新启动C节点keepalived，虚拟ip依旧在D节点，并不会由于C的回归而回归

在这里插入图片描述

停止D的keepalived，虚拟ip再漂移回C节点

在这里插入图片描述

测试vip+端口是否提供服务（在141，A服务器上测试）

curl 192.168.204.66:5672
AMQP ## 正常提供AMQP服务，表示通过vip访问mq服务正常
小星亮晶晶
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RabbitMQ集群
搞事情的博客
11-10 1742
RabbitMQ消息队列的作为一个消息通知的系统，对于可靠性和性能是非常关键，所以集群也是提升可靠性和性能的一种手段。但是我这里只是会写上基础的RabbitMQ的集群搭建，其实也就是方便我以后能够把命令记回来而已。当然我也会尝试在官网上获得一些关于RabbitMQ集群的官方信息在这里贴出 方便我回忆。RabbitMQ内部元数据： 队列元数据 ： 队列名称和他们的属性信息。 交换器元数据 ： 交换器名
【消息队列 MQ 专栏】消息队列之 RabbitMQ —— 集群原理与搭建篇
芋道源码
06-03 560
点击上方“芋道源码”，选择“置顶公众号”技术文章第一时间送达！源码精品专栏 中文详细注释的开源项目Java 并发源码合集RocketMQ 源码合集Sharding-JDB...
rabbitmq的集群
拱白菜的猪的博客
06-15 566
当系统的吞吐量足够大时，以及考虑到系统的时效性，交给rabbitmq去处理的业务就需要保证高可用性，也就是放置rabbitmq宕机，我们需要做集群设置。 一. rabbitmq集群方式 1. 普通集群(主从模式的集群) 简介： 主从模式的集群大概意思可以理解为：rabbitmq设置三个几点，一个为主节点，两个位副节点。但是这种模式中，主节点中的queue信息不会被副节点复制备份，副节点只可以读取主节点的queue信息。如果主节点宕机，副节点就无法读取queue信息了。如果主节点正常运行，...
Rabbitmq-集群
qq_36740038的博客
06-13 2041
镜像集群虽然支持主从，但主从同步并不是强一致性的，某些情况下可能有数据丢失的风险。因此在RabbitMq的3.8版本以后退出了新的功能：仲裁队列来替代镜像集群。底层采用Raft协议确保主从的数据一致性。RabbitMq是天然支持集群模式。是用来替换镜像队列的。
k8s搭建rabbitmq集群
11-30
kubernetes搭建rabbitmq集群，只需创建好相应的pv即可，无需修改，依次执行
rabbitmq镜像集群搭建和连接
08-25
资源包含rabbitmq镜像集群的搭建文档和springboot连接rabbitmq集群的配置方式,供参考
rabbitMq集群
08-18
RabbitMQ 集群部署 RabbitMQ 是一个基于 Erlang 开发的开源消息队列系统，广泛应用于异步消息处理、任务队列和事件驱动架构中。下面是 RabbitMQ 集群部署的详细步骤： 一、安装 Erlang Erlang 是 RabbitMQ 的依赖...
rabbitmq集群测试资源
最新发布
11-08
综上所述，“rabbitmq集群测试资源”可能包含了创建、配置、监控和故障恢复RabbitMQ集群所需的各种工具和信息，这对于理解和优化RabbitMQ集群的性能和可靠性至关重要。在实际操作中，应根据具体需求和环境调整集群...
rabbitmq集群环境搭建
09-20
以上就是RabbitMQ集群环境搭建的主要步骤，通过这些步骤可以在多个服务器之间搭建起一个稳定可靠的RabbitMQ集群。需要注意的是，在实际部署过程中还需要根据实际情况调整配置，并确保网络连接通畅。
Rabbitmq 集群
热门推荐
杨仕虎的博客
02-26 1万+
Rabbitmq 集群 集群目的就是为了实现rabbitmq的高可用性，集群分为2种 普通集群：主备架构，只是实现主备方案，不至于主节点宕机导致整个服务无法使用 镜像集群：同步结构，基于普通集群实现的队列同步 普通集群 slave节点复制master节点的所有数据和状态，除了队列数据，队列数据只存在master节点，但是Rabbitmq slave节点可以实现队列的转发，也就是说消息消费者可以连接到slave节点，但是slave需要连接到master节点转发队列，由此说明只能保证了服务可以用，无法达到高
RabbitMQ集群搭建与管理
"RabbitMQ集群搭建流程及使用方法" 在构建RabbitMQ集群时，首先需要确保所有参与集群的服务器上已经安装了RabbitMQ，并且每个节点上的服务都能够正常启动。RabbitMQ集群的核心在于节点之间的通信，这依赖于一个共享...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值