RabbitMQ学习笔记（六）——优化RabbitMQ集群

最新推荐文章于 2024-08-28 15:35:29 发布
最新推荐文章于 2024-08-28 15:35:29 发布
阅读量1.1k 收藏 3
点赞数 1
分类专栏： RabbitMQ 文章标签： rabbitmq 学习 docker
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42038623/article/details/125169543
版权

目录

优化RabbitMQ集群

什么是真正的高可用

◆ 在传统以物理机/虚拟机为基础的架构中，服务宕机往往需要人工处理
◆ 随着容器技术的发展，容器编排框架可以很好的解决高可用问题
◆ K8S已经成为容器编排的事实标准，能够承载RabbitMQ集群

网络分区故障

◆ 在实际生产中，网络分区是非常常见的故障原因
◆ 网络分区的排查和处理难度较大，需要专门门研究

RabbitMQ状态监控

◆ 在生产环境中，需要实时关注RabbitMQ集群状态
◆ RabbitMQ状态包括流量、内存占用、CPU占用等

使用DockerCompose部署高可用集群

docker 启动 rabbitmq：
docker run -di --name rabbitmq -p 5672:5672 -p 15672:15672 rabbitmq:3-management

什么是Docker Compose

◆ Compose是用于定义和运行多容器Docker应用程序的工具
◆ 通过Compose,可以使用YAML文件来配置应用程序需要的所有服务
◆ 使用一个命令，就可以从YAML文件配置中创建并启动所有服务

安装 Docker Compose

  1. 安装python3-pip
    dnf install python3-pip
  2. 安装docker-compose
    pip3 install docker-compose
  3. 查看版本
    docker-compose version

（由于链接资源是外网，如果安装不成功，提示docker-compose 命令不存在，可线下进行安装）

cd /apps/rabbitmq/
wget https://github.com/docker/compose/releases/download/1.14.0-rc2/docker-compose-Linux-x86_64
rename docker-compose-Linux-x86_64 docker-compose docker-compose-Linux-x86_64
mv docker-compose /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
  1. 使用 Docker Compose 启动3个 RabbitMQ 节点
    cd /apps/rabbitmq/
    vim docker-compose.yml
version: "2.0"
services:
	master:
 		image: rabbitmq:3-management
 		hostname: master
 		ports:
 			- 5672:5672 #集群内部访问的端口
 			- 15672:15672 #外部访问的端口
 		environment:
 			- RABBITMQ_DEFAULT_USER=guest #用户名
 			- RABBITMQ_DEFAULT_PASS=guest #密码
 			- RABBITMQ_ERLANG_COOKIE='ktrabbitmq'
 	salve1:
 		image: rabbitmq:3-management
 		hostname: salve1
 		ports:
 			- 5673:5672 #集群内部访问的端口
 		environment:
 			- RABBITMQ_ERLANG_COOKIE='ktrabbitmq'
 		links:
			- master
 	salve2:
 		image: rabbitmq:3-management
 		hostname: salve2
 		ports:
 			- 5674:5672 #集群内部访问的端口
 		environment:
 			- RABBITMQ_ERLANG_COOKIE='ktrabbitmq'
 		links:
			- master
			- salve1
 	salve3:
 		image: rabbitmq:3-management
 		hostname: salve3
 		ports:
 			- 5675:5672 #集群内部访问的端口
 		environment:
 			- RABBITMQ_ERLANG_COOKIE='ktrabbitmq'
 		links:
			- master
			- salve1
			- salve2

将4个 RabbitMQ 节点搭建为集群

  1. 启动docker-compose，按照脚本启动集群
    docker-compose up -d

  2. 启动集群后可以看看docker进程是是否启动成功
    docker ps

  3. 进入master节点，启用管控台插件,启动后可在web打开rabbitMQ管控台
    docker exec -it rabbitmq_master_1 bash
    rabbitmq-plugins enable rabbitmq_management
    默认用户名: guest 默认密码: guest

  4. 所有salve关联加入集群
    进入salve1节点
    docker exec -it rabbitmq_salve1_1 bash
    停止salve1节点的rabbitmq
    rabbitmqctl stop_app
    配置salve1节点，加入集群
    rabbitmqctl join_cluster rabbit@master
    启动salve1节点的rabbitmq
    rabbitmqctl start_app

进入salve2节点
docker exec -it rabbitmq_salve2_1 bash
停止salve2节点的rabbitmq
rabbitmqctl stop_app
配置salve2节点，加入集群
rabbitmqctl join_cluster rabbit@master
启动salve2节点的rabbitmq
rabbitmqctl start_app

进入salve3节点
docker exec -it rabbitmq_salve3_1 bash
停止salve3节点的rabbitmq
rabbitmqctl stop_app
配置salve3节点，加入集群
rabbitmqctl join_cluster rabbit@master
启动salve3节点的rabbitmq
rabbitmqctl start_app

  1. 设置镜像模式
    进入master内部，执行设置镜像模式即可:
    docker exec -it rabbitmq_master_1 bash
    rabbitmqctl set_policy ha-all “^” ‘{“ha-mode”:“all”}’

打开管控台：http://192.168.166.134:15672
可看到集群已经搭好，并且所有结点已为镜像模式
在这里插入图片描述

使用Kubernetes部署高可用集群

什么是Kubernetes

◆ Kubernetes可以自动化调度、运维Docker容器
◆ Kubernetes已经成为微服务基础架构的“事实标准”
在这里插入图片描述

Kubernetes相关概念：

◆ Pod: K8S中的最小业务单元，内含一个或多个容器
◆ StatefulSet: 定义一组有状态Pod，K8S将自动维护
◆ Deployment: 定义一组无状态Pod， K8S将 自动维护
◆ Service: 一组Pod的抽象访问方式，相当于负载均衡器

Kubernetes搭建RabbitMQ集群的脚本

kind: Service
# 相当于负载均衡层
apiVersion: v1
metadata:
	# 元数据
	namespace: test-rabbitmq
 	name: rabbitmq
 	labels:
 		app: rabbitmq
 		type: LoadBalancer
	spec:
		type: NodePort
		ports:
 		  - name: http
 			protocol: TCP
 			port: 15672
 			targetPort: 15672
 			nodePort: 31672
 		  - name: amqp
 			protocol: TCP
 			port: 5672
 			targetPort: 5672
 			nodePort: 30672
 		selector:
 			app: rabbitmq
---
apiVersion: v1
# 用于注入配置文件
kind: ConfigMap
metadata:
	name: rabbitmq-config
	namespace: test-rabbitmq
data:
	enabled_plugins: |
		[rabbitmq_management,rabbitmq_peer_discovery_k8s].
 	rabbitmq.conf: |
		cluster_formation.peer_discovery_backend = rabbit_peer_discovery_k8s
		cluster_formation.k8s.host = kubernetes.default.svc.cluster.local
		cluster_formation.k8s.address_type = ip
		cluster_formation.node_cleanup.interval = 30
		cluster_formation.node_cleanup.only_log_warning = true
		cluster_partition_handling = autoheal
		loopback_users.guest = false
---
apiVersion: apps/v1beta1
kind: StatefulSet
metadata:
	name: rabbitmq
	namespace: test-rabbitmq
spec:
	serviceName: rabbitmq
	replicas: 4
	template:
		metadata:
			labels:
				app: rabbitmq
			spec:
				serviceAccountName: rabbitmq
				terminationGracePeriodSeconds: 10
				containers:
				  - name: rabbitmq
					image: rabbitmq:3-management
				volumeMounts:
				  - name: config-volume
					mountPath: /etc/rabbitmq
				ports:
					- name: http
				      protocol: TCP
					  containerPort: 15672
					- name: amqp
					  protocol: TCP
					  containerPort: 5672
				livenessProbe:
					exec:
						command: ["rabbitmqctl", "status"]
					initialDelaySeconds: 60
					periodSeconds: 60
					timeoutSeconds: 10
				readinessProbe:
					exec:
						command: ["rabbitmqctl", "status"]
					initialDelaySeconds: 20
					periodSeconds: 60
					timeoutSeconds: 10
				imagePullPolicy: Always
				env:
				  - name: MY_POD_IP
					valueFrom:
						fieldRef:
							fieldPath: status.podIP
				  - name: RABBITMQ_USE_LONGNAME
					value: "true"
				  - name: RABBITMQ_NODENAME
					value: "rabbit@$(MY_POD_IP)"
				  - name: K8S_SERVICE_NAME
					value: "rabbitmq"
				  - name: RABBITMQ_ERLANG_COOKIE
					value: "ktrabbit"
				volumes:
				  - name: config-volume
					configMap:
						name: rabbitmq-config
						items:
						  - key: rabbitmq.conf
							path: rabbitmq.conf
						  - key: enabled_plugins
							path: enabled_plugins

由于目前没有Kubernetes的宿主机环境，只能记好笔记，以后再尝试。

网络分区故障

什么是网络分区

网络分区指的是集群分裂为了两个网络“孤岛
在这里插入图片描述

RabbitMQ集群网络模型

◆ RabbitMQ集群采用单向环状网络模型
在这里插入图片描述

◆ 当网络部分异常时，环状网络异常，相关业务堵塞
在这里插入图片描述

RabbitMQ集群网络分区的意义

◆ 此时可以人为造成网络分区，保存部分集群正常运行
在这里插入图片描述

集群网络分区处理方法

◆ 手动处理

步骤1:挂起客户端进程
可以减少不必要的消息丢失，如果进程数过多，可跳过

步骤2: 删除镜像队列的配置
如果没有删除镜像队列配置，恢复过程中可能会出现队列漂移
相关命令查看这：https://www.wangt.cc/2020/12/rabbitmq常用命令/

步骤3:挑选信任分区.
挑选的指标有:是否有disk节点 > 分区节点数 > 分区队列数 > 分区客户端连接数

步骤4:关闭非信任区的节点
采用rabbitmqctl stop_ app命令，只关闭RabbitMQ应用，不会关闭ErLang虚拟机.

步骤5:启动非信任区的节点
采用rabbitmqctl start_ app命令，启动过程中伴随着网络的修复

步骤6:检查网络分区是否恢复

  • 若已经恢复跳转至步骤8
  • 若还存在网络分区进行步骤7

步骤7:重启信任分区中的节点
使用步骤4与5的命令

步骤8:添加镜像队列的配置
rabbitmqctl set_policy ha-all “^” ‘{“ha-mode”:“all”}’

步骤9:恢复生产者和消费者的进程
若步骤1并未挂起客户端进程，也应该检查客户端连接,必要时重启客户端

◆ 自动处理

RabbitMQ中有3种网络分区自动处理模式:
pause-minority/pause-if-all-down/autoheal
pause-minority：
◆ 发生网络分区时，节点自动检测自己是否处于少数派，若是则关闭自己
◆ 若出现了节点数相同的两个分区，可能会导致两个分区全部关闭
pause-if-all-down:
◆ 每个节点预先配置一个节点列表，当失去和列表中所有节点的通信时，关闭自己.
◆ 此方法考验配置的合理性，配置不合理可能会导致集群节点全部宕机
autoheal:
◆ 发生网络分区时，每个节点使用特定算法自动决定一个“获胜分区",然后重启不在分区的其他节点
◆ 当节点中有关闭状态时，autoheal不会起作用

默认是ignore模式:发生网络分区时，不做任何动作，需要人工介入。

如要开启，配置rabbitmq.config中的cluster_ parititon_ handling参数
在这里插入图片描述

总结

◆ 集群网络分区有两种处理方式:手动和自动
◆ 手动处理方 式比较考验运维操作水平，但比较常用
◆ 慎用自动处理方式，因为如果配置不合理，会导致更大的问题

RabbitMQ状态监控方式

◆ 通过Java API判断节点是否健康
使用Java应用创建connection与channel
Connection connection = connect ionFac tory. newConnection() ;
Channel channel = connect ion. createChannel() ;
若能创建成功，则节点健康，若创建失败(抛异常)则节点
挂机或与节点的网络连接异常

◆ 通过HTTP Rest API监控集群状态(15672端口)
使用api/nodes/接口获得节点信息
使用api/exchanges/{vhost}/{name}/接口获得exchange状态信息
使用api/queues/{vhost}/{name}/接口获得queue状态信息

◆ 通过监控中间件监控RabbitMQ
常见的监控中间件有Zabbix、Prometheus等
Zabbix、Prometheus的底层原理 是调用HTTP Rest API,再讲数据处理、存储、展示

目前的项目不足之处分析

  1. 发送消息时无法自动重试
    ◆ 消息若发送失败，没有重试处理机制
    ◆ 若RabbitMQ集群短暂宕机，消息丢失，业务异常

  2. 无法得知接收方处理情况
    ◆ 发送方无法得知消息是否被处理
    ◆ 若消息丢失，业务异常

  3. 无法自动处理并标记死信
    ◆ 死信消息依赖人工处理，需要自动处理并标记
    ◆ 消息状态的标记依赖数据库或缓存，对消息状态进行存储

这些不足会在下一篇博文解决
RabbitMQ学习笔记（七）——RabbitMQ分布式事务框架

不愿意做鱼的小鲸鱼
关注
专栏目录
RabbitMQ优化
01-29
提升RabbitMQ单队列QPS的简单方案，文档分别去不同的集群进行了测试与优化
RabbitMQ性能优化
weixin_30268071的博客
07-02 820
修改rabbitmq.config文件 rabbitmq.config文件时rabbitmq的配置文件，他遵守Erlang配置文件定义。 rabbitmq.config文件位置： Unix $RABBITMQ_HOME/etc/rabbitmq Windows %APPDATA%\RabbitMQ\ 例子如下： [ {mnesia, [{dump_log_wr...
RabbitMQ集群配置方案
pch330818的博客
08-12 1069
rabbitmq-server 启动时，会一起启动：节点和应用，它预先设置RabbitMQ应用为standalone（脱机）模式。要将一个节点加入到现有的集群中，你需要停止这个应用，并将节点设置为原始状态。如果使用rabbitmqctl stop，应用和节点都将被关闭。（停应用，不停止节点）1.将rabbitmq2和rabbitmq3加入到rabbitmq1中组成集群。集群名字一定不要写错（查看rabbitmq1 的节点状态）仅停止应用，不关闭节点（注意是节点2）仅停止应用，不关闭节点（注意是节点3）
rabbitMQ结构分析及优化配置
AsapDawn的博客
11-22 1470
转自RabbitMQ进程结构分析与性能调优 RabbitMQ是一个流行的开源消息队列系统，是AMQP（高级消息队列协议）标准的实现，由以高性能、健壮、可伸缩性出名的Erlang语言开发，并继承了这些优点。业界有较多项目使用RabbitMQ，包括OpenStack、spring、Logstash等。 腾讯云在开发云消息队列系统（CMQ）时，对RabbitMQ进行了大量的学习和优化，包括瓶颈分析、内存管理、参数调优等。下文结合Erlang和RabbitMQ架构来分析实践中遇到的问题，并探讨相应的优化方案。
RabbitMQ 性能优化
最新发布
StaticKing的博客
08-28 898
在实际的生产环境中，RabbitMQ 的性能优化对于确保消息系统的稳定性和高效性至关重要。以下是关于 RabbitMQ 性能优化的几个关键领域，包括消息的并发处理、连接与通道的管理，以及监控与调优。
RabbitMq性能优化的几项方案
热门推荐
wxl847466025的博客
10-08 1万+
　　以下结论所使用的硬件环境是： 　　服务器：10M上传带宽、1M下载带宽 　　消费端：8G内存＋固态硬盘 　　几个定义： 　　消息：如果没有特别指定消息长度，则默认为1K 　　小批量数据：50万条以内 　　大批量数据：50万条以上   1、加大服务器带宽 　　访问量大时，较长的数据容易将带宽占满。如服务器上传带宽为10M，则实际上传带宽可认为1M，每秒上传量为1M/1K=1K。如...
rabbitmq学习笔记和软件和插件
05-05
**RabbitMQ学习笔记与软件插件详解** RabbitMQ是一种广泛应用的消息中间件，它基于AMQP（Advanced Message Queuing Protocol）协议，提供可靠的消息传递服务。在分布式系统中，RabbitMQ扮演着数据交换中心的角色，...
rabbitmq学习笔记.zip
10-16
在这个“rabbitmq学习笔记.zip”压缩包中，我们可以期待找到一系列关于RabbitMQ的核心概念、安装教程、使用方法以及常见问题的详细说明。 首先，RabbitMQ的基本概念包括生产者（Producer）、消费者（Consumer）、...
RabbitMQ学习笔记
06-22
**RabbitMQ学习笔记** RabbitMQ是一款广泛应用的消息中间件，它基于AMQP（Advanced Message Queuing Protocol）协议，能够实现在分布式系统中可靠的消息传递。RabbitMQ的核心功能是作为一个消息代理，允许应用程序...
RabbitMQ学习 笔记
04-27
### RabbitMQ 学习笔记知识点总结 #### 一、RabbitMQ 历史与背景 RabbitMQ 是一个基于 AMQP（高级消息队列协议）的开源消息中间件，由 Erlang 语言编写而成。AMQP 的出现填补了异步消息处理领域的标准化空白，特别...
动力节点RabbitMQ学习笔记，超详细的入门使用教程
DDDYSz的博客
12-28 1345
RabbitMQ是流行的开源消息队列系统，用erlang语言开发，RabbitMQ是AMQP(高级消息队列协议)的标准实现。采用该技术，我们可以实现异步处理、流量削峰、系统解耦。 RabbitMQ 整体是一个与其他中间件相同的模型，主要是负责接收、存储和转发消息。可以把消息传递的过程想想成快递：将一个快递送到快递公司，快递公司由快递员送到收件人的人中，RabbitMQ就类似于一个快递公司，也就是RabbitMQ的交换机模型。 什么是消息队列（MQ） 消息是在不同应用间传递的数据。这里的消息可以非常简单
RabbitMQ的性能优化和调优
互联网知识分享
10-30 1241
本章介绍了一些常用的RabbitMQ性能优化和调优方法，包括消息持久化、批量确认、持久化连接、集群和负载均衡等。通过使用这些方法，可以提高RabbitMQ的性能和可靠性。本章还给出了相应的参数介绍和完整的代码示例，希望对您有所帮助！
rabbitmq 优化配置
屈帅波的技术博客
03-07 1997
创建高可用规则 ha-promote-on-shutdown: 表示主动停止主节点的服务，其它节点如何替代主节点，选取主节点的行为，是在可用性和可靠性之间做出的权衡的选择；选择参数有：when-synced | always when-sysnced 表示只有镜像队列消息体同步的情况下，才切换，相反：always是不同步也可以切换。 ha-promote-on-failure: 表示异常情况下其它节点如何替代主节点，比如Crash、断网等，默认参数when-synced. 选择参数有： when-synce
RabbitMQ 高可用优化
Java笔记虾
03-11 400
来源：my.oschina.net/xiaolyuh/blog/3110049RabbitMQ的主要作用基本上可以用8个字概括，削峰填谷异步解耦。但是引入MQ我们也不得不考虑引入MQ后带来...
面试大杀器：消息中间件如何实现消费吞吐量的百倍优化？
weixin_44896262的博客
04-17 564
目录 （1）前请提示 （2）unack消息的积压问题 （3）如何解决unack消息的积压问题 （4）高并发场景下的内存溢出问题 （5）低吞吐量问题 （6）合理设置prefetch count （7）阶段性总结 1、前情提示 这篇文章，我们将会对ack底层的delivery tag机制进行更加深入的分析，让大家理解的更加透彻一些。 面试时，如果被问到消息中间件数据不丢失问题的时候...
一篇全面而且透彻的RabbitMQ性能优化指南
m0_73311735的博客
09-07 3568
因为假如说现在MQ接收到的流量特别的大，每秒都上千条消息，而且此时你的消费者服务的prefetch count还设置的特别大，就会导致可能一瞬间你的消费者服务接收到了达到prefetch count指定数量的消息。那么此时导致的结果，就是消费者服务直接被击垮了，内存溢出，OOM，服务宕机，然后大量unack的消息会被重新投递给其他的消费者服务，此时其他消费者服务一样的情况，直接宕机，最后造成雪崩效应。那么此时这几千条消息都是unack的状态，一直积压着，是不是有可能会导致消费者服务实例的内存溢出？
RabbitMQ优化消息阻塞系列（三）架构调整
kris
05-27 324
架构调整 1. 背景 最开始的RabbitMQ架构是主备模式，支持的并发和数据量不高。现决定部署一套采用镜像模式的集群架构，提升并发性能，但怎么从旧架构平滑切换到新架构成了首要问题。 2. 平滑切换方案 2.1 额外加载新增MQ配置 服务A原本加载的是mq主备配置，为了平滑过渡，额外加载mq镜像配置，这两份配置的区别就只是ip、端口、vhost、账号、密码不同，其他譬如交换器、队列的配置都相同。 2.2 分批次平滑切换队列 按队列的重要级别梳理出若干批队列，第一次先切换优先级低的队列到MQ镜像集群，观
RabbitMQ使用以及优化
seeker的博客
04-01 2328
RabbitMQ使用以及优化 背景说明 项目中需要异步回调客户（具体实现参考rabbitmq死信），客户端收到回调需返回字符串success，否则，会采用梯度回调：分别于0，5，10，30，60分钟后进行回调，5次回调未返回success,记录回调失败； 问题描述 rabbitmq延迟队列中消息已经过期，却未路由分发到指定队列。 举例说明： 消息1 过期时间一小时，先进入延迟...
RabbitMQ学习笔记：开源消息代理与AMQP协议解析
"这篇RabbitMQ的学习笔记涵盖了消息中间件的基本概念、RabbitMQ的特点以及为何选择RabbitMQ作为消息队列解决方案的原因。同时，它还对比了其他的消息队列框架，如ActiveMQ、Kafka和RocketMQ。" 在众多的消息中间件...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不愿意做鱼的小鲸鱼

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值