RabbitMQ流控实测

最新推荐文章于 2024-04-19 10:23:18 发布
最新推荐文章于 2024-04-19 10:23:18 发布
阅读量3.7k 收藏 5
点赞数
分类专栏： # RabbitMQ 杂记 文章标签： rabbitmq
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_20892953/article/details/80593282
版权

目录

RabbitMQ流控实测

在虚拟机上安装并启动RabbitMQ服务端，使用C++客户端程序按设置速度生产消息，实测RabbitMQ流控场景。

相关知识回顾

网上搜索了相关信息，了解到RabbitMQ有三种流量控制：

  • Per-Connection Flow Control

是面向每一个连接做的流量控制。即，RabbitMQ 会主动阻塞（Block）那些发布消息太快的连接（Connections），无需做任何配置。如果连接被阻塞了，那么它在 rabbitmqctl 控制台上会显示一个blocked的状态。RabbitMQ 的流量控制机制是基于信用证(Credit)的拥塞控制机制。

  • Memory-Based Flow Control

RabbitMQ 会在启动时检测机器的物理内存数值。默认当 MQ 占用 40% 以上内存时，MQ 会主动抛出一个内存警告并阻塞所有连接（Connections）。可以通过修改 rabbitmq.config 文件来调整内存阈值，默认值是 0.4，如下所示：
[{rabbit, [{vm_memory_high_watermark, 0.4}]}].

  • Disk-Based Flow Control

默认情况，如果剩余磁盘空间在 1GB 以下，RabbitMQ 主动阻塞所有的生产者。这个阈值也是可调的。

环境配置

本人使用的是虚拟机（1核，1G内存），相关配置如下：

[root@localhost ~]# top
top - 20:46:59 up 3 days, 23:52,  3 users,  load average: 0.00, 0.06, 0.05
Tasks: 129 total,   1 running, 128 sleeping,   0 stopped,   0 zombie
Cpu(s):  0.5%us,  1.7%sy,  0.0%ni, 97.7%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st
Mem:   1004412k total,   821264k used,   183148k free,   254304k buffers
Swap:  2031608k total,        0k used,  2031608k free,   186024k cached
[root@localhost ~]# cat /proc/cpuinfo
processor   : 0
vendor_id   : GenuineIntel
cpu family  : 6
model       : 94
model name  : Intel(R) Core(TM) i3-6100 CPU @ 3.70GHz
stepping    : 3
cpu MHz     : 3696.269
cache size  : 3072 KB
fpu     : yes
fpu_exception   : yes
cpuid level : 22
wp      : yes
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush mmx fxsr sse sse2 ss syscall nx pdpe1gb rdtscp lm constant_tsc up arch_perfmon xtopology tsc_reliable nonstop_tsc unfair_spinlock pni pclmulqdq ssse3 fma cx16 pcid sse4_1 sse4_2 x2apic movbe popcnt tsc_deadline_timer aes xsave avx f16c rdrand hypervisor lahf_lm abm 3dnowprefetch arat xsaveopt fsgsbase bmi1 avx2 smep bmi2 invpcid
bogomips    : 7392.53
clflush size    : 64
cache_alignment : 64
address sizes   : 43 bits physical, 48 bits virtual
power management:

[root@localhost ~]#

RabbitMQ-Server安装配置

主要是关于erlang-17.4-1.el6.x86_64.rpm和rabbitmq-server-3.6.1-1.noarch.rpm的安装，以及rabbitmq的virtual host、Exchanges、Queues的配置。
见

启动RabbitMQ-Server

启动之后，可以根据web页面的Overview看到，内存使用情况与内存告警阈值，以及磁盘空间使用情况和磁盘空间告警阈值。如下图：
这里写图片描述

开始测试

OK，针对RabbitMQ的三种流控机制，分别进行实测。看看表现。

Per-Connection Flow Control机制

TPS与测试周期设置

由于RabbitMQ的web页面最小刷新时间是5秒（见上图右下角），所以为了能连续观察20个周期（即需要连续发送100秒），并且为了保持较稳定的生产速度，我们设置rabbitmq-client每秒生产100条消息（简单点就是生产1条消息休眠10毫秒，实际上这样生产速度达不到100，不过没关系）。即连续发送100秒，每秒生产100条消息，最终生产1W条消息。
代码中设置如下：

unsigned int tps = 100;
unsigned int period = 20;
内存告警阈值比例设置

rabbitmq-server启动之后，内存占用为48M，告警阈值为392M。
为了快速达到告警测试效果，需要修改内存high watermark，设置为55M，如下：

rabbitmqctl set_vm_memory_high_watermark absolute 55MB

注意：实际上rabbitmq-server的日志显示只设置了52M。
rabbitmq-server日志显示设置了52M
这里写图片描述
web页面也显示只设置了52M。
这里写图片描述

启动rabbitmq-client
观察rabbitmq-server日志
观察rabbitmq-server的web页面，观察生产速度
测试执行中……
测试结束

OK，下面这张图是测试结束截图（预期生产1W条消息，实际只生产了3505条消息便被阻塞）。
这里写图片描述

连接被阻塞
这里写图片描述

rabbitmq-server日志分析

在测试过程冲，发现rabbitmq-server打印了相关的日志，分析一下日志。

=INFO REPORT==== 5-Jun-2018::22:47:36 ===
accepting AMQP connection <0.2926.0> (192.168.45.132:38126 -> 192.168.45.131:5672)
接收到1个AMQP连接


=INFO REPORT==== 5-Jun-2018::22:47:43 ===
vm_memory_high_watermark set. Memory used:55535400 allowed:55000000
使用内存了55535400B，超过了允许使用的55000000B


=WARNING REPORT==== 5-Jun-2018::22:47:43 ===
memory resource limit alarm set on node rabbit@localhost.
触发告警了，设置rabbit@localhost节点内存资源限制告警


**********************************************************
*** Publishers will be blocked until this alarm clears ***
**********************************************************
OK,大字报告警，生产者将被阻塞直到这个告警解除


=INFO REPORT==== 5-Jun-2018::22:47:44 ===
vm_memory_high_watermark clear. Memory used:53626816 allowed:55000000
OK，1秒之后，告警解除了，使用内存了53626816B，还不到允许使用的55000000B


=WARNING REPORT==== 5-Jun-2018::22:47:44 ===
memory resource limit alarm cleared on node rabbit@localhost
rabbit@localhost节点内存资源限制告警解除


=WARNING REPORT==== 5-Jun-2018::22:47:44 ===
memory resource limit alarm cleared across the cluster


=INFO REPORT==== 5-Jun-2018::22:47:51 ===
vm_memory_high_watermark set. Memory used:55116664 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:47:51 ===
memory resource limit alarm set on node rabbit@localhost.
OK，又触发告警了。为什么呢？

**********************************************************
*** Publishers will be blocked until this alarm clears ***
**********************************************************

=INFO REPORT==== 5-Jun-2018::22:47:52 ===
vm_memory_high_watermark clear. Memory used:54410872 allowed:55000000
告警再次被清除

=WARNING REPORT==== 5-Jun-2018::22:47:52 ===
memory resource limit alarm cleared on node rabbit@localhost

=WARNING REPORT==== 5-Jun-2018::22:47:52 ===
memory resource limit alarm cleared across the cluster

=INFO REPORT==== 5-Jun-2018::22:47:53 ===
vm_memory_high_watermark set. Memory used:55155536 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:47:53 ===
memory resource limit alarm set on node rabbit@localhost.

**********************************************************
*** Publishers will be blocked until this alarm clears ***
**********************************************************

=INFO REPORT==== 5-Jun-2018::22:47:55 ===
vm_memory_high_watermark clear. Memory used:53511456 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:47:55 ===
memory resource limit alarm cleared on node rabbit@localhost

=WARNING REPORT==== 5-Jun-2018::22:47:55 ===
memory resource limit alarm cleared across the cluster

=INFO REPORT==== 5-Jun-2018::22:47:56 ===
vm_memory_high_watermark set. Memory used:55911656 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:47:56 ===
memory resource limit alarm set on node rabbit@localhost.

**********************************************************
*** Publishers will be blocked until this alarm clears ***
**********************************************************

=INFO REPORT==== 5-Jun-2018::22:47:58 ===
vm_memory_high_watermark clear. Memory used:53854680 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:47:58 ===
memory resource limit alarm cleared on node rabbit@localhost

=WARNING REPORT==== 5-Jun-2018::22:47:58 ===
memory resource limit alarm cleared across the cluster

=INFO REPORT==== 5-Jun-2018::22:47:59 ===
vm_memory_high_watermark set. Memory used:56165728 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:47:59 ===
memory resource limit alarm set on node rabbit@localhost.

**********************************************************
*** Publishers will be blocked until this alarm clears ***
**********************************************************

=INFO REPORT==== 5-Jun-2018::22:48:03 ===
vm_memory_high_watermark clear. Memory used:54345856 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:48:03 ===
memory resource limit alarm cleared on node rabbit@localhost

=WARNING REPORT==== 5-Jun-2018::22:48:03 ===
memory resource limit alarm cleared across the cluster

=INFO REPORT==== 5-Jun-2018::22:48:04 ===
vm_memory_high_watermark set. Memory used:58138112 allowed:55000000

=WARNING REPORT==== 5-Jun-2018::22:48:04 ===
memory resource limit alarm set on node rabbit@localhost.

**********************************************************
*** Publishers will be blocked until this alarm clears ***
**********************************************************

实际上，在测试过程中观察发现，每次告警之后，rabbitmq-client都可以继续发送（由于rabbitmq-client没有打印时间，不确定发送的速度是否受影响）。为什么呢？

第1次告警：在22:47:43触发，此时内存使用了55535400，超过了55000000，所以告警了。
22:47:44时，仅1秒之后，内存使用降到53626816，没有超过55000000，所以告警解除了。
说明内存告警触发了某些机制，导致内存使用降低，解除了告警。

第2次告警：在22:47:51触发，此时内存使用了55116664，超过了55000000，所以告警了。
22:47:52时，仅1秒之后，内存使用降到54410872，没有超过55000000，所以告警解除了。

第3次告警：在22:47:53触发，此时内存使用了55155536，超过了55000000，所以告警了。
22:47:55时，2秒之后，内存使用降到53511456，没有超过55000000，所以告警解除了。

第4次告警：在22:47:56触发，此时内存使用了55911656，超过了55000000，所以告警了。
22:47:58时，2秒之后，内存使用降到53854680，没有超过55000000，所以告警解除了。

第5次告警：在22:47:59触发，此时内存使用了56165728，超过了55000000，所以告警了。
22:48:03时，4秒之后，内存使用降到54345856，没有超过55000000，所以告警解除了。

第6次告警：在22:48:04触发，此时内存使用了58138112，超过了55000000，所以告警了。
然后rabbitmq-client被阻塞，一直未恢复。

rabbitmq-client实际显示实际生产了3505条消息，web页面显示一共有2,579条消息。

rabbit-client代码

rabbitmq-client

泡浴露
关注
  • 0
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
RabbitMQ流量控制机制分析1
08-08
RabbitMQ流量控制机制分析1
记一次RabbitMQ宕机历程
weixin_44235608的博客
03-05 2888
【问题出现】 早晨开始接到人员反·馈，服务异常，开始进行排查，发现服务确实已经异常。 【定位问题】 突然接到消息反馈服务异常，然后开始定位问题，发现MQ服务宕机了。 然后开始查看ECS服务(内存)监控 发现在0点30分左右服务器的内存飙升至80%，然后开始思考为什么服务器内存才80%MQ就宕机了？经过手册了解到原来MQ为了防止自己内存无限扩大导致服务器宕机，而选择让自己服务器停止，这个不了解MQ的实属是一个大坑。尤其是刚开始业务量非常小，后期业务量大起来以后，这个需要格外留意...
RabbitMQ 内存和磁盘警告
Data & Analysis
08-17 1169
内存和磁盘警告 有两种情况下，Rabbit MQ会停止读取客户端的连接socket,为了防止crash崩溃，这两种情况是： 内存使用达到配置值 磁盘空间下降到配置值下 在这两种情况下，服务器会临时阻塞连接—服务器会暂停读取发布消息的客户端的连接，连接心跳监控也会被禁用，在rabbitmqctl和管理查建中的所有网络连接如果是blocking状态，意味着他们没有尝试发送，因此可以继续，如果是blocked状态，意味着他们已经发布了，现在需要被暂停。 集群的警告 当运行Rabbit MQ集群的时候，
RabbitMQ的告警
技术与复利的博客
01-10 1853
RabbitMQ的告警的触发条件以及影响。
RabbitMQ学习笔记：流控（Per-connection flow control）
OceanSky的专栏
10-26 1036
流控机制是用来避免消息发送速率过快而导致服务器难以支撑的情况。内存（memory）和磁盘（Disk space）达到阀值发出的警告相当于全局的流控，一旦触发会阻塞集群或者单机的所有连接（Connection）,这一块我上一篇博文已经讲解过了，而本节的流控是针对单个连接（Connection）的。 单个连接流控（Per-connection flow control）描述的是当发布服务（或发布服...
RabbitMQ外部程序发送消息无法入队而控制台发布消息可以入队问题解析 内存阈值和磁盘阈值
wangxudongx的专栏
10-23 1166
RabbitMQ外部程序发送消息无法入队而控制台发布消息可以入队问题解析问题描述故障表现解决方案docker环境下指定内存阈值禁用所有的发布禁用内存流控磁盘空间阈值 问题描述 在使用RabbitMQ过程中发现消息都不入队了，程序把消息发消息过去队列接不到，但是在控制台publish消息的话消费者程序又能接收到，这个情况一般即使Rabbit服务开启了流控。 流控的表现就是该服务节点的已经内存警报或者磁盘剩余可用空间报警，将会阻止传入的网络流量，直到内存使用量低于报警线。 因为RabbitMQ提供两种协
Rabbitmq 流控
曾浩
09-14 4151
生产者流控当触发Rabbitmq的流控后,会限制生产者发送消息的频率,比如之前是2W/s限制后可能在一段时间内无法发送消息. 触发流控条件,达到内存这只的水位线(vm_memory_high_watermark )或者磁盘达到限制剩余量.一般在产生的原因是长期的生产者发送速率大于消费者消费速率导致.流控实验设置rabbitmqctl set_vm_memory_high_watermark 0.0
Gateway流控测试
茶客专栏
04-15 643
1.流控基本概念 流控 百度搜索 Gateway 流控，流量控制 通常是限制客户端请求时间段，请求次数的限制 2.实战–流量控制测试 #################### Flow Control setting #################### 配置一、流控开关（默认为false） ratelimit.enable=true / false 功能true 限制 ，false不限制 前置条件： 每秒限制只能发一次请求 测试用例： 1.打开配置，每秒发送10次请求，预期被流控住 2.关闭配置，
rabbitmq开发规范
07-04
1：rabbitmq的命名规范 2：rabbitmq生产者开发规范 3：rabbitmq消费者开发规范
RabbitMQ
02-24
应用解耦、异步、流量削锋、数据分发、错峰流控、日志收集等等...MQ衡量标准服务性能、数据存储、集群架构主流竞品分析当前市面上mq的产品很多，比如RabbitMQ、Kafka、ActiveMQ、ZeroMQ和阿里巴巴捐献给Apache的...
tp6使用rabbitmq
09-22
tp6使用rabbitmq
rabbitmqadmin
07-08
RabbitMQ命令行手动创建队列rabbitmqadmin用法 手动创建队列方法：登录http://ip:15672/cli下载 将下载的rabbitmqadmin放到/usr/sbin目录下，并赋予权限：chmod 755 rabbitmqadmin 查看命令帮助信息： python ...
rabbitmq解决磁盘空间不足无法启动问题
11-11 5147
现象描述： rabbitmq日志曾提示： Free disk space is insufficient. Free bytes: 499813. Limit: 50000000 Publishers will be blocked until this alarm clears 重启mq后提示： =ERROR REPORT==== 10-Nov-2021::23:17:31 === ** Generic server <0.197.0> terminating ** Last ..
性能测试中流控有效性测试之系统级流控测试怎么做？
shairvin的博客
06-23 100
性能测试，流控有效性，系统级流控
rabbitmq内存暴增触发流控机制问题-持续更新
qq_35368296的博客
12-07 6811
1.Linux下docker安装的RabbitMQ版本是rabbitmq_3_8_1（系统运行内存512G两台，搭建的镜像集群）。 2.数据量小的时候没有暴露出来问题，但是随着系统访问量增加，高峰期的时候大概是5、6千万条就触发了流控机制（默认占用到系统内存40%的时候触发），导致整个镜像集群停止工作。具体现象如下图： 所有连接都blocked了 3.内存使用情况查看 经查看，主要是系统预加载但是未使用的内存占用过大到时的。 4.初步的确定是系统内存使用情况报告的策略的问题 官网上关于这一块的描述是这
rabbitmq blocked问题
qq_30458209的博客
06-21 1187
rabbitmq blocked问题
交换机流量控制测试
jian131826的博客
02-27 7917
1.交换机开启流控功能，流量控制改为启用； 2.用3根网线把交换机和测试仪连接起来； 3.测试仪开启流控； 4.测试仪2个端口，每个端口发1G流量，第三个端口发2个500M流量，如下； 5.开始测试，可以看到2个发送1G流量的端口只发送一半的流量，流量控制正确； 6.在测试仪抓包查看流量报文； 7.交换机关闭流控，再次测试，2个发送1G流量的端口都是发送1G的流量，丢了一半的包； 8.抓包分析，无...
初窥Sentinel集群流控：从源码分析到效果测试
未完成的空间
07-31 5073
Sentinel从1.4.0 开始引入了集群流控模块，用于控制应用集群内某个 API 的总 QPS 。 在Sentinel集群流控中，主要有两种身份：Token Client和Token Server，实现集群流控的流程就是应用实例（Token Client）向Token Server请求令牌，TokenServer根据集群流控规则来控制总体的QPS。 待解决的问题： 1. 通过Nacos流控规则配置不直观 2. SentinelCluster无官方高可用方案
rabbitmq 使用SAC队列实现顺序消息
最新发布
面朝大海，春暖花开
04-19 343
Data//消息id//消息中顺序，1，2，3，4。
rabbitmq to rabbitmq
03-27
RabbitMQ是一个开源的消息中间件，它实现了高级消息队列协议（AMQP）并提供可靠的消息传递机制。它允许应用程序之间进行异步通信，并支持多种消息模式，如点对点、发布/订阅和工作队列。 当我们提到"RabbitMQ to ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值