RabbitMQ内存预警

概要

本文覆盖RabbitMQ内存阈值和分页设置,在64位和32位系统上运行节点,以及一些其他相关主题。

内存阈值:它是什么以及如何工作

RabbitMQ服务在启动时检查机器的内存,执行命令 rabbitmqctl set_vm_memory_high_watermark fraction. 默认情况,RabbitMQ服务使用了可用内存大小的40%,它触发一个内存警告并阻塞所有发布消息的连接。一旦清除内存告警,系统将恢复服务。

默认情况,内存预警阈值是系统安装内存大小的40%,但这个并不表示RabbitMQ服务不能使用超过40%的内存,这只是发布者会被限制。Erlang垃圾收集器甚至可以使用超过一倍的内存,如80%,强烈建议启用操作系统内存交换页。

32位架构倾向于每个进程设置2GB内存限制,64位架构系统限制每个进程256TB,64位Windows系统进一步限制位8TB。然而,请注意,即使在64位的操作系统下,32位进程通常也只有2GB内存的限制。

配置内存阈值

可以通过修改配置文件来控制内存阈值,以下例子将阈值设置为默认值0.4

\# new style config format, recommended
vm_memory_high_watermark.relative = 0.4

这个默认值0.4表示可用内存的40%或者可用虚拟地址空间的40%,以较小者为准。如在一个有4GB内存的32位系统上,40%的内存是1.6GB,但是32位系统限制内存是2GB,所以阈值实际上是2GB的40%(820MB)。

或者可以使用绝对值来设置内存阈值,如下所示(1024MB):

vm_memory_high_watermark.absolute = 1073741824

使用内存单位的如下:

vm_memory_high_watermark.absolute = 1024MiB

如果限制值大于机器内存或者可用虚拟地址空间,则阈值以较小的为准。

当RabbitMQ服务启动时,内存设置日志输出如下:

2019-06-10 23:17:05.976 [info] <0.308.0> Memory high watermark set to 1024 MiB (1073741824 bytes) of 8192 MiB (8589934592 bytes) total

还可以使用 rabbitmq-diagnostics memory_breakdown 和 rabbitmq-diagnostics status 命令查下内存限制值。

在服务运行期间,阈值可以被修改的,使用如下命令:

rabbitmqctl set_vm_memory_high_watermark <fraction>

或者:

rabbitmqctl set_vm_memory_high_watermark absolute <memory_limit>

例如:

rabbitmqctl set_vm_memory_high_watermark 0.6
rabbitmqctl set_vm_memory_high_watermark absolute "4G"

当使用绝对值模式时,可以使用下列的内存单位:

  • M, MiB 兆字节(2^20字节), 二进制mebibytes,适合机器

  • MB, 兆字节(10^6字节),十进制megabytes,适合人类理解

  • G,GiB 吉字节(2^30字节),二进制gibibytes

  • GB, 吉字节(10^9字节),十进制gigabytes

这两种命令都是立即生效,直至节点重启。若要使设置的参数在服务重启仍能生效,则需要修改配置文件。

在可热插拔内存的系统上,如果执行以上命令,虽然没有改变阈值,但是由于查下了系统内存总量,这导致了内存限制是仍可能发生变化的。

停止所有发布

当阈值或者绝对限制值设置位0时,它会立即关闭内存报警,从而阻止所有生产者连接,这方法对于想要全局停用发布还是很有用的。

rabbitmqctl set_vm_memory_high_watermark 0

限制地址空间

当在64位操作系统(或具有PAE的32位操作系统)中的32位Erlang VM内运行RabbitMQ服务时,可寻址内存受到限制,服务器检测到并记录如下日志:

2018-11-22 10:44:33.654 [warning] Only 2048MB of 12037MB memory usable due to limited address space.

内存预警机制并不是完美的,尽管停止发布会阻止内存的进一步使用,但其他事情仍然可能持续增加内存使用。通常这种情况发生时,物理内存耗尽后操作系统开始换页。但若使用了有限制的内存,则虚拟机会终止或者操作系统的内存机制也会将其终止。

因此,强烈建议在64位的操作系统和64位的Erlang上运行RabbitMQ服务。

配置换页阈值

在RabbitMQ达到高水位线或者阻塞发布者之前,它将尝试让队列将其内容分页到磁盘来释放内存。持久性和暂时性消息会被调出(持久性消息已经在磁盘上将会被从内存调出)。默认情况下,当到达高水位线的50%时就会发生这种情况。若要更改此值,修改配置vm_memory_high_watermark_paging_ratio,如下所示:

vm_memory_high_watermark_paging_ratio = 0.75
vm_memory_high_watermark.relative = 0.4

上述配置以使用的内存的30%开始分页,以40%阻塞发布者。

可以将vm_memory_high_watermark_paging_ratio设置为大于1.0的值。在这种情况下,队列不会将其内容分页到光盘。如果这导致内存警报关闭,那么生产者将被阻止,如上所述。

未识别平台

如果RabbitMQ服务器无法检测到它正在运行的操作系统,它将在日志文件中附加警告。然后假设安装了1GB以上的RAM:

2018-11-22 10:44:33.654 [warning] Unknown total memory size for your OS {unix,magic_homegrown_os}. Assuming memory size is 1024MB.

在这种情况下,vm_memory_high_watermark配置值用于缩放假定的1GB RAM。由于vm_memory_high_watermark的默认值设置为0.4,RabbitMQ的内存阈值设置为410MB,因此每当RabbitMQ使用超过410MB的内存时,它都会限制生产者。因此,当RabbitMQ无法识别您的平台时,如果您实际安装了8GB RAM,并且您希望RabbitMQ在服务器使用3GB以上的内存时限制生产者,请将vm_memory_high_watermark设置为3。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RabbitMQ是一种消息中间件,用于实现不同应用程序之间的通信。内存积压是指RabbitMQ中消息队列持续增加,消费者无法及时处理和消耗队列中的消息,导致队列中的消息越来越多,进而占用越来越多的内存空间。 造成RabbitMQ内存积压的原因可能有多种。首先,消费者处理消息的速度可能较慢或者不稳定,无法及时处理队列中的消息。其次,生产者发送消息的速度可能过快,导致消息队列迅速增长。此外,由于消费者异常退出或者网络问题,也可能导致消息队列中的消息不能及时消耗。 解决RabbitMQ内存积压的方法有多种。首先,可以通过增加消费者的数量,提高消息处理的速度。其次,可以优化消费者的处理逻辑,确保消费者能够高效地处理消息。另外,可以调整生产者的消息发送速度,避免过快地发送消息。如果遇到消费者异常退出的情况,可以及时处理并重启消费者,保证消息能够被正常消耗。 除了以上方法,还可以通过设置RabbitMQ的一些参数来调整内存使用情况,例如设置队列的最大长度和最大内存使用量,避免内存过载。另外,可以通过配置死信队列来处理无法被消费的消息,以防止消息堆积。 总之,解决RabbitMQ内存积压需要综合考虑消费者、生产者和RabbitMQ本身的因素,通过优化消息处理逻辑、调整消息发送速度和设置合适的参数,保证消息队列能够稳定地运行。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值