m3db-node oom追踪和内存分配器代码查看

最新推荐文章于 2022-07-11 03:02:41 发布
最新推荐文章于 2022-07-11 03:02:41 发布
阅读量162 收藏
点赞数
分类专栏： golang 监控系统 运维开发
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_26193209/article/details/112373000
版权
监控系统 同时被 3 个专栏收录
15 篇文章 3 订阅 ¥29.90 ¥99.00
订阅专栏
golang
17 篇文章 1 订阅
订阅专栏
运维开发
15 篇文章 0 订阅
订阅专栏
本文分析了m3dbnode在发生OOM时的情况，通过内存火焰图发现`bytes_pool_get_on_empty` QPS高，db读取QPS增长80%，并详细研究了内存分配器的工作原理，尤其是`tryFill`过程。问题根源在于频繁的查询导致内存池不断填充，从而引发内存暴涨。解决方案是限制查询资源消耗以保护数据库。
摘要由CSDN通过智能技术生成

m3dbnode oom

oom时排查

  • 内存火焰图: 80G内存
    在这里插入图片描述

  • bytes_pool_get_on_empty qps 很高
    在这里插入图片描述

  • db read qps增长 80%
    在这里插入图片描述

  • node cpu kernel 暴涨
    在这里插入图片描述

看图结论

  • m3dbnode 内存oom过程很短，
了解本专栏 订阅专栏 解锁全文
ning1875
关注
专栏目录
订阅专栏
什么是内存溢出（Out Of Memory---OOM）和内存泄露 (Memory Leak)
小小鱼儿小小林的博客
09-30 1万+
1、内存溢出：（Out Of Memory---OOM） 系统已经不能再分配出你所需要的空间，比如系统现在只有1G的空间，但是你偏偏要2个G空间，这就叫内存溢出 例子：一个盘子用尽各种方法只能装4个果子，你装了5个，结果掉倒地上不能吃了。这就是溢出。 比方说栈，栈满时再做进栈必定产生空间溢出，叫上溢，栈空时再做退栈也产生空间溢出，称为下溢。就是分配的内存不足以放下数据项序列,称为内存溢出。说白了就是我承受不了那么多，那就报错。 2、内存泄漏： (Memory Leak) 强引用所指向的对...
node-oom-heapdump:在发生“内存不足”错误之前立即创建V8堆快照，或根据请求创建堆快照或CPU配置文件
05-25
node-oom-heapdump 即将在发生“内存不足”错误之前创建V8堆快照的节点模块。 它还可以根据请求创建堆转储和CPU配置文件，例如“ v8-profiler”，但是这样做是在进程外进行的，因此不会干扰主进程的执行。 在Node.js 7.x，8.x，9.x，10.x，11.x，12.x，13.x和14.x上进行了测试。 目前不支持Node.js <7.0（尽管如果需要可以修复）。 由于Stuart Miller（ ），还附带了预构建的二进制文件（托管在Github发行版中）。 为什么？ 当在内存不足的环境中运行nodejs进程时，发生的每一次内存不足都是很有趣的。 为了弄清为什么进程内存不足，堆快照（例如heapdump）可以提供很多帮助。 该模块将在发生内存不足错误之前（通过利用V8引擎的'SetOOMErrorHandler'）创建一个堆快照。 它显示了在发生内
listfiles 是否消耗内存_m3db-node oom追踪和内存分配器代码查看
weixin_36165751的博客
12-13 190
m3dbnode oomoom时排查内存火焰图: 80G内存 bytes_pool_get_on_empty qps 很高 db read qps增长 80% node cpu kernel 暴涨 看图结论 - m3dbnode 内存oom过程很短，很剧烈：总时间不超过7分钟 - 内存从27G增长到250G - 节点sys态cpu暴涨：因为大量的mem_alloca sys_call...
node计算内存占用
qq_42975676的博客
06-10 505
//freemem是返回内存剩余 const os = require('os') const mem =10000 - (os.freemem()/os.totalmem()*100).toFixed(2)*100 console.log(`内存占用${mem/100}%`)
【翻译】架构M3DB的索引以减少峰值查询延迟。
超级码力
07-11 250
作者：瑞安-艾伦 2022年2月24日 原文为Ryan Allen在Chronosphere的博客上发表的客座文章 在运行M3DB时，监测集群的健康状况是很重要的，以了解查询的表现，以及集群是否需要额外的资源来处理写入它的数据量。一些关键的M3DB健康指标包括集群中每个节点的内存利用率和查询延迟，即查询需要多长时间。 这些指标揭示了数据库可靠地、周期性地遭受膨胀的内存和恶化的查询延迟的...
M3DB单机版体验
alien__pass的博客
05-10 515
文章目录简介安装步骤（centOS7为例） 简介 安装步骤（centOS7为例） 环境准备： 操作系统：CentOS7 必要组件：wget 创建文件目录 mkdir -p /home/m3db 3.下载, 解压, 运行 wget https://s3-gz01.didistatic.com/n9e-pub/tarball/m3dbnode-single-v0.0.1.tar.gz tar zxvf m3dbnode-single-v0.0.1.tar.gz cd m3dbnode-single ./s
OOMDetector：OOMDetector是iOS的内存监视组件，可为您提供OOM监视，内存分配监视，内存泄漏检测和其他功能。
02-03
OOMDetector是一个iOS内存监控组件，应用此组件可以帮助您轻松实现OOM监控，大内存分配监控，内存泄漏检测等功能。 特性 1.OOM监视：监视OOM，转储引起突发内存的数值 2.大内存分配监控：监控单次大块内存分配，提供...
使用 strace 命令来监控内存分配,找出OOM的原因
11-09
使用 strace 命令来监控内存分配,找出OOM的原因 由于使用 Netty 导致的，那错误日志里可能会出现 OutOfDirectMemoryError 错误 如果直接是 DirectByteBuffer，那会报 OutOfMemoryError Direct buffer memory
jvm性能调优实战 - 43OOM内存溢出发生的原因及可能发生OOM的内存区域
热门推荐
小工匠
04-27 1万+
文章目录OOMOOM是如何产生的JVM进程怎么执行你写的那些代码Java虚拟机栈：让线程执行各种方法堆内存：放我们创建的各种对象小结 OOM 先不考虑自己系统外部依赖的缓存、消息队列、数据库等等东西挂掉，就我们自己系统本身而言，最常见的挂掉的原因是什么？ 其实就是系统OOM，也就是所谓的内存溢出！ 其实说白了，也非常非常的简单，一句话形容，你的JVM内存就这么点，结果你拼命的往里面塞东西，结果内存塞不下了，不就直接溢出了吗？ 看看下面的这个图 至于到底JVM是如何放不下对象导致内存溢出的，这个大家不要着
解决未明确关闭流时Files.list()打开文件非常耗占资源
封神之路
09-22 1200
问题： 使用lsof -p< pid>检查打开的文件句柄时我仍然可以看到“/”的打开文件句柄列表变得越来越长. while (true) { Files.list(Paths.get("/")).forEach(path -> { System.out.println(path); }); Thread.sleep(5000); System.gc(); System.runFinalization(); } 解决 ： try-wi
一个由 Node.js vm 引发的 OOM 血案
程序员成长指北
09-30 2497
大厂技术高级前端Node进阶点击上方程序员成长指北，关注公众号回复1，加入高级Node交流群作者 |焦头烂额的死月授权转载|Node地下铁https://mp.weixin...
【安卓笔记】OOM解决方案
RowandJJ
03-04 2455
主流方案无非是以下三种： 1：对图片进行缩放； 2：内存缓存； 3：文件缓存。 -------------------------------------------------- 方法1：压缩图片 package com.example.utils; import android.content.res.Resources; import android.graphics.Bitm
Android 内存溢出解决方案（OOM） 整理总结
weixin_34375233的博客
03-13 422
在最近做的工程中发现加载的图片太多或图片过大时经常出现OOM问题，找网上资料也提供了很多方法，但自己感觉有点乱，特此，今天在不同型号的三款安卓手机上做了测试，因为有效果也有结果，今天小马就做个详细的总结，以供朋友们共同交流学习，也供自己以后在解决OOM问题上有所提高，提前讲下，片幅有点长，涉及的东西太多，大家耐心看，肯定有收获的，里面的很多东西小马也是学习参考网络资...
[Java]Files.list等Stream方法导致打开文件数不释放（Too many open files）的解决方案
yaoxinghuo的专栏
01-11 1588
最近发现一个问题，Tomcat运行一段时间后，就会发生崩溃现象，查找tomcat的logs/catalina.out日志，发现很多 java.io.IOException: Too many open files这样的错误日志 继续查找，ps au|grep java 找到tomcat的PID，lsof -p PID 看到具体的打开文件很多都是我最近添加的代码里Files.list(Paths.get(baseDir)).filter(...)这里的文件 可是Files.list这种Stream的方式
解决listview刷新item时的OOM
cau_eric的专栏
10-18 521
最近做个项目，在模拟机上加载item的布局时会崩溃，跟踪后发现，问题可能在于我整个item的布局是用一个imageview做背景的，在加载图片时导致 查询度娘发现有很多可以省内存加载图片的方法，就找了一种，修改了一下Adapt的getView BitmapDrawable getBitmapDrawable() { BitmapFactory.Options opt = new
M3DB安装指南以及一些问题
百看不如一RUN
04-30 2436
1、M3DB介绍 Uber 之前开源了已在内部使用多年的指标平台 —— M3 ，这是一个基于分布式时序数据库 M3DB 构建的度量平台，可每秒聚合 5 亿个指标，并且以每秒 2000 万笔的速度持续存储这些结果。 Uber 表示，为促进在全球的运营发展，他们需要能够在任何特定时间快速存储和访问后端系统上的数十亿个指标。一直到 2014 年底，Uber 的所有服务、基础设施和服务器都是将指标发送到基于 Graphite 的系统中，该系统将这些资料以 Whisper 档案格式储存到分片 Carbon 丛集。此
内存溢出异常解决方案
peijunlin的专栏
12-20 1382
 一 调整 虚拟机参数二 立即 释放无用的对象 三 利用序列化和反序列化技术 下面是具体的代码实现package com.free;import java.io.File;import java.io.FileInputStream;import java.io.FileNotFoundException;import java.io.FileOutputStream;import jav
黑马程序员——第十一篇：File类、方法递归、Io流
u013589850的博客
12-16 459
------- android培训、<a   href="http://www.itheima.com" target="blank">java培训、期待与您交流！ ---------- 1、File类获取方法   通过操作系统中的路径,进行获取     1. String getName()    获取的是File构造方法中的抽象路径的名字    new File(
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值