hbase占用内存过高_HBase导致的一次内存泄漏

生产上的一个应用经常运行一段时间后就内存告警,在一次告警中,先 dump 了内存下来,然后再重启了应用。

dump 命令:

jmap

-dump:format=b,file=memory.pro {pid}

用 VisualVM

打开文件,看了一下,发现占用很高的是 java.nio.ByteBuffer[],点击多层引用进去发现是 HBase

连接,看起来很明显,大概知道是什么问题了,有 6 万多个连接对象,肯定是连接未释放导致的。

到底是什么导致连接未释放?

看了公司内部封装的框架代码,操作 HBase 有使用 HTablePool,配置了队列数是

10,这就奇了怪了。为啥连接数还那么高?

只能通过 HBase

源代码来看个究竟,直到看了 HBase 的 HTablePool#getTable(),取出为空的话还会自动创建

HTable,说明配置队列数不是固定死的,还会自动创建的。当 HBase 操作慢的时候,存 HTable

的队列很容易就为空了,这个时候会额外创建 HTable,这时候怀疑额外创建的 HTable 没有释放资源,再继续看代码。

既然可以无限创建

HTable,那就得关注下存 HTable 到队列的代码了。看了 HTablePool#putTable()

代码发现,只是简单判断了队列没满,就把 HTable 放到队列,多余的 HTable 竟然啥都没处理,就这样堆积在内存中。

看了 HBase 版本,是可怜的

0.89 古老版,在新的版本这个问题都不存在了,下面是 0.98 版本,已经解决了这个问题,把多余的 HTable 回收了。

这个坑也是公司一直没升级 HBase

导致的。所以要跟得上开源的脚步,尽量用高的版本的开源框架。在没升级 HBase 的时候,只能根据业务,把 HTablePool

队列配置配高些,才会减少自动创建的 HTable。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值