ElasticSearch客户端迁移到Rest Client后,ElasticSearch节点内存打满问题排查

文章讲述了在将Elasticsearch集群从TransportClient迁移到RestClient后,遇到内存溢出的问题。通过内存分析发现Netty4CorsHandler和CopyBytesSocketChannel的内存占用,尤其是Netty4HttpRequest的大量堆积。解决方法是在Netty4CorsHandler的channelRead方法中及时释放请求引用,以避免内存泄漏。

背景

当前ElasticSearch集群数据写入使用Transport Client,由于Transport Client在8.0版本后弃用并且存在性能问题,所以要将数据写入的客户端迁移到Rest Client

现象

将客户端迁移为Rest Client之后,部分ElasticSearch节点出现内存被打满的现象,节点重启后过一段时间又被打满。dump进程内存后立刻回滚了客户端并将ElasticSearch集群节点全量重启。

问题分析

使用Eclipse Memory Analyzer Tools进行dump文件的内存分析,得到以下结果。


通过Dominator Classes可以看出是CopyBytesSocketChannel和Transport$ResponseHandlers占据了大部分内存,下面进行分别分析。

CopyBytesSocketChannel分析

CopyBytesSocketChannel为netty中的channel,每个TCP连接创建一个。
CopyBytesSocketChannel实例的数量和我们ES节点的连接数相同,异常的地方在于CopyBytesSocketChannel实例的大小。
通过上面的类内存占用排行可以看出多个类占用大小为16GB,这些类之间的引用关系如下:
CopyBytesSocketChannel -> DefaultChannelPipeline -> DefaultChanne

评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值