问题回顾
在测试环境中,项目使用的ES报错了,如下:
Elasticsearch exception [type=circuit_breaking_exception, reason=[parent] Data too large, data for [<http_request>] would be [505648516/482.2mb], which is larger than the limit of [501746892/478.5mb], real usage: [505647744/482.2mb], new bytes reserved: [772/772b], usages [request=0/0b, fielddata=26178/25.5kb, in_flight_requests=772/772b, accounting=1855143/1.7mb]].
原因概述
默认,从ES拉取的数据会被ES限制大小,防止出现超出可用内存,导致整个服务不可用问题。
- 增大内存即可临时解决。
- 长久解决办法见本文的 “原理解析” 部分
临时解决方法
调整ES启动时的JVM内存大小,下列2个步骤都要看。
注意:如果是生产环境,请自行注意服务器的内存大小是否够用!!!否则强行改大内存可能导致其余服务崩溃。
注意:如果是生产环境,请自行注意服务器的内存大小是否够用!!!否则强行改大内存可能导致其余服务崩溃。
注意:如果是生产环境,请自行注意服务器的内存大小是否够用!!!否则强行改大内存可能导致其余服务崩溃。
-
如果你使用的是K8S,尝试调整K8S给ES分配的内存大小
把这里的limits里的memory改大
-
如果你设置了启动命令的JVM内存大小,修改大内存即可。【如果你没设置,忽视这一步】
类似如下
调大即可。
比如图里的是 -Xms8G -Xmx8G,调大到10G什么的。
原理解析
参考官网解释:
默认,从ES拉取的数据会被ES限制大小,防止出现超出可用内存,导致整个服务不可用问题。
所以:
- 临时方法:
- 你可以修改提供给ES的总内存大小
- 你可以修改下面的那个
indices.breaker.total.limit
大小。具体可以自行查看
- 长久办法:
- 找到到底是哪个接口拉取数据超量了,尽量别拉取没用的字段。
附带链接:https://www.elastic.co/guide/en/elasticsearch/reference/7.6/circuit-breaker.html