限制内存使用"type":"circuit_breaking_exception","reason":"[fielddata] Data too large,

最新推荐文章于 2024-08-02 10:27:34 发布

杀手143

最新推荐文章于 2024-08-02 10:27:34 发布

阅读量1.1w

点赞数

分类专栏： ElasticSearch 文章标签： ElasticSearch

本文链接：https://blog.csdn.net/weixin_42166515/article/details/89093832

版权

ElasticSearch 专栏收录该内容

2 篇文章 0 订阅

订阅专栏

{"error":{"root_cause":[{"type":"circuit_breaking_exception","reason":"[fielddata] Data too large, data for [name.raw] would be [5112378110/4.7gb], which is larger than the limit of [5112122572/4.7gb]","bytes_wanted":5112378110,"bytes_limit":5112122572}

断路器

关于ES内存使用的一些问题

断路器

indices.breaker.fielddata.limit

fielddata 断路器默认设置堆的 60% 作为 fielddata 大小的上限。

indices.breaker.request.limit

request 断路器估算需要完成其他请求部分的结构大小，例如创建一个聚合桶，默认限制是堆内存的 40%。

indices.breaker.total.limit

total 揉合 request 和 fielddata 断路器保证两者组合起来不会使用超过堆内存的 70%。

indices.fielddata.cache.size

缓存回收大小，无默认值，有了这个设置，最久未使用（LRU）的 fielddata 会被回收为新数据腾出空间

前三项可以动态设置,最后一项要在配置文件中修改

例如：

PUT /_cluster/settings
{
  "persistent": {
    "indices.breaker.fielddata.limit": "60%"
  }
} 


PUT /_cluster/settings
{
  "persistent": {
    "indices.breaker.request.limit": "40%"
  }
} 


PUT /_cluster/settings
{
  "persistent": {
    "indices.breaker.total.limit": "70%"
  }
}

最后一项要在elasticsearch.yml中配置

#------------有了这个设置，最久未使用（LRU）的 fielddata 会被回收为新数据腾出空间   
indices.fielddata.cache.size:  40%

建议

最好为断路器设置一个相对保守点的值。记住 fielddata 需要与 request 断路器共享堆内存、索引缓冲内存和过滤器缓存。Lucene 的数据被用来构造索引，以及各种其他临时的数据结构。正因如此，它默认值非常保守，只有 60% 。过于乐观的设置可能会引起潜在的堆栈溢出（OOM）异常，这会使整个节点宕掉。
另一方面，过度保守的值只会返回查询异常，应用程序可以对异常做相应处理。异常比服务器崩溃要好。

上面几项的关系

当前fieldData缓存区大小     <   indices.fielddata.cache.size 
当前fieldData缓存区大小   +  下一个查询加载进来的fieldData   <   indices.breaker.fielddata.limit 
indices.breaker.request.limit  +  indices.breaker.fielddata.limit  <  indices.breaker.total.limit