gateway 内存溢出问题_内存溢出问题

博客讨论了在使用Python API通过HTTP连接Elasticsearch时遇到的内存溢出问题。当插入大量数据(如4亿条)时,尽管服务器配置为64GB内存,仍然出现内存溢出。内容提到了mapreduce和bulk操作,以及可能由于并发量过大导致的压力。日志显示了频繁的GC活动和Java堆空间错误。
摘要由CSDN通过智能技术生成

你们python api用http连接es,连得都是协调节点吗,连多台他会自动负载均衡吧?

插入数据时协调节点为什么压力会那么大老内存溢出?数据难道会先加载到协调节点?

我连4台挂了2台, 4台机器都是配置64g,绝对超不过64g的,不知道是为什么挂的,可能是并发量太大了?

我插入4亿多条数据,用mapreduce,

if len(actions) == 9000:

for i in helpers.parallel_bulk(es, actions,

thread_count=3, chunk_size=3000):

[2017-12-16T22:05:43,000][WARN ][o.e.m.j.JvmGcMonitorService] [es_0 ] [gc][110776] overhead, spent [9.7s] collecting in the last [9.8s]

[2017-12-16T22:05:43,000][DEBUG][o.e.x.m.MonitoringService] [es_0 ] monitoring execution is skipped until previous execution terminated

[2017-12-16T22:05:43,000][DEBUG][i.n.b.PoolThreadCache    ] Freed 10 thread-local buffer(s) from thread: threadDeathWatcher-2-1

[2017-12-16T22:05:43,000][ERROR][o.e.t.n.Netty4Utils      ] fatal error on the network layer

at org.elasticsearch.transport.netty4.Netty4Utils.maybeDie(Netty4Utils.java:140)

at org.elasticsearch.http.netty4.Netty4HttpRequestHandler.exceptionCaught(Netty4HttpRequestHandler.java:81)

at io.netty.channel.AbstractChannelHandlerContext.invokeExceptionCaught(AbstractChannelHandlerContext.java:286)

at io.netty.channel.AbstractChannelHandlerContext.invokeExceptionCaught(AbstractChannelHandlerContext.java:265)

at io.netty.channel.AbstractChannelHandlerContext.fireExc

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值