(5)关于Flume内存溢出的问题,此时会报各种莫名奇妙的异常,异常如下 [html] view plain copy print? <span style="font-size:18px;">org

(5)关于Flume内存溢出的问题,此时会报各种莫名奇妙的异常,异常如下

[html]  view plain  copy
 print ?
  1. <span style="font-size:18px;">org.apache.avro.AvroRuntimeException: Unknown datum type: java.lang.Exception: java.lang.OutOfMemoryError: GC overhead limit exceeded  
  2. 14/10/17 09:56:06 WARN ipc.NettyServer: Unexpected exception from downstream.  
  3. java.lang.OutOfMemoryError: Java heap space  
  4. 14/10/17 09:50:31 ERROR flume.SinkRunner: Unable to deliver event. Exception follows.  
  5. java.lang.IllegalStateException: close() called when transaction is OPEN - you must either commit or rollback first  
  6. Exception in thread "pool-17-thread-6" java.lang.NoClassDefFoundError: Could not initialize class java.text.MessageFormat  
  7. EXCEPTION: java.lang.OutOfMemoryError: GC overhead limit exceeded)  
  8. java.lang.OutOfMemoryError: GC overhead limit exceeded  
  9. Error while writing to required channel: org.apache.flume.channel.MemoryChannel{name:  
  10. AvroRuntimeException: Excessively large list allocation request detected: 1398022191 items! Connection closed.  
  11. </span>  
这个问题害得我同事通宵到第二天10点了还没搞定,网上查了很多资料都是说设置JVM参数,我们同事还一起修改flume-en.sh里的

# Give Flume more memory and pre-allocate, enable remote monitoring via JMX
#JAVA_OPTS="-Xms1024m -Xmx2048m -Dcom.sun.management.jmxremote" 这个参数,可是怎么改都不管用。都是没有明显的说出原因,还说修改什么limits.conf文件,什么解释都有很乱。

第二天我来上班接着排查:

解决办法:

<1>ps -aux|grep flume 查看刚才启动的flume进程,发现如下信息

[html]  view plain  copy
 print ?
  1. <span style="font-size:18px;">/usr/jdk/bin/java -Xmx20m -Dflume.root.logger=INFO -cp conf</span>  
<2>于是看一个flume-ng的python脚本,发现
[html]  view plain  copy
 print ?
  1. <span style="font-size:18px;">JAVA_OPTS="-Xmx20m"</span>  
问题就是出在这里了,然后我把flume-ng脚本里的这个值调大后,一切运行正常了。
[html]  view plain  copy
 print ?
  1. <span style="font-size:18px;">JAVA_OPTS="-Xmx2048m"</span>  
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值