kettle工具导出excel报错内存溢出的解决方法GC overhead limit exceeded

一般情况下,我们会执行这样的语句调用kjb

$kettle_home/kitchen.sh -file=$file_path/tongji.kjb

在执行sh tongji.sh时,有时数据量不是很大,只有几万条就会报错

java.lang.OutOfMemoryError: GC overhead limit exceeded

我当时也是很困惑,几个同事查了百度后改了

 data-integration/spoon.sh文件

 PENTAHO_DI_JAVA_OPTIONS="-Xmx1024m -XX:MaxPermSize=2048m"

可是结果还是一样报错,后来你我们想了很多笨的办法,增加kjb,ktr,分多个sheet,并没有解决,后来单个kjb写不同的excel文件解决了,可是这样要分很多excel给领导看,显然是不合理的。后来终于被我找到了

就是vi data-integration/kitchen.sh

if [ -z "$JAVAMAXMEM" ]; then
 #JAVAMAXMEM="512"
JAVAMAXMEM="1024"

就是它,以前写的是512,改成1024就解决问题了。

开始还以为是excel的问题呢,大家都知道excel低版本还可以放65536条呢,高版本的100万是可以放的。所以排除excel,就把问题放在kettle的配置参数就对了。问题解决。




  • 4
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 9
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值