一般情况下,我们会执行这样的语句调用kjb
$kettle_home/kitchen.sh -file=$file_path/tongji.kjb
在执行sh tongji.sh时,有时数据量不是很大,只有几万条就会报错
java.lang.OutOfMemoryError: GC overhead limit exceeded
我当时也是很困惑,几个同事查了百度后改了
data-integration/spoon.sh文件
PENTAHO_DI_JAVA_OPTIONS="-Xmx1024m -XX:MaxPermSize=2048m"
可是结果还是一样报错,后来你我们想了很多笨的办法,增加kjb,ktr,分多个sheet,并没有解决,后来单个kjb写不同的excel文件解决了,可是这样要分很多excel给领导看,显然是不合理的。后来终于被我找到了
就是vi data-integration/kitchen.sh
if [ -z "$JAVAMAXMEM" ]; then
#JAVAMAXMEM="512"
JAVAMAXMEM="1024"
就是它,以前写的是512,改成1024就解决问题了。
开始还以为是excel的问题呢,大家都知道excel低版本还可以放65536条呢,高版本的100万是可以放的。所以排除excel,就把问题放在kettle的配置参数就对了。问题解决。