Kettle内存溢出的相关设置

kettle的内存溢出,如下图,一般是三个原因:

第一,某个job(例如图中的job_smart_etl_launcher_daily_start这个job,执行并行任务)中放置的job太多,三条并行线;这种需要将多个子job放置到另一个job中,start - 子job -success,避免同一个job中设置太多任务数据量很大的job。

第二,Spoon.bat(windows端)和Spoon.sh(linux端)里设置的内存太小,可以设置为机器内存的1/4,比如16G内存,可以设置到4G。

-Xms初始的Heap的大小。

-Xmx最大Heap的大小。

在很多情况下,-Xms和-Xmx设置成一样的。这么设置,是因为当Heap不够用时,会发生内存抖动,影响程序运行稳定性。

第三,没有加kettle临时内存文件的指定目录,加完指定目录后kettle运行时产生的临时文件会放到临时目录中,kettle运行完后删除临时文件,这样也可以避免kettle内存不足。

ps:kettle系统运行日志是上图中的-Dlogs.base.dir(与kettle流程的运行日志不同,这个是kettle的系统日志),这个目录最好放置在磁盘比较足的地方,系统日志会越来越大,占用工作空间的内存。需要删除的时候,注意要保留error.log和info.log,其余都可以清楚,释放内存空间。

----------------------------------------------------------------------------------------------

实测,这样设置后,kettle可以坚持运行约8个小时,但运行8小时后还是会出现内存溢出的现象。

 

 

 

  • 0
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值