Kettle连接oracle数据库超时故障处理一则

Spoon制作一个数据分发的简单转换。读取源表-》读取目标表-》比较源表和目标表的差异-》有差异的进行同步。做好后发现故障,同步最近一天的数据可以顺利完成,耗时1mn24s。同步最近一个月的数据更新插入步骤就会报错。错误信息time out。对数据格式处理过程排查一遍,更换数据同步组件,也没解决问题。最后想想因该是数据库连接超时造成的。同步1天的耗时短,更新插入组件的数据库连接还没有超时,所以不会报错。而同步一个月的数据耗时就比较长,所以更新插入组件的数据库连接就超时报错了。

为了证实这个猜测,在转换设置使用同一个数据库连接,这样前面抽取数据和后面的更新插入步骤数据库连接是同一个数据库连接,就不会超时。经过实验,同步一个月的数据没有报错,说明就是数据库连接超时导致故障。

使用同一个数据库连接影响性能,还是想修改数据库连接的超时等待时间。oracle数据库设置连接超时的配置就是修改listener.ora文件。超时等待时间改成10小时(36000s),基本够用了。具体可见:

INBOUND_CONNECT_TIMEOUT与SQLNET.INBOUND_CONNECT_TIMEOUT_P10ZHUO的博客-CSDN博客

INBOUND_CONNECT_TIMEOUT_LISTENER=36000

这样修改有个问题,ETL和其他用户SQL查询都是用同样的超时等待时间设置不合适。SQL查数用途的客户端也使用这么长超时时间,就会很浪费数据库资源。应该设置两个不同超时时间监听,应对不同用途。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值