oracle数据文件32TB问题

BI报表抽数(KETTLE)效率问题:

现象:

1、BI数据库最大单文件32TB,

2、源数据库表存在单表3亿多行记录,大于150GB;

3、源数据有删除记录;

4、多表关联时,全部用左联接。

建议:

1、使用数据库文件组,例如 文件组内的数据库文件以 20GB/文件,减少IO文件进出;数据表与 索引分离在不同的数据库表空间。

2、某些数据库表较大,可以考虑独立 数据库文件。

3、源数据有删除记录,如何同步删除BI库上的垃圾记录呢?数亿笔记录删除重抽?ETL抽1亿笔记录可是需要 4小时以上的。

为减少ETL的IO消耗,在BI数据库端可以考虑主单据号重复判断法,当存在重复时,再判断主键ID是否不存在于源数据库表。

4、建议DBA对这种开发方式做必须的效率审查,极容易出现IO消耗过大问题。

  • 10
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值