Sqoop全量和增量导入数据到Oracle数据库

1,全量导入
示例:
–全量导入
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp –hive-overwrite
2,追加导入
示例:
–追加导入
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp

3,增量导入
Sqoop提供了原生增量导入的特性,包含以下三个关键参数:
1)–check-column (col) 指定一个“标识列”用于判断增量导入的数据范围,该列不能是字符型,最好是数字或者日期型
2)–incremental (mode) 指定增量模式,包含“追加模式” append 和“最后修改模式” lastmodified
3)–last-value (value) 指定“标志列”上次导入的上界。
如果“标识列”是最后修改时间,则–last-value为上次执行导入脚本的时间

–增量导入 append模式示例:
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp –incremental append –check-column ID –last-value 3

–增量导入 lastmodified模式示例:
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp –incremental lastmodified –check-column LASTMODIFIED –last-value –last-value ‘2015-04-14 13:00:00’

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值