Sqoop的Append和Lastmodified

Lastmodified 和Append模式的区别:
Append模式处理不了更新数据,而
Lastmodified模式可以

Append 支持动态增加 不支持修改

sqoop import \
--connect jdbc:mysql://192.168.164.25:3306/stock \
--username root \
--password 111111 \
--query "select id,name from person_all where \$CONDITIONS" \
--target-dir /user/root/person_all \
--split-by id \
-m 1 \
--check-column id \
--incremental append \
--last-value 4
Id大于4的记
录都被导出

语法范式解析:
sqoop import: SQOOP 命令,从关系型数据库导数到Hadoop
–check-column: 用于检查增量数据的列
–incremental append: 设置为增量模式
–last-value :源数据中所有大于–last value的值都会被导入Hadoop


Lastmodified 可以修改数据 也可以增加

sqoop import \
--connect jdbc:mysql://192.168.164.25:3306/test \
--username root \
--password 111111 \
--query "select id,name,time from t1 where \$CONDITIONS" \
--target-dir /user/root/person_all \
--split-by id \
-m 1 \
--check-column time \
--incremental lastmodified \
--merge-key Id \
--last-value "2015-08-25 03:12:46"

语法范式解析:
sqoop import: SQOOP 命令,从关系型数据库导数到Hadoop
–check-column: 必须是timestamp列
–incremental lastmodified: 设置为最后改动模式
–merge-key: 必须是唯一主键
–last-value: 所有大于最后一个时间的数据都会被更新

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值