java执行sqoop命令_sqoop中的以下命令是什么?

Sqoop允许您并行导入数据,而--split-by和--boundary-query允许您进行更多控制 . 如果您只是导入一个表,那么它将使用PRIMARY KEY,但是如果您正在进行更高级的查询,则需要指定列来执行并行拆分 .

即,

sqoop import \

--connect 'jdbc:mysql://.../...' \

--direct \

--username uname --password pword \

--hive-import \

--hive-table query_import \

--boundary-query 'SELECT 0, MAX(id) FROM a' \

--query 'SELECT a.id, a.name, b.id, b.name FROM a, b WHERE a.id = b.id AND $CONDITIONS'\

--num-mappers 3

--split-by a.id \

--target-dir /data/import \

--verbose

边界查询允许您指定优化查询以获取最大值,最小值 . 否则它会尝试在你的--query语句中执行MIN(a.id),MAX(a.id) .

结果将是(如果min = 0,max = 30)是3个并行运行的查询:

SELECT a.id, a.name, b.id, b.name FROM a, b WHERE a.id = b.id AND a.id BETWEEN 0 AND 10;

SELECT a.id, a.name, b.id, b.name FROM a, b WHERE a.id = b.id AND a.id BETWEEN 11 AND 20;

SELECT a.id, a.name, b.id, b.name FROM a, b WHERE a.id = b.id AND a.id BETWEEN 21 AND 30;

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值