sqoop从mysql到hive实现定时增量导入

本文介绍了如何使用sqoop实现从mysql到hive的定时增量数据导入,包括全量抽取、创建增量job、执行job、配置定时任务以及解决执行过程中遇到的问题,如增量字段查询、自动记录last-value和防止数据重复等。
摘要由CSDN通过智能技术生成

整理自网络,其中有自己遇到的问题及解决方法。

  • 1.第一次全量抽取,并创建hive表
sqoop import --connect jdbc:mysql://localhost:3306/test --username xxx --password xxx --direct --fields-terminated-by '\t' --target-dir /data/sqoop/shop --delete-target-dir --hive-import --hive-overwrite --hive-database shop --hive-table order --create-hive-table --query 'SELECT d.id,d.order_id,d.order_no,o.member_id,o.member_name,o.pay_status,o.pay_time,o.order_status,o.order_time,o.is_admin_order,o.source,o.ip_address,d.shop_id,ca2.id kz_id,ca2.category_name kz_name,ca1.id km_id,ca1.category_name km_name,d.category_id,d.goods_id,d.goods_type,d.goods_name,d.goods_sale_price,d.goods_num,d.goods_date FROM ec_order_detail d left join ec_order o on o.id = d.order_id LEFT JOIN ec_category ca ON ca.id = d.category_id LEFT JOIN ec_category ca1 ON ca1.id = ca.parentid LEFT JOIN ec_category ca2 ON ca2.id = ca1.parentid WHERE $CONDIT
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值