sqoop的全量和增量使用详解

本文详细介绍了如何使用sqoop进行全量和增量数据导入。全量导入包括从MySQL到hdfs的转移,创建并加载数据到hive表的过程。增量导入则涉及将MySQL数据导入到hdfs,并通过创建hive分区表来实现数据导入。
摘要由CSDN通过智能技术生成

全量导入使用
1.从MySQL导入到hdfs上:

bin/sqoop import --connect jdbc:mysql://node-2:3306/qfbap_ods  --username root  --password root  --table code_category  --target-dir /qfbap/ods/bap_code_category  --hive-import   --create-hive-table   --hive-overwrite   --num-mappers 1

2.创建hive表:

create external table qfbap.bap_code_category( first_category_id   int, first_category_name  string, second_category_id  int, second_catery_name  string, third_category_id   int, third_category_name  string, category_id  int) row format delimited fields terminated by "\001" location "/qfbap/ods/bap_code_category" ;

3.加载数据到hive表中:

load data inpath "/qfbap/ods/bap_code_category" into table qfbap.bap_code_category ;

增量导入使用:
1.从MySQL向hdfs导入数据:

bin/sqoop import --connect jdbc:mysql://node-2:3306/qfbap_ods  --username root  --password 
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值