hive sqoop 分区导入_sqoop导入导出实例以及多分区案例

本文详细介绍了如何使用Sqoop将数据从MySQL导出到Hive,包括只插入、覆盖操作,并展示了从Hive回导到MySQL的插入、更新和更新并插入的方法。此外,还探讨了 Sqoop 对多分区的支持,提供了一种适用于Hive orc表的解决方案。
摘要由CSDN通过智能技术生成

1.从mysql导出到hive

1.只插入

sqoop import   \

--connect  jdbc:mysql://localhost:3306/test  \

--username  escheduler_dev  \

--password  2wsxVFR$  \

--query  "select id  as  id,name  as  name,age  as  age from a_demo where  1=1  and  \$CONDITIONS "   \

--hive-import  \

--hive-database  default  \

--hive-table  demo10   \

--target-dir  /tmp/hyj-$RANDOM  \

--hive-partition-key  date_id  \

--hive-partition-value  1000  \

--m  1;  \

注释:--connect是源数据库即mysql;--username和--password是mysql的用户名密码,--query是做查询条件,可以筛选数据,也可以对字段起别名,用于字段映射;

--hive-database和--hive-table用于hive非orc表的语法,即hive的库名和表明;--target-dir缓存目录;--hive-partition-key和--hive-partition-value是分区字段名以及值

2.覆盖

在例1后面拼接 --hive-overwrite

标注:如果hive表为orc表,就sqoop无法进行overw

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值