Sqoop往Hive导入数据实战

本文详细介绍了使用Sqoop将数据从MySQL导入到Hive的过程,包括append和last-modified两种模式的区别,以及如何进行分区导入。在实战中,选择了2013-11-03的数据导入Hive,并通过Hive查询验证了导入数据的正确性。导入时,数据被存储为Parquet或Avro文件,并在HDFS上按照order_date分区,每个分区包含特定日期的订单数据,字段包括除order_date之外的3个字段。
摘要由CSDN通过智能技术生成

分为append和last-modified两种模式,

前者会删除已有数据,后者会更新已有数据和添加新数据。

 

先创建Hive外部表,然后再导入Hive。

sqoop import

--connect jdbc:mysql://localhost/hr   指定mysql的数据库

--table orders    指定是mysql中的什么表

--username root

--password 123456

--hive-import     指定通过Hive来导入

--create-hive-table  创建Hive表,这个表的格式和RDBMS是一样的

--hive-table eShop.orders  //目标表名字

--hive-overwrite   这个开关表示,如果目标表存在就重写。

--m 3

--as-parquetfile/avrofile

 

如何分区后导入Hive

方法就是通过query查询出一些数据

区别就是没有create table的开关了

加上hive-partition-key和value的开关

 

它会在target-dir目录下创建子目录(分区)

子目录名字  /orders/order_date=20140724

 

子目录下面是什么呢,这个文件有几个字段呢,应该是哪几个字段。

所以我这个表我实际包含3个字段&#

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值