大数据开发之Sqoop篇----将数据导入到hive里面时遇到的一个坑

我们之前都是使用sqoop把RBDMS的数据导入到HDFS里面,但并没有在hive里面同时构建表,现在我们需要将数据导入HDFS里面的同时为这批数据在hive里面构建表结构

一般我们使用的命令:

sqoop import  --connect url  --username root -P --table mysql里面的一个表(你也可以使用-e来给予SQL语句) --create-hive-table --hive-database 指定一个hive的数据库  --hive-import  说明是要导入到hive里面  --hive-overwrite  是否重写到表格里面   --hive-table 导入hive里面的表名是什么  --delete-target-dir

但是当你导入是你会发现老是出问题,报错的。主要是sqoop里面缺少几个包,而这个几个包是在hive目录下的lib文件夹里面的

hive-common-1.1.0-cdh5.7.0.jar
hive-shims-*  就是以这个名字开始的所有模糊匹配的包

将这些包都cp到sqoop的lib里面在使用上面的命令就不会报错了。

同时提醒一些小伙伴,在生产当中--create-hive-table这个参数是很少使用的,我们一般都是在hive里面先手动创建一个hive表,然后在使用sqoop导入时就直接指定--hive-table这个参数就行了。

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值