hive创建oracle包,从Oracle导出数据并导入到Hive

1、配置源和目标的数据连接

源(oracle):

5ba5462f91aead9ee07280a90a1d2630.png

目标(Hive 2.1.1),需要事先将hive的驱动程序导入HHDI的lib目录中。

da24752ca3bc18245217d1998af51886.png

Hive2.1.1需要的jar包如下:可根据自身情况更换hadoop和hive的jar包。

hadoop-common-2.6.0.jar

hive-common-2.1.0.jar

hive-jdbc-2.1.0.jar

hive-metastore-2.1.0.jar

hive-serde-2.1.0.jar

hive-service-2.1.0.jar

hive-service-rpc-2.1.0.jar

hive-shims-2.1.0.jar

2、创建一个导出文本任务,将Oracle的表数据导出到一个文本文件中

81692cfded3338dc7558324946fb081b.png

配置源表查询语句来抽取源表中的数据,可以增加Where条件缩小抽取的范围。

4f32cb036d56daa4ad8213465555be8e.png

数据被导出为一个txt文件到HHDI服务所在机器的磁盘中,后缀名为批次号,例如:O_RECORD_BLOODGLUCOSE.20170301

2284e8c42cd06a0ee3a3791a06dd35a1.png

3、将导出的文本文件上传到Hive所在主节点机器的目录中,如果该Hive节点的目录和HHDI服务器的目录做了路径映射,则可以省略这个步骤。

此处选择的是SFTP方式

f299ac25035fa7a449a4f23fdf8d21f1.png

Hive的主节点为192.168.1.195,SFTP服务已经启用

5c5c38a55818d710721ba63e9bdbad01.png

上传的源文件和目标文件的配置

474cb868145b60f5bc944baaaa7c7b6c.png

4、创建一个执行SQL任务,在Hive服务器上执行建表和导入文本数据的命令

6a16cc01e0a806c63ec5f9e14874b7fd.png

采用LOAD DATA命令将本地文件导入Hive

71a589773318eb08bd4b3c320ed385cd.png

5、创建一个作业流程,将上面创建的几个转换任务编入流程,注意顺序

ddea6dab5d45a095d9674928b2fd8ffe.png

6、手工执行该作业流程,将oracle的数据导出并导入hive。

7aefb9bf4a7c838569aa8536fa3f8a14.png

除此之外还可以通过CDATA的Hive驱动来从数据库直接导入数据到Hive,详情可查看另外一篇文章:

HHDI(www.haohedi.com)让ETL变得简单!

原文:https://www.cnblogs.com/haohedi/p/10417902.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值