oracle导出到hive,从Oracle导出数据并导入到Hive

1、配置源和目标的数据连接

源(oracle):

52116c8000720a9098c1a4fa7027b706.png

目标(Hive 2.1.1),需要事先将hive的驱动程序导入HHDI的lib目录中。

99eac5dcb51d41ffad88d4e63ec291c6.png

Hive2.1.1需要的jar包如下:可根据自身情况更换hadoop和hive的jar包。

hadoop-common-2.6.0.jar

hive-common-2.1.0.jar

hive-jdbc-2.1.0.jar

hive-metastore-2.1.0.jar

hive-serde-2.1.0.jar

hive-service-2.1.0.jar

hive-service-rpc-2.1.0.jar

hive-shims-2.1.0.jar

2、创建一个导出文本任务,将Oracle的表数据导出到一个文本文件中

63b47ad4f00106133b0e6cefb07d08b8.png

配置源表查询语句来抽取源表中的数据,可以增加Where条件缩小抽取的范围。

833bf3c6956df8dabc4934a7db9b6609.png

数据被导出为一个txt文件到HHDI服务所在机器的磁盘中,后缀名为批次号,例如:O_RECORD_BLOODGLUCOSE.20170301

2f97fff9763f6163abeefba8f38ad6c8.png

3、将导出的文本文件上传到Hive所在主节点机器的目录中,如果该Hive节点的目录和HHDI服务器的目录做了路径映射,则可以省略这个步骤。

此处选择的是SFTP方式

965b955a66a2982dffb9a0dec2f34e75.png

Hive的主节点为192.168.1.195,SFTP服务已经启用

b0bced5e6393bfbeeed9fdba00721e41.png

上传的源文件和目标文件的配置

61f4c6499b1c4ebfa0b08e9a12afa2f3.png

4、创建一个执行SQL任务,在Hive服务器上执行建表和导入文本数据的命令

51a9461974d914dcc8ee38e293162eea.png

采用LOAD DATA命令将本地文件导入Hive

be2d4dae37e3a57b20f05dcc60e85009.png

5、创建一个作业流程,将上面创建的几个转换任务编入流程,注意顺序

3e1a90f4e7c86b56e0a7e61c15db4127.png

6、手工执行该作业流程,将oracle的数据导出并导入hive。

e7b4bf76a0bfc310b9ff9b639551d673.png

除此之外还可以通过CDATA的Hive驱动来从数据库直接导入数据到Hive,详情可查看另外一篇文章:

HHDI(www.haohedi.com)让ETL变得简单!

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值