通过KETTLE 生成MYSQL 到HIVE的建表语句

本文介绍了如何利用KETTLE工具生成MYSQL到HIVE的建表语句,以提升数据仓库ETL过程的效率。通过三个主要步骤:获取MYSQL元数据、构建SQL逻辑和输出建表语句到文件,实现了这一功能。文中还展示了KETTLE的工作流程,并提供了Oracle数据库的SQL语句示例。
摘要由CSDN通过智能技术生成

    在数仓这块实在有太多想写的了,又感觉写得不专业不系统,始终没有动起手来,就零散写一些简单的小技巧和工具吧!

通过KETTLE 生成MYSQL 到HIVE的建表语句:市场上这样的工具太少了,为了提升效率,简单写了一个作业来实现这个能力。

逻辑大致分为三步,

1.提供需要采集的业务库(mysql)的元数据读取权限,用于读取表 字段信息 

2.通过构建SQL逻辑实现建表语句

3.建表语句追加方式输出 到文件

先看下实现的效果吧:

读取的资源库的表结构,然后生成建表语句,其中简单处理了一些字段类型对应

 

kettle 流程:

作业:

转换一:

核心点:表数据,将表名和scheam获取到 作为下游的参数:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值