亲测!超好用 Hive 内置的 json 解析函数

本文详细介绍了在Hive中如何使用内置函数get_json_object和json_tuple解析JSON数据,通过实例展示了如何进行“行转列”的数据处理。讨论了两者在处理JSON字段时的差异,并预告了Hive解析JSON数组的方法。
摘要由CSDN通过智能技术生成

背景

在大数据  ETL(Extract-Transfer-Load)  过程中,经常需要从不同的数据源来提取数据进行加工处理,比较常见的是从 Mysql 数据库来提取数据,而 Mysql 数据库中数据存储的比较常见方式是使用 json 串进行存储。

通过大数据加工处理出来的数据是需要具有可直观分析的特点,可从数据分析中挖掘出商业价值的。

因此在数据预处理层需要将 json 串进行“拍平”处理,所谓“拍平”是指将 json 中的 key 转换为表的列字段,其 key 对应的 value 值则为列字段对应的值。

“拍平”的处理行业内也可称为“行转列”处理,我举个例子你就能明白什么是行转列了。

举例:

user表字段如下:

id detail_info
1 '{"name":"rocky","age":18,"prefer":"music"}'

现需要将 user 表中字段 detail_info 中的 json 串值,以每个 key 作为 user_detail_info 表的字段来进行存储。

实现的 user_detail_info 表字段如下:

id name age prefer
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Wu_Candy

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值