hive split函数_Hive中的explode使用全解

bedee74aa6deb38c5e85eaf0dc31fa78.png

本节主要介绍explode和posexplode函数的使用。

1、数据介绍
主要包括三列,分别是班级、姓名以及成绩,数据表名是default.classinfo。

938685ed32dbb8a02ffd3c8ee5bb921b.png

2、单列Explode
首先来看下最基本的,我们如何把student这一列中的数据由一行变成多行。这里需要使用split和explode,并结合lateral view实现。代码如下:

select
    class,student_name
from
    default.classinfo
    lateral view explode(split(student,',')) t as student_name

结果如下:

62be372e01aee25996809eef1d1a398e.png

3、单列Posexplode
接下来,我们想要给每个同学来一个编号,假设编号就按姓名的顺序,此时我们要用到另一个hive函数,叫做posexplode,代码如下:

select
    class,student_index + 1 as student_index,student_name
from
    default.classinfo
    lateral view posexplode(split(student,',')) t as student_index,student_name;


这里select时对编号+1主要是因为编号是从0开始的,结果如下:

abab15b7116fe17f0015f44b4c6e6a97.png

4、多列Explode
好了,我们继续前进。这次我们想基于两列explode,同时能够使学生和其成绩能够匹配,即期望的效果如下:

ec43489e2a07433e014e39527c52bbbe.png


显然我们要对两列进行explode,先试试行不行:

select
    


结果如下:

3fc6ca58059c71e6dbdc132e1369e7e4.png


好像是不太行,如果我们分别对两列进行explode的话,假设每列都有三个值,那么最终会变成3 * 3 = 9行。但我们想要的结果只有三行。此时我们可以进行两次posexplode,姓名和成绩都保留对应的序号,即使变成了9行,我们通过where条件只保留序号相同的行即可。代码如下:

select
    class,student_name,student_score
from
    default.classinfo
    lateral view posexplode(split(student,',')) sn as student_index_sn,student_name
    lateral view posexplode(split(score,',')) sc as student_index_sc,student_score
where
    student_index_sn = student_index_sc;


此时结果就对了:

8328d944524016d81fb663d67d55939b.png


好了,到这里本应该就结束了,假设我们又想对同学的成绩进行一下排名该怎么做呢?当然是借助rank函数啦(row_number函数对于相同的成绩也会赋予不同的排名,所以我们选择rank函数,关于二者的区别我们后续再细讲):

select
    class,
    student_name,
    student_score,
    rank() over(partition by class order by student_score desc) as student_rank
from
    default.classinfo
    lateral view posexplode(split(student,',')) sn as student_index_sn,student_name
    lateral view posexplode(split(score,',')) sc as student_index_sc,student_score
where
    student_index_sn = student_index_sc
    order by class,student_rank;


结果符合我们预期:

51e3431fb460e46225627ebd1cbf2f41.png

本文转自:网页链接

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值