hive sql中的用 爆炸函数lateral view explode将一行转成多行

爆炸函数lateral view explode将一行转成多行
lateral view 常用于和split,explode这个UDTF(User defined Table-Generating Functions)一起使用,该组合能进一行数据拆分成多行数据,并对拆分后的数据进行聚合。
split()函数通过指定分隔符对字符串进行切片,并返回分割后的字符串列表。
lateral view首先为原始表的每行调用UDTF,explode这个UDTF函数会把一个列表或数组元素拆分成一行或者多行,lateral view会把explode的结果组合,产生一个支持别名表的虚拟表。常用于处理一些特定格式的数据。

Eg:某手机应用市场采集了每天用户下载、卸载APP的数据,定义一个详情表table,该应用市场想要统计每个APP的下载、卸载量,对于table表中的数据,就可以借助lateral view explode函数来完成统计。
table表:

CustomerAPPPt_d
张三下载:微信,下载:今日头条2021-02-03
李四下载:国泰君安,下载:知乎,卸载:微博2021-02-03
王五下载:今日头条,下载:知乎,卸载:英语流利说2021-02-03
第一步:先将原始数据APP字段的中的信息进行简单加工,将下载和卸载的APP拆分开
Select substring_index(list,’:’,1) as type
     , substring_index(list,’:’,-1) as APP
from table t1
lateral  view  explode (split(APP,,))  t2  as  list
Where t1.pt_d=2021-02-03group by 
      substring_index(list,’:’,1) 
     , substring_index(list,’:’,-1)
;

得到结果表为:

TypeAPP
下载微信
下载今日头条
下载国泰君安
下载知乎
卸载微博
下载今日头条
下载知乎
卸载英语流利说
第二步:在第一步的基础上再进行统计
Select 
type,APP,count(*) as num 
from
(
     Select substring_index(list,’:’,1) as type
           , substring_index(list,’:’,-1) as APP
     from table t1
     lateral  view  explode (split(APP,,))  t2  as  list
     Where t1.pt_d=2021-02-03group by 
           substring_index(list,’:’,1) 
          , substring_index(list,’:’,-1)
)t
group by 
       type,APP
Order by num desc

最终结果表为:

TypeAPPnum
下载知乎2
下载今日头条2
下载国泰君安1
下载微信1
卸载微博1
卸载英语流利说1

该结果实现了最初的数据统计述求。

  • 3
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值