lateral view 和 lateral view outer的区别

lateral view 为侧视图,一般用于行转列的处理中 通常会与explode 搭配使用

1、explode 可以拆分map or array 

示例

select explode(split("1,2,3",','))

结果

1
2
3

explode 不适用于多个字段 其中一个字段需要炸开的场景,此时需要搭配lateral view

2、lateral view explode

示例:

原始数据

namegoodsorder
abook,food1,2
bcomputer,pingpong ball2,3
select  name,goods1,order1
from 
(
select 'a' name,'book,food' as goods,'1,2' as order
union all 
select 'b' name,'book,food' as goods,'1,2' as order
)a 
lateral view explode(split(goods, ',')) t_course as goods1
lateral view explode(split(order, ',')) t_hobby as order1

结果

namegoods1order1
abook1
abook2
afood1
afood2
bcomputer2
bcomputer3
bpingpong ball2
bpingpong ball3

当name = a goods = null 时结果如下:会发现name=a的都被过滤掉了,如果需要展示name=a的数据则需要 加outer来解决,具体见下一节的内容

namegoods1order1
bcomputer2
bcomputer3
bpingpong ball2
bpingpong ball3

3、lateral view outer 

假设需要炸开的字段 数组为空,此时使用lateral view 去炸开的时候 会得到结果为null,没有数据,此时需要使用outer字段 才可以正常展示数据。

原因在于:

lateral view ,原理是如果被炸开的字段为null 直接返回null 

lateral view outer 则会保留原始的数据,并将炸开的列置为null 

以上述图表为例lateral view 类似为 inner join 约为 :

由图可以看出 当goods 或者order 为空数组时 结果会为null 

 而 lateral view outer 则类似与 outer join 

 当goods 为null 时 炸开的列 会填充为null ,不会丢失原始被筛选出来的列

但实际上lateral view不会产生shuffle,实际是拼接字符串

所以当数据出现的结果 与预期不一致的时候 可以排查一下 炸开的字段里面是否有空数组,做好数据探查,明确用户真实想要的结果是什么

 

  • 7
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值