Hive UDTF and LateralView

UDTF在使用过程中的一些限制:

1. 在select语句中不能有其他表达式,例如SELECT   pageid,   explode(adid_list )  AS myCol. . . 这种语句是不支持的

2. UDTF不能嵌套使用,例如:SELECT   explode(explode(adid_list ))  AS myCol. . . 这种语句也是不支持的

3. GROUP BY CLUST ER BYDI ST RI BUT E BYSORT BY是不支持的,例如:SELECT   explode(adid_list )  AS myCol  . . .  GROUP  BY myCol这种语句是不支持的

LateralView

LateralView是和UDTF结合使用的。LateralView首先对于表格的每一行应用UDTF,然后将UDTF产生的结果与UDTF的输入行进行拼接。

LaterView的例子:

select  column,column,column,column,......from table lateral view udtf(arg,arg,arg,arg,......)  aliasTabel as  column,column,column,...;

UDTF的编写步骤:

1.在initialize()函数中进行预处理,该函数传入的参数是ObjectInspector[],用来检查自定义函数传入的参数;

真正的处理过程在process函数中,在process中,每一次forward()调用产生一行;如果产生多列可以将多个列的值放在一个数组中,然后将该数组传入到forward()函数。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值