hive中split(),explode()和lateral row

 

split()函数是用于切分数据，也就是将一串字符串切割成了一个数组，标准格式为split(str,regex),支持正则切分不过有点奇怪的是，对于 “.”,"|“这样的特殊字符，不加”\“的时候是特殊字符，加了以后才是普通字符，而对于”\d"的字符，需要加"\“后才是特殊字符，就是是说”\\d"才是匹配数字。
假设我有一张表(demo)如下：

用split()函数对name字段切分

select split(name,',') as name,age from demo;

结果如下，返回值是一个array数组

explode()函数用于打散行的函数（将一行的数据拆分成多行，它的参数必须为map或array）。这个函数常和split()并用
如下

select explode(split(name,',')) as name from demo;

上述sql代码表示将name字段按“，”分割，再按得到的数组利用explode打散成多行

上面这各视图我们只能看到name列，如果我写成

  select explode(split(name,',')) as name,age from demo;

是不是就可以得到name，age两列了呢。
事实是hive不支持这样的操作

一个select后面只能获得一个explode产生的视图，如果要显示多个列，则需要将多个视图合并。
lateral view就是做这样的事的
如下（将name列打散，age列不打散）

select rename,age from demo lateral view explode(split(name,',')) demo as rename;
-- 命名成rename这样这句话好理解一点，不会和原来的name列搞混

结果如下

如果将name，age同时打散合并

select name,age from demo 
lateral view explode(split(name,',')) demo as name
lateral view explode(split(age,',')) demo as age;

结果如下

我们可以看见，这时候两个later view合并实际上是做了一个全连接。如果要一一对应可能只能自己写函数了。