Hive中的TRANSFORM：使用脚本完成Map/Reduce

首先来看一下数据：

1 2 3 4 5

hive > select * from test ; OK 1        3 2        2 3        1

假设，我们要输出每一列的md5值。在目前的hive中是没有这个udf的。

我们看一下Python的代码：

1 2 3 4 5 6 7 8 9 10 11 12

#!/home/tops/bin/python   import sys import hashlib   for line in sys . stdin :      line = line . strip ( )      arr = line . split ( )      md5_arr = [ ]      for a in arr :          md5_arr . append ( hashlib . md5 ( a ) . hexdigest ( ) )      print "\t" . join ( md5_arr )

在Hive中，使用脚本，首先要将他们加入：

1	add file / xxxx / test . py

然后，在调用时，使用TRANSFORM语法。

1 2 3 4 5 6

SELECT      TRANSFORM ( col1 , col2 )      USING './test.py'      AS ( new1 , new2 ) FORM      test ;

这里，我们使用了AS，指定输出的若干个列，分别对应到哪个列名。如果省略这句，则Hive会将第1个tab前的结果作为key，后面其余作为value。

这里有一个小坑：有时候，我们结合INSERT OVERWRITE使用上述TRANSFORM，而目标表，其分割副可能不是\t。但是请牢记：TRANSFORM的分割符号，传入、传出脚本的，永远是\t。不要考虑外面其他的分割符号！

最后，解释一下MAP、REDUCE。

在有的Hive语句中，大家可能会看到SELECT MAP (…)  USING ‘xx.py’这样的语法。

然而，在Hive中，MAP、REDUCE只不过是TRANSFORM的别名，Hive不保证一定会在map/reduce中调用脚本。看看官方文档是怎么说的：

1

Formally , MAP . . . and REDUCE . . . are syntactic transformations of SELECT TRANSFORM ( . . . ) . In other words , they serve as comments or notes to the reader of the query . BEWARE : Use of these keywords may be dangerous as ( e . g . ) typing "REDUCE" does not force a reduce phase to occur and typing "MAP" does not force a new map phase !

所以、混用map reduce语法关键字，甚至会引起混淆，所以建议大家还是都用TRANSFORM吧。

友情提示：如果脚本不是Python，而是awk、sed等系统内置命令，可以直接使用，而不用add file。

2014.03.04更新：

如果表中有MAP，ARRAY等复杂类型，怎么用TRANSFORM生成？

例如：

1 2 3 4 5

CREATE TABLE features (      id BIGINT ,      norm_features MAP < STRING , FLOAT > ) ;

答案是，要在脚本的输出中，对特殊字段按照HDFS文件中的格式输出即可。

例如，以上面的表结构为例，每行输出应为：

1	1 ^ Ifeature1 ^ C1 . 0 ^ Bfeature2 ^ C2 . 0

其中^I是tab键，这是TRANSFORM要求的分割符号。^B和^C是Hive存储时MAP类型的KV分割符。

另外，在Hive的TRANSFORM语句的时候，要注意AS中加上类型声明：

1 2 3

SELECT TRANSFORM ( stuff ) USING 'script' AS ( thing1 INT , thing2 MAP < STRING , FLOAT > )