java udtf 递归_hive中UDF、UDAF和UDTF使用

Hive进行UDF开发十分简单，此处所说UDF为Temporary的function，所以需要hive版本在0.4.0以上才可以。

一、背景：Hive是基于Hadoop中的MapReduce，提供HQL查询的数据仓库。Hive是一个很开放的系统，很多内容都支持用户定制，包括：

a)文件格式：Text File，Sequence File

b)内存中的数据格式： Java Integer/String, Hadoop IntWritable/Text

c)用户提供的 map/reduce 脚本：不管什么语言，利用 stdin/stdout 传输数据

d)用户自定义函数: Substr, Trim, 1 – 1

e)用户自定义聚合函数: Sum, Average…… n – 1

2、定义：UDF(User-Defined-Function)，用户自定义函数对数据进行处理。

二、用法

1、UDF函数可以直接应用于select语句，对查询结构做格式化处理后，再输出内容。

2、编写UDF函数的时候需要注意一下几点：

a)自定义UDF需要继承org.apache.hadoop.hive.ql.UDF。

b)需要实现evaluate函。

c)evaluate函数支持重载。

3、以下是两个数求和函数的UDF。evaluate函数代表两个整型数据相加，两个浮点型数据相加，可变长数据相加

Hive的UDF开发只需要重构UDF类的evaluate函数即可。例：

package hive.connect;

import org.apache.hadoop.hive.ql.exec.UDF;

public final class Add extends UDF {

public Integer evaluate(Integer a, Integer b) {

if (null == a || null == b) {

return null;

} return a + b;

}

public Double evaluate(Double a, Double b) {

if (a == null || b == null)

return null;

return a + b;

}

public Integer evaluate(Integer... a) {

int total = 0;

for (int i = 0; i < a.length; i++)

if (a[i] != null)

total += a[i];

return total;

}

}

4、步骤

a)把程序打包放到目标机器上去；

b)进入hive客户端，添加jar包：hive>add jar /run/jar/udf_test.jar;

c)创建临时函数：hi