hive（五）函数2详解（自定义函数）

1.系统内置函数

1）查看系统自带的函数
hive (default)> show functions;
2）显示自带的函数的用法
hive (default)> desc function 函数名;

3）详细显示自带的函数的用法
hive (default)> desc function extended 函数名;
通常不会用直接百度，而不是用这个。

2.自定义函数

• 1）Hive 自带了一些函数，比如：max/min 等，但是数量有限，自己可以通过自定义 UDF来方便的扩展。
• 2）当 Hive 提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：user-defined function）。
• 3）根据用户自定义函数类别分为以下三种：
  • （1）UDF（User-Defined-Function）
    一进一出
  • （2）UDAF（User-Defined Aggregation Function）
    聚集函数，多进一出
    类似于：count/max/min
  • （3）UDTF（User-Defined Table-Generating Functions）
    一进多出
    如 lateral view explore()
• 4）官方文档地址
  官方文档地址.
• 5）编程步骤
  • （1）继承 org.apache.hadoop.hive.ql.UDF
  • （2）需要实现 evaluate 函数；evaluate 函数支持重载；
  • （3）在 hive 的命令行窗口创建函数
    • a）添加 jar
      add jar linux_jar_path
    • b）创建 function
      create [temporary] function [dbname.]function_name as
      class_name;
  • （4）在 hive 的命令行窗口删除函数
    Drop [temporary] function [if exists]
    [dbname.]function_name;
• 6）注意事项
  （1）UDF 必须要有返回类型，可以返回 null，但是返回类型不能为 void；

2.1自定义 UDF 函数

1）创建一个 Maven 工程 Hive

2）导入依赖

<dependencies>
        <dependency>
            <groupId>org.apache.hive</groupId>
            <artifactId>hive-exec</artifactId>
            <version>1.2.1</version>
        </dependency>
</dependencies>

3）创建一个类

package com.lyj.hive;

import org.apache.hadoop.hive.ql.exec.UDF;

/**
 * @author liuyongjun
 * @create 2020-07-30 20:28
 */
public class MyUDF extends UDF {
    public int evaluate(int data){
        return data + 5;
    }
}

4）打成 jar 包上传到服务器/opt/module/lib/
5）将 jar 包添加到 hive 的 classpath

hive (default)> add jar /opt/module/hive/lib/jar包名;

6）创建临时函数与开发好的 java class 关联

hive (default)> create temporary function addFive as 
'com.lyj.hive.MyUDF';

7．创建完毕即可在 hql 中使用自定义的函数

2.2 自定义 UDTF 函数

1）需求说明
自定义一个 UDTF 实现将一个任意分割符的字符串切割成独立的单词，例如：

Line:"hello,world,hadoop,hive" 
Myudtf(line, ",")
hello
world
hadoop
hive

2）代码实现

package com.lyj.udtf;

import org.apache.hadoop.hive.ql.exec.UDFArgumentException;
import org.apache.hadoop.hive.ql.metadata.HiveException;
import org.apache.hadoop.hive.ql.udf.generic.GenericUDTF;
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspectorFactory;
import org.apache.hadoop.hive.serde2.objectinspector.StructObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.primitive.PrimitiveObjectInspectorFactory;

import java.util.ArrayList;
import java.util.List;

/**
 * @author liuyongjun
 * @create 2020-07-31 9:17
 */
public class MyUDTF extends GenericUDTF {

    private List<String>  datalist = new ArrayList<String>();
    //定义输出数据的列名和数据类型
    @Override
    public StructObjectInspector initialize(StructObjectInspector argOIs) throws UDFArgumentException {
        //定义输出数据的列名
        List<String> fieldNames = new ArrayList<String>();
        fieldNames.add("word");

        //定义输出数据的类型
        List<ObjectInspector> fieldOIs = new ArrayList<ObjectInspector>();
        //这个记住它，有印象就行
        fieldOIs.add(PrimitiveObjectInspectorFactory.javaStringObjectInspector);

        return ObjectInspectorFactory.getStandardStructObjectInspector(fieldNames, fieldOIs);
    }

    public void process(Object[] args) throws HiveException {
        //1.获取数据
        String data = args[0].toString();

        //2.获取分割符
        String splitKey = args[1].toString();

        //3.切割数据
        String[] words = data.split(splitKey);

        //4.遍历写出
        for (String word : words) {
            //5.将数据放置集合
            datalist.clear();
            datalist.add(word);

            //6.写出数据的操作
            forward(datalist);
        }
    }

    public void close() throws HiveException {

    }
}

记住先clear一下再打包，打出来的包重命名一下udtf.jar
3）打成 jar 包上传到服务器/opt/module/hive/lib/udtf.jar
4）将 jar 包添加到 hive 的 classpath 下

hive (default)> add jar /opt/module/hive/lib/udtf.jar;

5）创建临时函数与开发好的 java class 关联

hive (default)> create temporary function myudtf as 'com.lyj.udtf.MyUDTF';

6）即可在 hql 中使用自定义的函数