Hive学习笔记(八)—— 函数

7.1 系统内置函数

1)查看系统自带的函数

hive> show functions;

2)显示自带的函数的用法

hive> desc function upper;

3)详细显示自带的函数的用法

hive> desc function extended upper;

7.2 自定义函数

1)Hive 自带了一些函数,比如:max/min 等,但是数量有限,自己可以通过自定义 UDF来方便的扩展。
2)当 Hive 提供的内置函数无法满足你的业务处理需要时,此时就可以考虑使用用户自定义函数(UDF:user-defined function)。
3)根据用户自定义函数类别分为以下三种:
(1)UDF(User-Defined-Function)
一进一出
(2)UDAF(User-Defined Aggregation Function)
聚集函数,多进一出
类似于:count/max/min
(3)UDTF(User-Defined Table-Generating Functions)
一进多出
如 lateral view explore()
4)官方文档地址

https://cwiki.apache.org/confluence/display/Hive/HivePlugins

5)编程步骤
(1)继承 org.apache.hadoop.hive.ql.UDF
(2)需要实现 evaluate 函数;evaluate 函数支持重载;
(3)在 hive 的命令行窗口创建函数

a)添加 jar

add jar linux_jar_path

b)创建 function

create [temporary] function [dbname.]function_name AS 
class_name;

(4)在 hive 的命令行窗口删除函数

Drop [temporary] function [if exists] 
[dbname.]function_name;

6)注意事项:

UDF 必须要有返回类型,可以返回 null,但是返回类型不能为 void;

7.2.1 自定义 UDF 函数

1)创建一个 Maven 工程 Hive
2)导入依赖

<dependencies>
<!--https://mvnrepository.com/artifact/org.apache.hive/hive-exec -->
	<dependency>
		<groupId>org.apache.hive</groupId>
		<artifactId>hive-exec</artifactId>
		<version>1.2.1</version>
	</dependency>
</dependencies>

3)创建一个类

package com.huan;

import org.apache.hadoop.hive.ql.exec.UDF;

public class MyUDF extends UDF {

    public int evaluate(int data){

        return data+5;
    }
}

新建一个Ulib目录

[root@Bigdata01 hive]# mkdir Ulib
[root@Bigdata01 hive]# cd Ulib/
[root@Bigdata01 Ulib]# ll
总用量 4
-rw-r--r--. 1 root root 2182 1023 22:09 Hive-1.0-SNAPSHOT.jar
[root@Bigdata01 Ulib]# pwd
/opt/module/hive/Ulib

打包jar之后放入hive下的Ulib目录

hive (default)> add jar /opt/module/hive/Ulib/Hive-1.0-SNAPSHOT.jar;
Added [/opt/module/hive/Ulib/Hive-1.0-SNAPSHOT.jar] to class path
Added resources: [/opt/module/hive/Ulib/Hive-1.0-SNAPSHOT.jar]

创建一个函数

hive (default)> create function addFive as 'com.huan.MyUDF';
OK
Time taken: 0.138 seconds

普通情况看表

hive (default)> select * from haha;
OK
haha.id
1
2
Time taken: 0.162 seconds, Fetched: 2 row(s)

自定义UDF函数之后看表

hive (default)> select addFive(id) from haha;
OK
_c0
6
7
Time taken: 0.197 seconds, Fetched: 2 row(s)

7.2.2 自定义 UDTF 函数

1)需求说明
自定义一个 UDTF 实现将一个任意分割符的字符串切割成独立的单词,例如:

Line:"hello,world,hadoop,hive" Myudtf(line, ",") hello
world
hadoop
hive

2)过程如下

创建MyUDTF类继承GenericUDTF类后在GenericUDTF类找到如下方法体

 public StructObjectInspector initialize(StructObjectInspector argOIs)
      throws UDFArgumentException

对着GenericUDTF按F4找到GenericUDTFPosExplode类

在这里插入图片描述
在GenericUDTFPosExplode类中找到 return ObjectInspectorFactory.getStandardStructObjectInspector(fieldNames, fieldOIs); 返回方法

在这里插入图片描述
3)代码实现

package com.hao;

import org.apache.hadoop.hive.ql.exec.UDFArgumentException;
import org.apache.hadoop.hive.ql.metadata.HiveException;
import org.apache.hadoop.hive.ql.udf.generic.GenericUDTF;
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspectorFactory;
import org.apache.hadoop.hive.serde2.objectinspector.PrimitiveObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.StructObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.primitive.PrimitiveObjectInspectorFactory;

import java.util.ArrayList;
import java.util.List;

public class MyUDTF extends GenericUDTF {


    private List<String> dataList = new ArrayList<>();


    //定义输出数据的列名和数据类型
    @Override
    public StructObjectInspector initialize(StructObjectInspector argOIs) throws UDFArgumentException {

        //定义输出数据的列名
        List<String> fieldNames = new ArrayList<>();
        fieldNames.add( "word" );

        //定义输出数据的类型
        List<ObjectInspector> fieldOIs = new ArrayList<>();
        fieldOIs.add( PrimitiveObjectInspectorFactory.javaStringObjectInspector );

        return ObjectInspectorFactory.getStandardStructObjectInspector(fieldNames, fieldOIs);
    }

    @Override
    public void process(Object[] args) throws HiveException {

        //1.获取数据
        String data = args[0].toString();
        //2.获取分隔符
        String splitKey = args[1].toString();
        //3.切分数据
        String[] words = data.split( splitKey );

        //4.遍历写出
        for (String word : words) {

            //5.将数据放置集合
            dataList.clear();
            dataList.add( word );

            //6.写出数据操作
            forward( dataList );
        }
    }

    @Override
    public void close() throws HiveException {

    }
}

3)打成 jar 包上传到服务器/opt/module/hive/Ulib/udtf.jar
4)将 jar 包添加到 hive 的 classpath 下

hive (default)> /opt/module/hive/Ulib/udtf.jar

5)创建临时函数与开发好的 java class 关联

hive (default)> create temporary function myudtf as "com.hao.MyUDTF";

6)即可在 hql 中使用自定义的函数

hive (default)> select myudtf(line, ",") word from words;
©️2020 CSDN 皮肤主题: 黑客帝国 设计师:上身试试 返回首页