Hive 自定义函数的介绍、开发以及使用

  1. Hive 常用的UDF有一下三种:
    1.1 UDF
           一条记录使用函数后输出事宜一条记录,eg:lower/substr
    1.2 UDAF(User Defined Aggregation Funcation)
           多条记录使用函数后输出一条记录,eg:count/max/min
    1.3 UDTF(User Defined Table-Generating Funcations)
           一条记录使用函数后输出多条记录,eg:lateral view explore()
  2. Hive 自定义函数开发步骤
    2.1 继承UDF类;
    2.2 重写 evaluate 方法,该方法支持重载,每一行记录执行一次 evaluate 方法。
  3. 用 IDEA 开发工具开发自定义函数
    3.1 pom.xml 中添加UDF函数开发依赖包。
    <properties>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <hadoop.version>2.6.0-cdh5.5.0</hadoop.version>
        <hive.version>1.1.0-cdh5.5.0</hive.version>
    </properties>

    <repositories>
    <!--CDH版本建议添加一个repository-->
        <repository>
            <id>cloudera</id>
            <url>https://repository.cloudera.com/artifactory/cloudera-repos/</url>
        </repository>
    </repositories>

    <dependencies>
        <!--hadoop依赖-->
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-common</artifactId>
            <version>${hadoop.version}</version>
            <!--<scope>provided</scope>-->
        </dependency>
        <!--hive依赖-->
        <dependency>
            <groupId>org.apache.hive</groupId>
            <artifactId>hadoop-exec</artifactId>
            <version>${hive.version}</version>
            <!--<scope>provided</scope>-->
        </dependency>
        <dependency>
            <groupId>org.apache.hive</groupId>
            <artifactId>hadoop-jdbc</artifactId>
            <version>${hive.version}</version>
           <!--<scope>provided</scope>-->
        </dependency>
    <dependencies>

         3.2 自定义UDF函数的实现

package com.lenovo.hive.udf;

import org.apache.hadoop.hive.ql.exec.UDF;

public class Hello extends UDF{

    public String evaluate(String h){
          return "UDF"+h;
    }
    
    //功能测试
    public static void main(String[] args){
          Hello h = new Hello();
          System.out.println(h.evaluate("baidu"))
    }
}
  1. 自定义函数使用
    4.1 编译成 jar 包上传到服务器;
    4.2 将自定义函数添加到hive中
    create temporary function sayHello as ‘package com.lenovo.hive.udf.Hello’
    using jar ‘hdfs://namenodeha/user/p66_u1036_yanggq2/tmp/udf.jar’;
    4.3 使用自定义函数
    select sayHello(“wangyi”);
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不会飞的乌龟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值