java写hive自定义函数_hive自定义函数的实现和执行

本文详细介绍了如何在Hive中开发一个自定义用户定义函数(UDF)。首先创建一个Maven工程,编写Java类并继承UDF类,实现特定的evaluate方法。接着,将编译后的jar包上传到服务器,并在Hive中注册该函数。最后,通过SQL调用自定义函数进行数据处理。确保引入的Hive和Hadoop版本与服务器一致,以避免兼容性问题。
摘要由CSDN通过智能技术生成

1. 先建个maven工程,创建Java类,将你要实现的内容写进类的方法里,

例如public class StringExt extends UDF{

public String evaluate(String pnb){

return "Hello " + pnb;

}

}

这个类的实现很简单,继承了org.apache.hadoop.hive.ql.exec.UDF类,并覆写了evaluate方法

要注意写上

import org.apache.hadoop.hive.ql.exec.UDF;

同时在pom.xml里引入

org.apache.hive

hive-exec

1.1.0-cdh5.9.0

org.apache.hadoop

hadoop-common

2.6.0-cdh5.9.0

要注意您引入的版本和服务器上的版本必须一致才行

2. 然后实现函数写完了就打包上传到服务器上(我是参考开发上传的路径,放到哪个路径下无所谓)

3. 这时就可以利用新的设置的函数了,我是直接将sql的执行写到文件里了,所以我直接在xxx.sql里写上我的函数

add jar file:///opt/program/xxx/xxx/xxx/xxxx.jar;

create temporary function find as 'Utils.FinalConfirmUDF';(将你创建的类写在这里引入)

SELECT

find(xxxxx)

FROM xxxxx (这个find函数就是我自定义写的)

然后执行hivesql文件

nohup hive -hiveconf date='init' -hivevar where='' -f xxx.sql > xxx.log &ds='${hiveconf:date}

你也可以直接在服务器上用命令行执行上述内容

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值