hive自定义UDF函数遇到的坑

遇到的问题:

1、add jar后找不到类: FAILED: Class com.udf.udf.TestUdf not found

2、建函数没有权限,报延签的错误:  java.lang.SecurityException: Invalid signature file digest for Manifest main attributes

chmod 755 you.jar

搭建流程:

1、新建一个java项目,新建lib项目

2、将hive集群下面的lib文件夹下面的所有jar(除开php,py)拷贝到lib下面

3、将jar添加到依赖管理

4、新建udf类:

package com.udf.test;

import org.apache.hadoop.hive.ql.exec.UDF;

public class UdfTest extends UDF {

    public int evaluate(int a,int b){
        return a+b;
    }
}

5、将项目打成jar

6、注意一般工具打包都会给jar延签,使用者有权限验证,所以需要删除权限认证,在linux上面执行:

        zip -d your.jar 'META-INF/.SF' 'META-INF/.RSA' 'META-INF/*SF'   注意是每次打了新包都需要这个删除操作

6、进入hive控制台:add jar /home/hive/jar/udf.jar;  -- 你自己的路径

7、创建临时函数:

create temporary function udftests AS 'com.udf.test.UdfTest';  -- com.udf.test.UdfTest是类的路径

8、使用函数:select udftests(20,40);

9、至此就是一个完整的建立udf的流程,如果要建立永久函数,

   那么需要将jar放到hdfs或者配置:create function udf_number AS 'com.udf.test.UdfTest' using jar 'hdfs:///hive_jar/udf.jar';

    注意这里不要加ip和端口,如果远程创建才需要,本地集群只需要hdfs:///就可以了

    或者hive-env.sh配置文件中添加HIVE_AUX_JARS_PATH

   

 

 

  • 2
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值