hive udf 源码 连接mysql_Hive的UDF实现详解

本文详细介绍了如何在Eclipse中开发Hive的用户自定义函数(UDF),包括添加依赖库,创建UDF类,实现evaluate方法,并将其打包成jar文件。接着,讲解了在Hive中调用自定义UDF的步骤,如添加jar包,创建临时函数,以及在查询中使用该函数。最后展示了如何将查询结果保存到HDFS中。
摘要由CSDN通过智能技术生成

Hive自身查询语言HQL能完成大部分的功能,但遇到特殊需求时,需要自己写UDF实现。以下是一个完整的案例。 1、eclipse中编写UDF ①项目中加入hive的lib下的所有jar包和Hadoop中share下hadoop-common-2.5.1.jar(Hadoop目前最新版本2.5.1)。 ②UDF类要继承org

Hive自身查询语言HQL能完成大部分的功能,但遇到特殊需求时,需要自己写UDF实现。以下是一个完整的案例。

1、eclipse中编写UDF

①项目中加入hive的lib下的所有jar包和Hadoop中share下hadoop-common-2.5.1.jar(Hadoop目前最新版本2.5.1)。

②UDF类要继承org.apache.hadoop.hive.ql.exec.UDF类,类中要实现evaluate。 当我们在hive中使用自定义的UDF的时候,hive会调用类中的evaluate方法来实现特定的功能

③导出项目为jar文件。

注:项目的jdk与集群的jdk要一致。

具体例子:

package com.zx.hive.udf;

import org.apache.hadoop.hive.ql.exec.UDF;

public class UdfTestLength extends UDF{

public Integer evaluate(String s)

{

if(s==null)

{

return null;

}else{

return s.length();

}

}

}

将上面的类打成jar的形式,我使用eclipse直接导出为test-udf.jar包,然后放在/root目录中。

2、自定义函数调用过程:

①添加jar包(在hive命令行里面执行)

hive> add jar /root/test-udf.jar;

②创建临时函数 ,hive命令行关闭后,即失效。

hive> create temporary function testlength as ‘com.zx.hive.udf.UdfTestLength';

③调用

hive> select id, name, testlength(name) from student;

④将查询结果保存到HDFS中

hive> create table result row format delimited fields terminated by '\t' as select id, testlength(nation) from student;

本文原创发布php中文网,转载请注明出处,感谢您的尊重!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值