【Hive自定义UDF函数】 与 【hive字符串函数】

【Hive自定义UDF函数】  与  【hive字符串函数】

Hive进行UDF开发十分简单，此处所说UDF为Temporary的function，所以需要hive版本在0.4.0以上才可以。

Hive的UDF开发只需要重构UDF类的evaluate函数即可。例：

package com.hrj.hive.udf;

import org.apache.hadoop.hive.ql.exec.UDF;

public class helloUDF extends UDF {

    public String evaluate(String str) {

        try {

            return "HelloWorld " + str;

        } catch (Exception e) {

            return null;

        }

    }

} 

 

将该java文件编译成helloudf.jar

hive> add jar helloudf.jar;

hive> create temporary function helloworld as 'com.hrj.hive.udf.helloUDF';

hive> select helloworld(t.col1) from t limit 10;

hive> drop temporary function helloworld;

 

注：

1.helloworld为临时的函数，所以每次进入hive都需要add jar以及create temporary操作

2.UDF只能实现一进一出的操作，如果需要实现多进一出，则需要实现UDAF

• 
  

字符串函数
字符串长度函数：length
字符串反转函数：reverse
字符串连接函数：concat
带分隔符字符串连接函数：concat_ws
字符串截取函数：substr,substring
字符串截取函数：substr,substring
字符串转大写函数：upper,ucase
字符串转小写函数：lower,lcase
去空格函数：trim
左边去空格函数：ltrim
右边去空格函数：rtrim
正则表达式替换函数：regexp_replace
正则表达式解析函数：regexp_extract
URL解析函数：parse_url
json解析函数：get_json_object
空格字符串函数：space
重复字符串函数：repeat
首字符ascii函数：ascii
左补足函数：lpad
右补足函数：rpad
分割字符串函数: split
集合查找函数: find_in_set

字符串函数
字符串长度函数：length

语法: length(string A) 返回值: int 说明：返回字符串A的长度 举例： hive> select length(‘abcedfg’) from dual; 7

字符串反转函数：reverse

语法: reverse(string A) 返回值: string 说明：返回字符串A的反转结果 举例： hive> select reverse(‘abcedfg’) from dual; gfdecba

字符串连接函数：concat

语法: concat(string A, string B…) 返回值: string 说明：返回输入字符串连接后的结果，支持任意个输入字符串 举例： hive> select concat(‘abc’,'def’,'gh’) from dual; abcdefgh

带分隔符字符串连接函数：concat_ws

语法: concat_ws(string SEP, string A, string B…) 返回值: string 说明：返回输入字符串连接后的结果，SEP表示各个字符串间的分隔符 举例： hive> select concat_ws(‘,’,'abc’,'def’,'gh’) from dual; abc,def,gh

字符串截取函数：substr,substring

语法: substr(string A, int start),substring(string A, int start) 返回值: string 说明：返回字符串A从start位置到结尾的字符串 举例： hive> select substr(‘abcde’,3) from dual; cde hive> select substring(‘abcde’,3) from dual; cde hive>  select substr(‘abcde’,-1) from dual;  （和ORACLE相同） e

字符串截取函数：substr,substring

语法: substr(string A, int start, int len),substring(string A, int start, int len) 返回值: string 说明：返回字符串A从start位置开始，长度为len的字符串 举例： hive> select substr(‘abcde’,3,2) from dual; cd hive> select substring(‘abcde’,3,2) from dual; cd hive>select substring(‘abcde’,-2,2) from dual; de

字符串转大写函数：upper,ucase

语法: upper(string A) ucase(string A) 返回值: string 说明：返回字符串A的大写格式 举例： hive> select upper(‘abSEd’) from dual; ABSED hive> select ucase(‘abSEd’) from dual; ABSED

字符串转小写函数：lower,lcase

语法: lower(string A) lcase(string A) 返回值: string 说明：返回字符串A的小写格式 举例： hive> select lower(‘abSEd’) from dual; absed hive> select lcase(‘abSEd’) from dual; absed

去空格函数：trim

语法: trim(string A) 返回值: string 说明：去除字符串两边的空格 举例： hive> select trim(‘ abc ‘) from dual; abc

左边去空格函数：ltrim

语法: ltrim(string A) 返回值: string 说明：去除字符串左边的空格 举例： hive> select ltrim(‘ abc ‘) from dual; abc

右边去空格函数：rtrim

语法: rtrim(string A) 返回值: string 说明：去除字符串右边的空格 举例： hive> select rtrim(‘ abc ‘) from dual; abc

正则表达式替换函数：regexp_replace

语法: regexp_replace(string A, string B, string C) 返回值: string 说明：将字符串A中的符合java正则表达式B的部分替换为C。注意，在有些情况下要使用转义字符 举例： hive> select regexp_replace(‘foobar’, ‘oo|ar’, ”) from dual; fb

(mysql不支持，请用hive测试，请先建一个伪表dual)
正则表达式解析函数：regexp_extract

语法: regexp_extract(string subject, string pattern, int index) 返回值: string 说明：将字符串subject按照pattern正则表达式的规则拆分，返回index指定的字符。注意，在有些情况下要使用转义字符 X?   X，一次或一次也没有 X*    X，零次或多次 X+    X，一次或多次 X{n}    X，恰好 n 次 X{n,}    X，至少 n 次 X{n,m}    X，至少 n 次，但是不超过 m 次 举例： hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 1) from dual; the hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 2) from dual; bar hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 0) from dual; foothebar hive>select regexp_extract('userid=13333333', '.*=(.*)', 1) from dual;  (说明=不是特殊字符) 13333333 hive>select regexp_extract('userid.13333333', '.*\\.(.*)', 1) from dual;  (\\如果是特殊字符请用，例如：. * (  )  )  13333333

URL解析函数：parse_url

语法: parse_url(string urlString, string partToExtract [, string keyToExtract]) 返回值: string 说明：返回URL中指定的部分。partToExtract的有效值为：HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO. 举例： hive> select parse_url(‘ http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1′, ‘HOST’) from dual; facebook.com hive> select parse_url(‘ http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1′, ‘QUERY’, ‘k1′) from dual; v1

json解析函数：get_json_object

语法: get_json_object(string json_string, string path) 返回值: string 说明：解析json的字符串json_string,返回path指定的内容。如果输入的json字符串无效，那么返回NULL。 举例： hive> select  get_json_object(‘{“store”: >   {“fruit”:\[{"weight":8,"type":"apple"},{"weight":9,"type":"pear"}], >    “bicycle”:{“price”:19.95,”color”:”red”} >   }, >  “email”:” amy@only_for_json_udf_test.net”, >  “owner”:”amy” > } > ‘,’$.owner’) from dual; amy

空格字符串函数：space

语法: space(int n) 返回值: string 说明：返回长度为n的字符串 举例： hive> select space(10) from dual; hive> select length(space(10)) from dual; 10

重复字符串函数：repeat

语法: repeat(string str, int n) 返回值: string 说明：返回重复n次后的str字符串 举例： hive> select repeat(‘abc’,5) from dual; abcabcabcabcabc

首字符ascii函数：ascii

语法: ascii(string str) 返回值: int 说明：返回字符串str第一个字符的ascii码 举例： hive> select ascii(‘abcde’) from dual; 97

左补足函数：lpad

语法: lpad(string str, int len, string pad) 返回值: string 说明：将str进行用pad进行左补足到len位 举例： hive> select lpad(‘abc’,10,’td’) from dual; tdtdtdtabc 与GP，ORACLE不同，pad 不能默认

右补足函数：rpad

语法: rpad(string str, int len, string pad) 返回值: string 说明：将str进行用pad进行右补足到len位 举例： hive> select rpad(‘abc’,10,’td’) from dual; abctdtdtdt

分割字符串函数: split

语法:  split(string str, string pat) 返回值:  array 说明: 按照pat字符串分割str，会返回分割后的字符串数组 举例： hive> select split(‘abtcdtef’,'t’) from dual; ["ab","cd","ef"]

集合查找函数: find_in_set

语法: find_in_set(string str, string strList) 返回值: int 说明: 返回str在strlist第一次出现的位置，strlist是用逗号分割的字符串。如果没有找该str字符，则返回0（只能是逗号分隔，不然返回0） 举例： hive> select find_in_set(‘ab’,'ef,ab,de’) from dual; 2 hive> select find_in_set(‘at’,'ef,ab,de’) from dual; 0