Hive函数(内置函数和自定义函数)
- 一.内置函数
-
- 1.字符串函数
-
- (1)ascii
- (2)base64
- (3)concat
- (4)concat_ws
- (5)format_number
- (6)substr,substring
- (7)instr
- (8)length
- (9)locate
- (10)printf
- (11)str_to_map
- (13)unbase64
- (14)upper,ucase
- (15)lower,lcase
- (16)trim,ltrim,rtrim
- (17)regexp_replace
- (18)regexp_extract
- (19)parse_url
- (20)get_json_object
- (21)space
- (22)repeat
- (23)lpad
- (24)rpad
- (25)split
- (26)find_in_set—集合查找函数
- (27)sentences—分词函数
- (28)ngrams—词频
- (29)context_ngrams
- 2.类型转换函数
- 3.数学函数
- 4.日期函数
- 5.集合函数
- 6.条件函数
- 7.聚合函数
- 8.表生成函数
- 二.自定义函数
一.内置函数
--显示hive下内置所有函数
show functions;
--查看函数的详细使用方法
desc function extended 函数名;
1.字符串函数
(1)ascii
语法:ascii(string str)
返回值:int
说明:返回字符串str第一个字符的ascii码
--示例
hive> select ascii("ba");
OK
98
(2)base64
语法:base64(binary bin)
返回值:string
说明:返回二进制bin的base编码字符串
hive> select base64(binary('test'));
OK
dGVzdA==
(3)concat
语法:concat(string A,string B)
返回值:string
说明:返回输入字符串连接后的结果,支持任意个输入字符串
hive> select concat('a','1','b');
OK
a1b
(4)concat_ws
语法: concat_ws(string SEP, string A, string B...)
返回值:string
说明:返回输入字符串连接后的结果,SEP 表示各个字符串间的分隔符
--数组转换成字符串
语法: concat_ws(string SEP, array<string>)
返回值: string
说明:返回将数组链接成字符串后的结果,SEP 表示各个字符串间的分隔符
hive> select concat_ws('---','a','1','b');
OK
a---1---b
--列转行
hive> select * from t3;
OK
A 1
A 2
A 3
A 4
B 2
B 5
B 1
hive> select item ,concat_ws(",",collect_list(nums)) as num from t3 group by item;
OK
A 1,2,3,4
B 2,5,1
hive> select concat_ws('|',array('a','b','c'));
OK
a|b|c
(5)format_number
语法: format_number(number x, int d)
返回值:string
说明::将数值 x 的小数位格式化成 d 位,四舍五入
hive> select format_number(5.23456,3);
OK
5.235
(6)substr,substring
从1开始数
语法: substr(string A, int start),substring(string A, int start)
返回值: string
说明:返回字符串 A 从 start 位置到结尾的字符串
语法: substr(string A, int start, int len),substring(string A, intstart, int len)
返回值: string
说明:返回字符串 A 从 start 位置开始,长度为 len 的字符串
hive> select substr('abcde',3);
OK
cde
Time taken: 0.016 seconds, Fetched: 1 row(s)
hive> select substr('abcde',3,1);
OK
c
(7)instr
语法: instr(string str, string substr)
返回值: int
说明:返回字符串 substr 在 str 中首次出现的位置
hive> select instr('asdfs','f');
OK
4
hive> select instr('asdfs','fd');
OK
0
(8)length
语法: length(string A)
返回值: int
说明:返回字符串的长度
hive> select length('abn');
OK
3
(9)locate
语法: locate(string substr, string str[, int pos])
返回值: int
说明:返回字符串 substr 在 str 中从 pos 后查找,首次出现的位置
hive> select locate('a','abcba');
OK
1
hive> select locate('a','abcba',2);
OK
5
(10)printf
语法: printf(String format, Obj... args)
返回值: string
说明:将指定对象用 format 格式进行格式化
hive> select printf("%08x",123);
OK
0000007b
(11)str_to_map
语法: str_to_map(text[, delimiter1, delimiter2])
返回值: map<string,string>
说明:将字符串按照给定的分隔符转换成 map 结构.
hive> select str_to_map('k1:v1,k2:v2');
OK
{
"k1":"v1","k2":"v2"}
hive> select str_to_map('k1=v1,k2=v2',',','=');
OK
{
"k1":"v1","k2":"v2"}
(13)unbase64
语法: unbase64(string str)
返回值: binary
说明:将给定的 base64 字符串解码成二进制
hive> select unbase64('dGVzdA==');
OK
test
(14)upper,ucase
语法: upper(string A) ucase(string A)
返回值: string
说明:返回字符串 A 的大写格式
hive> select upper('djkFssFK');
OK
DJKFSSFK
hive> select ucase('djkFssFK');
OK
DJKFSSFK
(15)lower,lcase
语法: lower(string A) lcase(string A)
返回值: string
说明:返回字符串 A 的小写格式
hive> select lower('djkFssFK');
OK
djkfssfk
hive> select lcase('djkFssFK');
OK
djkfssfk
(16)trim,ltrim,rtrim
语法: trim(string A)
返回值: string
说明:去除字符串两边的空格
语法: ltrim(string A)
返回值: string
说明:去除字符串左边的空格
语法: rtrim(string A)
返回值: string
说明:去除字符串右边的空格
hive> select trim(' abc ');
OK
abc
hive> select ltrim(' abc ');
OK
abc
hive> select rtrim(' abc ');
OK
abc
(17)regexp_replace
语法: regexp_replace(string A, string B, string C)
返回值: string
说明:将字符串 A 中的符合 java 正则表达式 B 的部分替换为 C。注意,在有些情况下要使用转义字符,类似 oracle 中的 regexp_replace 函数。
--将oo和ar替换成''
hive> select regexp_replace('foobar','oo|ar','');
OK
fb
(18)regexp_extract
语法: regexp_extract(string subject, string pattern, intindex)
返回值: string
说明:将字符串 subject 按照 pattern 正则表达式的规则拆分,返回 index 指定的字符。
hive> select regexp_extract('footbar','foo(.*?)(bar)',0);
OK
footbar
hive> select regexp_extract('footbar','foo(.*?)(bar)',1);
OK
t
hive> select regexp_extract('footbar','foo(.*?)(bar)',2);
OK
bar
(19)parse_url
语法: parse_url(string urlString, string partToExtract [, stringkeyToExtract])
返回值: string
说明:返回 URL 中指定的部分。partToExtract 的有效值为:HOST, PATH,QUERY,REF,PROTOCOL, AUTHORITY, FILE, and USERINFO.
hive> select parse_url('http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1','HOST');
OK
facebook.com
hive