Hive常用函数 -- 字符串函数

  1. 首字符ascii函数:ascii
    语法: ascii(string str)
    返回值: int
    说明:返回字符串str第一个字符的ascii码

    hive> select ascii('abcde') from iteblog;
    97
    
  2. 字符串反转函数:reverse
    语法: reverse(string A)
    返回值: string
    说明:返回字符串A的反转结果

    hive> select reverse(abcedfg’) from iteblog;
    gfdecba
    
  3. 字符串连接函数:concat
    语法: concat(string A, string B…)
    返回值: string
    说明:返回输入字符串连接后的结果,支持任意个输入字符串

    hive> select concat(‘abc’,'def’,'gh’) from iteblog;
    abcdefgh
    
  4. 带分隔符字符串连接函数:concat_ws
    语法: concat_ws(string SEP, string A, string B…)
    返回值: string
    说明:返回输入字符串连接后的结果,SEP表示各个字符串间的分隔符

    hive> select concat_ws(',','abc','def','gh') from iteblog;
    abc,def,gh
    
  5. 数组转换成字符串的函数:concat_ws
    语法: concat_ws(string SEP, array)
    返回值: string
    说明:返回将数组链接成字符串后的结果,SEP 表示各个字符串间的分隔符

    hive> select concat_ws('|',array('a','b','c')) from iteblog;
    OK
    a|b|c
    
  6. 小数位格式化成字符串函数:format_number
    语法: format_number(number x, int d)
    返回值: string
    说明:将数值 x 的小数位格式化成 d 位,四舍五入

    hive> select format_number(5.23456,3) from iteblog;
    OK
    5.235
    
  7. 字符串截取函数:substr,substring
    语法: substr(string A, int start),substring(string A, int start)
    返回值: string
    说明:返回字符串A从start位置到结尾的字符串

    hive> select substr('abcde',3) from iteblog;
    cde
    hive> select substring('abcde',3) from iteblog;
    cde
    hive>  select substr('abcde',-1) from iteblog;  (和ORACLE相同)
    e
    
  8. 字符串截取函数:substr,substring
    语法: substr(string A, int start, int len),substring(string A, int start, int len)
    返回值: string
    说明:返回字符串A从start位置开始,长度为len的字符串

    hive> select substr('abcde',3,2) from iteblog;
    cd
    hive> select substring('abcde',3,2) from iteblog;
    cd
    hive>select substring('abcde',-2,2) from iteblog;
    de
    
  9. 字符串查找函数:instr
    语法: instr(string str, string substr)
    返回值: int
    说明:返回字符串 substr 在 str 中首次出现的位置

    hive> select instr('abcdf','df') from iteblog;
    OK
    4
    
  10. 字符串长度函数:length
    语法: length(string A)
    返回值: int
    说明:返回字符串A的长度

    hive> select length('abcedfg') from iteblog;
    7
    
  11. 字符串查找函数:locate
    语法: locate(string substr, string str[, int pos])
    返回值: int
    说明:返回字符串 substr 在 str 中从 pos 后查找,首次出现的位置

    hive> select locate('a','abcda',1) from iteblog;
    OK
    1
    Time taken: 0.391 seconds, Fetched: 1 row(s)
    hive> select locate('a','abcda',2) from iteblog;
    OK
    5
    Time taken: 0.406 seconds, Fetched: 1 row(s)
    
  12. 字符串格式化函数:printf
    语法: printf(String format, Obj… args)
    返回值: string
    说明:将指定对象用 format 格式进行格式化.

    hive> select printf("%08X",123) from iteblog;
    OK
    0000007B
    
  13. 字符串转换成 map 函数:str_to_map
    语法: str_to_map(text[, delimiter1, delimiter2])
    返回值: map<string,string>
    说明:将字符串按照给定的分隔符转换成 map 结构.

    hive> select str_to_map('k1:v1,k2:v2') from iteblog;
    OK
    {"k2":"v2","k1":"v1"}
    hive> select str_to_map('k1=v1,k2=v2',',','=') from iteblog;
    OK
    {"k2":"v2","k1":"v1"}
    
  14. base64 字符串
    语法: base64(binary bin)
    返回值: string
    说明:返回二进制 bin 的 base 编码字符串

    hive> select base64(binary('charles')) from iteblog;
    OK
    Y2hhcmxlcw==
    
  15. base64 解码函数:unbase64(string str)
    语法: unbase64(string str)
    返回值: binary
    说明:将给定的 base64 字符串解码成二进制.

    hive> select unbase64('Y2hhcmxlcw==') from iteblog;
    OK
    charles
    
  16. 字符串转大写函数:upper,ucase
    语法: upper(string A) ucase(string A)
    返回值: string
    说明:返回字符串A的大写格式

    hive> select upper('abSEd') from iteblog;
    ABSED
    hive> select ucase('abSEd') from iteblog;
    ABSED
    
  17. 字符串转小写函数:lower,lcase
    语法: lower(string A) lcase(string A)
    返回值: string
    说明:返回字符串A的小写格式

    hive> select lower('abSEd') from iteblog;
    absed
    hive> select lcase('abSEd') from iteblog;
    absed
    
  18. 去空格函数:trim
    语法: trim(string A)
    返回值: string
    说明:去除字符串两边的空格

    hive> select trim(' abc ') from iteblog;
    abc
    
  19. 左边去空格函数:ltrim
    语法: ltrim(string A)
    返回值: string
    说明:去除字符串左边的空格

    hive> select ltrim(' abc ') from iteblog;
    abc
    
  20. 右边去空格函数:rtrim
    语法: rtrim(string A)
    返回值: string
    说明:去除字符串右边的空格

    hive> select rtrim(' abc ') from iteblog;
    abc
    
  21. 正则表达式替换函数:regexp_replace
    语法: regexp_replace(string A, string B, string C)
    返回值: string
    说明:将字符串A中的符合java正则表达式B的部分替换为C。注意,在有些情况下要使用转义字符,类似oracle中的regexp_replace函数。

    hive> select regexp_replace('foobar', 'oo|ar', '') from iteblog;
    fb
    
  22. 正则表达式解析函数:regexp_extract
    语法: regexp_extract(string subject, string pattern, int index)
    返回值: string
    说明:将字符串subject按照pattern正则表达式的规则拆分,返回index指定的字符。

    hive> select regexp_extract('foothebar', 'foo(.*?)(bar)', 1) from iteblog;
    the
    hive> select regexp_extract('foothebar', 'foo(.*?)(bar)', 2) from iteblog;
    bar
    hive> select regexp_extract('foothebar', 'foo(.*?)(bar)', 0) from iteblog;
    foothebar
    注意,在有些情况下要使用转义字符,下面的等号要用双竖线转义,这是java正则表达式的规则。
    select data_field,
      regexp_extract(data_field,'.*?bgStart\\=([^&]+)',1) as aaa,
      regexp_extract(data_field,'.*?contentLoaded_headStart\\=([^&]+)',1) as bbb,
      regexp_extract(data_field,'.*?AppLoad2Req\\=([^&]+)',1) as ccc 
      from pt_nginx_loginlog_st 
      where pt = '2012-03-26' limit 2;
    
  23. URL解析函数:parse_url
    语法: parse_url(string urlString, string partToExtract [, string keyToExtract])
    返回值: string
    说明:返回URL中指定的部分。partToExtract的有效值为:HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO.

    hive> select parse_url('https://www.iteblog.com/path1/p.php?k1=v1&k2=v2#Ref1', 'HOST') from iteblog;
    facebook.com
    hive> select parse_url('https://www.iteblog.com/path1/p.php?k1=v1&k2=v2#Ref1', 'QUERY', 'k1') from iteblog;
    v1
    
  24. json解析函数:get_json_object
    语法: get_json_object(string json_string, string path)
    返回值: string
    说明:解析json的字符串json_string,返回path指定的内容。如果输入的json字符串无效,那么返回NULL。

    hive> select  get_json_object('{"store":
    >   {"fruit":\[{"weight":8,"type":"apple"},{"weight":9,"type":"pear"}],
    >    "bicycle":{"price":19.95,"color":"red"}
    >   },
    >  "email":"amy@only_for_json_udf_test.net",
    >  "owner":"amy"
    > }
    > ','$.owner') from iteblog;
    amy
    
  25. 空格字符串函数:space
    语法: space(int n)
    返回值: string
    说明:返回长度为n的字符串

    hive> select space(10) from iteblog;
    hive> select length(space(10)) from iteblog;
    10
    
  26. 重复字符串函数:repeat
    语法: repeat(string str, int n)
    返回值: string
    说明:返回重复n次后的str字符串

    hive> select repeat('abc',5) from iteblog;
    abcabcabcabcabc
    
  27. 左补足函数:lpad
    语法: lpad(string str, int len, string pad)
    返回值: string
    说明:将str进行用pad进行左补足到len位

    hive> select lpad('abc',10,'td') from iteblog;
    tdtdtdtabc
    

    注意: 与GP,ORACLE不同,pad 不能默认

  28. 右补足函数:rpad
    语法: rpad(string str, int len, string pad)
    返回值: string
    说明:将str进行用pad进行右补足到len位

    hive> select rpad('abc',10,'td') from iteblog;
    abctdtdtdt
    
  29. 分割字符串函数: split
    语法: split(string str, string pat)
    返回值: array
    说明: 按照pat字符串分割str,会返回分割后的字符串数组

    hive> select split('abtcdtef','t') from iteblog;
    ["ab","cd","ef"]
    
  30. 集合查找函数: find_in_set
    语法: find_in_set(string str, string strList)
    返回值: int
    说明: 返回str在strlist第一次出现的位置,strlist是用逗号分割的字符串。如果没有找该str字符,则返回0

    hive> select find_in_set('ab','ef,ab,de') from iteblog;
    2
    hive> select find_in_set('at','ef,ab,de') from iteblog;
    0
    
  31. 分词函数:sentences
    语法: sentences(string str, string lang, string locale)
    返回值: array<array>
    说明:返回输入 str 分词后的单词数组

    hive> select sentences('hello word!hello hive,hi hive,hello hive') from iteblog;
    OK
    [["hello","word"],["hello","hive","hi","hive","hello","hive"]]
    
  32. 分词后统计一起出现频次最高的 TOP-K
    语法: ngrams(array<array>, int N, int K, int pf)
    返回值: array<struct<string,double>>
    说明:与 sentences()函数一起使用,分词后,统计分词结果中一起出现频次最高的
    TOP-K 结果

    hive> SELECT ngrams(sentences('hello word!hello hive,hi hive,hello hive'),2,2) FROM 
    iteblog;
    [{"ngram":["hello","hive"],"estfrequency":2.0},{"ngram":["hive","hello"],"estfrequency":1.0}]
    该查询中,统计的是两个词在一起出现频次最高的 TOP-2
    结果中,hello 与 hive 同时出现 2
  33. 分词后统计与指定单词一起出现频次最高的 TOP-K
    语法: context_ngrams(array<array>, array, int K, int pf)
    返回值: array<struct<string,double>>
    说明:与 sentences()函数一起使用,分词后,统计分词结果中与数组中指定的单词一
    起出现(包括顺序)频次最高的 TOP-K 结果

    hive> SELECT context_ngrams(sentences('hello word!hello hive,hi hive,hello 
    hive'),array('hello',null),3) FROM iteblog;
    [{"ngram":["hive"],"estfrequency":2.0},{"ngram":["word"],"estfrequency":1.0}]
    -- 该查询中,统计的是与’hello’一起出现,并且在 hello 后面的频次最高的 TOP-3
    结果中,hello 与 hive 同时出现 2 次,hello 与 word 同时出现 1 次。
    hive> SELECT context_ngrams(sentences('hello word!hello hive,hi hive,hello 
    hive'),array(null,'hive'),3) FROM iteblog;
    [{"ngram":["hello"],"estfrequency":2.0},{"ngram":["hi"],"estfrequency":1.0}]
    -- 该查询中,统计的是与’hive’一起出现,并且在 hive 之前的频次最高的 TOP-3
    
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值