Hive自定义UDF时间类函数

目录

1、功能介绍:

2、关于本文中的一些常用类和方法的介绍:

3、代码

1、首先导入hive依赖的jar包:

2、创建DateUtil类

3、创建DayBeginUDF类

4、创建WeekBeginUDF类

5、创建MonthBeginUDF类

6、创建FormatTimeUDF类

4、重新注册函数

5、测试SQL语句


 

1、功能介绍:

首先,介绍一下关于本文函数的作用:

该文介绍的函数功能在统计用户活跃度的场景比较适用,或者跟统计某天,某几天,某周,某几个周,某月,某几个月相关的场景亦可适用。大大降低了hive SQL的编程难度。主要实现的功能如下:
(1)根据输入的时间信息,返回某天的起始时间。

         getdaybegin()    //计算当天的起始时刻(毫秒数)
         getdaybegin(2)   //以当天为坐标,指定天偏移量
         getdaybegin('2017/06/29 01:02:03')    //计算某天的起始时刻(毫秒数)
         getdaybegin('2017/06/29 01:02:03',2)    //计算以某天为坐标,指定天偏移量的起始时刻(毫秒数)
         getdaybegin(date_obj)   //计算某天的起始时刻(毫秒数)
         getdaybegin(date_obj,2)   //计算以某天为坐标,指定天偏移量的起始时刻(毫秒数)

(2)根据输入的时间信息,返回某周的起始时间 。 (注释类似上面)

         getweekbegin() 
         getweekbegin(2)
         getweekbegin('2017/06/29 01:02:03')
         getweekbegin('2017/06/29 01:02:03',2) 
         getweekbegin(date_obj) 
         getweekbegin(date_obj,2)

(3)根据输入的时间信息,返回某月的起始时间。(注释类似上面)

         getmonthbegin()
         getmonthbegin(2)
         getmonthbegin('2017/06/29 01:02:03')
         getmonthbegin('2017/06/29 01:02:03',2)
         getmonthbegin(date_obj)
         getmonthbegin(date_obj,2)

(4)根据输入的时间和时间格式化信息,将long型的时间片格式化成指定日期格式。

        formattime(1494392175246,'yyyy/MM/01')
        formattime('1494392175246','yyyy/MM/dd')

 

2、本文中的一些常用类和方法的介绍:

1 SimleDateFormat类下的format( )方法。
//format( ):用于创建格式化的字符串以及连接多个字符串对象。
//format(String format, Object args): 新字符串使用本地语言环境,指定字符串格式和参数生成格式化的新字符串。
//format(Locale locale, String format, Object args):使用指定的语言环境,指定 字符串格式和参数生成格式化的字符串。
2 Calendar类下的常用方法。
//getInstance()使用默认时区和语言环境获得一个日历。
//setTime(Date date)使用给定的 Date 设置此 Calendar 的时间。
//add(int field, int amount) 根据日历的规则,为给定的日历字段添加或减去指定的时间量。
//Calendar.DAY_OF_WEEK:表示一周中的第几天,会因为选用的星期的表达格式的不同而受影响。
有些地区以星期日作为一周的第一天,而有些地区以星期一作为一周的第一天,这2种情况是需要区分的。
 

3、代码

1、首先导入hive依赖的jar包:

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.dateUtil</groupId>
    <artifactId>app-logs-hive</artifactId>
    <version>1.0-SNAPSHOT</version>

    <dependencies>
        <dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
            <version>4.11</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hive</groupId>
            <artifactId>hive-exec</artifactId>
            <version>2.1.1</version>
        </dependency>
    </dependencies>  
</project>

2、创建DateUtil类

作用:获取某天,某周,某月的起始零点时间

package com.dateUtil.udf;

import java.text.SimpleDateFormat;
import java.util.Calendar;
import java.util.Date;

/**
 *
 */
public class DateUtil {
	/**
	 * 得到指定date的零时刻.
	 */
	public static Date getDayBeginTime(Date d) {
		try {
			SimpleDateFormat sdf = new
一、关系运算: 4 1. 等值比较: = 4 2. 不等值比较: 4 3. 小于比较: < 4 4. 小于等于比较: 5 6. 大于等于比较: >= 5 7. 空值判断: IS NULL 5 8. 非空判断: IS NOT NULL 6 9. LIKE比较: LIKE 6 10. JAVA的LIKE操作: RLIKE 6 11. REGEXP操作: REGEXP 7 二、数学运算: 7 1. 加法操作: + 7 2. 减法操作: - 7 3. 乘法操作: * 8 4. 除法操作: / 8 5. 取余操作: % 8 6. 位与操作: & 9 7. 位或操作: | 9 8. 位异或操作: ^ 9 9.位取反操作: ~ 10 三、逻辑运算: 10 1. 逻辑与操作: AND 10 2. 逻辑或操作: OR 10 3. 逻辑非操作: NOT 10 四、数值计算 11 1. 取整函数: round 11 2. 指定精度取整函数: round 11 3. 向下取整函数: floor 11 4. 向上取整函数: ceil 12 5. 向上取整函数: ceiling 12 6. 取随机数函数: rand 12 7. 自然指数函数: exp 13 8. 以10为底对数函数: log10 13 9. 以2为底对数函数: log2 13 10. 对数函数: log 13 11. 幂运算函数: pow 14 12. 幂运算函数: power 14 13. 开平方函数: sqrt 14 14. 二进制函数: bin 14 15. 十六进制函数: hex 15 16. 反转十六进制函数: unhex 15 17. 进制转换函数: conv 15 18. 绝对值函数: abs 16 19. 正取余函数: pmod 16 20. 正弦函数: sin 16 21. 反正弦函数: asin 16 22. 余弦函数: cos 17 23. 反余弦函数: acos 17 24. positive函数: positive 17 25. negative函数: negative 17 五、日期函数 18 1. UNIX时间戳转日期函数: from_unixtime 18 2. 获取当前UNIX时间函数: unix_timestamp 18 3. 日期转UNIX时间函数: unix_timestamp 18 4. 指定格式日期转UNIX时间函数: unix_timestamp 18 5. 日期时间转日期函数: to_date 19 6. 日期转年函数: year 19 7. 日期转函数: month 19 8. 日期转天函数: day 19 9. 日期转小时函数: hour 20 10. 日期转分钟函数: minute 20 11. 日期转秒函数: second 20 12. 日期转周函数: weekofyear 20 13. 日期比较函数: datediff 21 14. 日期增加函数: date_add 21 15. 日期减少函数: date_sub 21 六、条件函数 21 1. If函数: if 21 2. 非空查找函数: COALESCE 22 3. 条件判断函数:CASE 22 4. 条件判断函数:CASE 22 七、字符串函数 23 1. 字符串长度函数:length 23 2. 字符串反转函数:reverse 23 3. 字符串连接函数:concat 23 4. 带分隔符字符串连接函数:concat_ws 23 5. 字符串截取函数:substr,substring 24 6. 字符串截取函数:substr,substring 24 7. 字符串转大写函数:upper,ucase 24 8. 字符串转小写函数:lower,lcase 25 9. 去空格函数:trim 25 10. 左边去空格函数:ltrim 25 11. 右边去空格函数:rtrim 25 12. 正则表达式替换函数:regexp_replace 26 13. 正则表达式解析函数:regexp_extract 26 14. URL解析函数:parse_url 26 15. json解析函数:get_json_object 27 16. 空格字符串函数:space 27 17. 重复字符串函数:repeat 27 18. 首字符ascii函数:ascii 28 19. 左补足函数:lpad 28 20. 右补足函数:rpad 28 21. 分割字符串函数: split 28 22. 集合查找函数: find_in_set 29 八、集合统计函数 29 1. 个数统计函数: count 29 2. 总和统计函数: sum 29 3. 平均值统计函数: avg 30 4. 最小值统计函数: min 30 5. 最大值统计函数: max 30 6. 非空集合总体变量函数: var_pop 30 7. 非空集合样本变量函数: var_samp 31 8. 总体标准偏离函数: stddev_pop 31 9. 样本标准偏离函数: stddev_samp 31 10.中位数函数: percentile 31 11. 中位数函数: percentile 31 12. 近似中位数函数: percentile_approx 32 13. 近似中位数函数: percentile_approx 32 14. 直方图: histogram_numeric 32 九、复合型构建操作 32 1. Map型构建: map 32 2. Struct型构建: struct 33 3. array型构建: array 33 十、复杂型访问操作 33 1. array型访问: A[n] 33 2. map型访问: M[key] 34 3. struct型访问: S.x 34 十一、复杂型长度统计函数 34 1. Map型长度函数: size(Map) 34 2. array型长度函数: size(Array) 34 3. 型转换函数 35
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值