spark日期处理

详情查看:https://www.cnblogs.com/feiyumo/p/8760846.html

以防止文章丢失,我搬运过来。 !!!转载自飞末!!!

一、获取当前时间

1.current_date获取当前日期

2018-04-09

2.current_timestamp/now()获取当前时间

2018-04-09 15:20:49.247

二、从日期时间中提取字段 

1.year,month,day/dayofmonth,hour,minute,second

Examples:> SELECT day('2009-07-30'); 30

2.dayofweek (1 = Sunday, 2 = Monday, ..., 7 = Saturday),dayofyear

Examples:> SELECT dayofweek('2009-07-30');   5

Since: 2.3.0

3.weekofyear

weekofyear(date) - Returns the week of the year of the given date. A week is considered to start on a Monday and week 1 is the first week with >3 days.

Examples:> SELECT weekofyear('2008-02-20');   8

6.date_format将时间转化为某种格式的字符串

Examples:> SELECT date_format('2016-04-08', 'y');    2016

三、日期时间转换

1.unix_timestamp返回当前时间的unix时间戳

Examples:

> SELECT unix_timestamp();  1476884637
> SELECT unix_timestamp('2016-04-08', 'yyyy-MM-dd');   1460041200

2.from_unixtime将时间戳换算成当前时间,to_unix_timestamp将时间转化为时间戳

Examples:

> SELECT from_unixtime(0, 'yyyy-MM-dd HH:mm:ss');  1970-01-01 00:00:00
>SELECT to_unix_timestamp('2016-04-08', 'yyyy-MM-dd');  1460041200

3.to_date/date将字符串转化为日期格式,to_timestamp(Since: 2.2.0)

> SELECT to_date('2009-07-30 04:17:52');  2009-07-30
> SELECT to_date('2016-12-31', 'yyyy-MM-dd');   2016-12-31
> SELECT to_timestamp('2016-12-31 00:12:00');   2016-12-31 00:12:00

4.quarter 将1年4等分(range 1 to 4)

Examples:> SELECT quarter('2016-08-31');  3

四、日期、时间计算

1.months_between两个日期之间的月数

months_between(timestamp1, timestamp2) - Returns number of months between timestamp1 and timestamp2.

Examples:> SELECT months_between('1997-02-28 10:30:00', '1996-10-30');  3.94959677

2. add_months返回日期后n个月后的日期

Examples:> SELECT add_months('2016-08-31', 1);  2016-09-30

3.last_day(date),next_day(start_date, day_of_week)

Examples:

> SELECT last_day('2009-01-12');  2009-01-31
> SELECT next_day('2015-01-14', 'TU');  2015-01-20

4.date_add,date_sub(减)

date_add(start_date, num_days) - Returns the date that is num_days after start_date.

Examples:

> SELECT date_add('2016-07-30', 1);  2016-07-31

5.datediff(两个日期间的天数)

datediff(endDate, startDate) - Returns the number of days from startDate to endDate.

Examples:> SELECT datediff('2009-07-31', '2009-07-30'); 1

 

 

  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,我分别回答您提出的四个问题: 1. Spark k-v结构转换 在Spark中,我们可以使用 `map()`、`flatMap()`、`filter()` 等操作对RDD进行转换。如果我们的数据结构是k-v结构,我们可以使用 `mapValues()`、`flatMapValues()`、`keys()`、`values()` 等操作对key和value进行单独的转换,而不影响另一部分。 例如,我们有一个k-v结构的RDD,其中key是字符串类型,value是整数类型。我们可以使用以下代码将value加1: ``` val rdd: RDD[(String, Int)] = ??? val result: RDD[(String, Int)] = rdd.mapValues(_ + 1) ``` 2. Spark 数据缓存 当我们在Spark中进行复杂计算时,通常会对中间结果进行缓存,以避免重复计算。Spark提供了两种缓存级别,即内存缓存和磁盘缓存。 我们可以使用 `cache()` 或 `persist()` 方法对RDD进行缓存。默认情况下,Spark将RDD缓存在内存中,但如果内存空间不足,则会将部分数据缓存在磁盘上。我们可以使用 `unpersist()` 方法将缓存的RDD从内存或磁盘中删除。 例如,我们有一个RDD需要进行多次计算,我们可以使用以下代码对其进行缓存: ``` val rdd: RDD[Int] = ??? rdd.cache() val result1 = rdd.reduce(_ + _) val result2 = rdd.map(_ * 2).reduce(_ + _) rdd.unpersist() ``` 3. Spark数据封装逻辑 在Spark中,我们可以使用case class来定义数据封装的逻辑。case class是Scala中的一种特殊类,它自动生成了一些方法,包括无参构造函数、getter和setter方法等。 例如,我们有一个存储用户信息的RDD,每个用户包含id、name和age三个属性,我们可以使用以下代码定义一个case class: ``` case class User(id: Int, name: String, age: Int) ``` 然后,我们可以使用 `map()` 方法将RDD中的元素转换为User对象: ``` val rdd: RDD[(Int, String, Int)] = ??? val result: RDD[User] = rdd.map { case (id, name, age) => User(id, name, age) } ``` 4. Spark日期处理机制 在Spark中,我们可以使用Java的日期时间类库或者第三方库(如Joda-Time)来处理日期时间。Spark本身提供了一些日期时间处理函数,如 `current_timestamp()`、`date_add()`、`datediff()` 等。 例如,我们有一个存储订单信息的RDD,每个订单包含id、date和price三个属性,其中date是一个字符串类型表示日期。我们可以使用以下代码将date转换为日期类型,并计算出每个订单距离今天的天数: ``` import java.time.LocalDate val rdd: RDD[(Int, String, Double)] = ??? val today = LocalDate.now() val result = rdd.map { case (id, dateStr, price) => val date = LocalDate.parse(dateStr) val days = java.time.temporal.ChronoUnit.DAYS.between(date, today) (id, days, price) } ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值