hive和spark在分组时用到字符串截取函数substr和substring时的区别

本文以日期表d_cod_dt为例,探讨hive和spark在处理分组查询时substr和substring函数的使用情况。实验发现,尽管两者通常被视为等效,但在spark中substr可能产生意外问题,substring更为稳定。此外,建议在分组时避免使用截取字符串的别名,以避免潜在问题。测试结果受到hive和spark版本的影响。
摘要由CSDN通过智能技术生成

这篇文章主要以日期表为例子,讨论hive和spark在处理分组语句时的异同点,以及substr和substring函数的区别。

我们在写hive sql做数据查询时,我们经常会遇到分组的字段需要截取字符串或者处理一下,这时候我们会有一个疑问,我们是要用这个截取字符串的别名做分组呢?还是用截取串的那个函数做分组呢?
下面我有以一个日期表为例,来讨论一下这个问题。
表名: d_cod_dt
表中数据:
在这里插入图片描述
我这里写了6个sql语句,分别用mr引擎和spark引擎做测试。
(1)
select substring(dt_id,1,6) ,count(1)
from hdp_bic_bd_dwd.d_cod_dt
where mth_id = ‘201911’
group by substring(dt_id,1,6)
(2)
select substr(dt_id,1,6) ,count(1)
from hdp_bic_bd_dwd.d_cod_dt
where mth_id = ‘201911’
group by substr(dt_id,1,6)
(3)
select substring(dt_id,1,6) as pt_mt ,count(1)
from hdp_bic_bd_dwd.d_cod_dt
where mth_id = ‘201911’
group by substring(dt_id,1,6)
(4)
select substring(dt_id,1,6) as pt_mt ,count(1)

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值