hive求解中位数的几种方法

前言
两种解法
解法1:利用中位数的位次特征
解法2:利用升序与降序的差值
解法2.1:
延伸问题:频次+分数
参考文章
前言
假设我们有一张学生成绩表student_score,里面有三个字段:学生id:student_id,班级id:class_id,成绩:score,主键为student_id。现在让你求出每个班级学生成绩的中位数。

虽然hive里有内置的percentile()和percentile_approx()函数直接求解分位数,但在面试中,面试官老爷大概率不会让你直接就这么写,而是在你自信满满刷刷刷写完之后告诉你“哦,我们不能用内置函数”。

两种解法
谈到中位数,自然而然容易想到要先排序,然后根据个数的奇偶,如果是奇数个就取中间一位,如果是偶数就取中间两位的平均。关于排序,我们可以使用窗口函数row_number()1,关于奇偶,我们不妨看看奇偶个数有没有共性。

如果总共有n个数,当n=5时,n/2=2.5,我们想要的输出是第3位;当n=6时,n/2=3,我们想要的输出是第3位和第4位的平均,那么可以发现:无论奇偶,中位数必然是在n/2和n/2+1之间的数(包含两端)的平均。

由此可以产生第一种解法

解法1:利用中位数的位次特征
先取出每个班级成绩排序以及总数,形成表t,再限制中位数是在n/2和n/2+1之间的数(包含两端)的平均2。

select 
  class_id
  ,avg(score) as score_median
from
   (
    select 
          class_id
          ,score
          ,row_number() over (partition by class_id order by score asc) as score_rank
          ,count(student_id) over(partition by class_id) as student_num
    from student_score
    )t
where 
  score_rank between student_num/2 and student_num/2+1
group by 
  class_id

解法2:利用升序与降序的差值
观察如下升序编号和降序编号可以发现,当n为奇数时,中位数对应的升序编号和降序编号的差值为0,当n为偶数时,中位数对应的升序编号和降序编号的差值为1或-1

奇数情况


偶数情况

那么通过限定升序编号和降序编号的差值为1,-1或者0,我们可以有如下写法:

select 
  class_id
  ,avg(score) as score_median
from
   (
    select 
          class_id
          ,score
          ,row_number() over (partition by class_id order by score asc) as score_rank_asc
          ,row_number() over (partition by class_id order by score desc) as score_rank_desc
    from student_score
    )t
where 
  (score_rank_asc- score_rank_desc) in (1,-1,0)
group by 
  class_id

但是解法2有一个问题,我们知道row_number处理相同值的时候会随机给一个rank,所以对于不同student_id的相同分数,可能会产生不同的rank,具体来说:

这时候奇数情况也会存在升序编号和降序编号的差值为1或者-1,就会造成错误的输出。此时可以通过限定主键的方式来使得row_number对于相同分数的不同学生,降序排和升序排的名次在逻辑上是相同的(即保证五个人升序排我是第三名,降序排我也是第三名)。

解法2.1:
select 
  class_id
  ,avg(score) as score_median
from
   (
    select 
          class_id
          ,score
          ,row_number() over (partition by class_id order by score asc student_id asc) as score_rank_asc
          ,row_number() over (partition by class_id order by score desc student_id desc) as score_rank_desc
    from student_score
    )t
where 
  (score_rank_asc- score_rank_desc) in (1,-1,0)
group by 
  class_id

延伸问题:频次+分数
假设现在我们没有每个人的成绩了,只有每个班级的成绩及频次,即问题转换为:学生成绩表student_score,里面有三个字段:班级id:class_id,成绩:score,频次:frequency。现在让你求出每个班级学生成绩的中位数。

这时候仍然可以考虑升序和降序的频数累积和,两个数都需要大于等于总数一半,即为中位数4。

由此有如下写法:

select
    class_id 
    ,avg(score) as score_median
from
(
    select 
        class_id
        ,score
        ,sum(frequency) over(partition by class_id order by score asc) as total_asc
        ,sum(frequency) over(partition by class_id order by score desc) as total_desc
        ,sum(frequency) over(partition by class_id ) as total_num
    from 
      student_score
)t
where 
  total_asc>=total_num/2
and 
  total_desc>=total_num/2
group by 
  class_id 

版权声明:本文为CSDN博主「遥望moltke」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/weixin_43231731/article/details/119477803

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值