使用Sparksql计算数据库表中某一列字段的中位数

该方法是基于Sparksql内置函数进行计算
我先上代码:
在这里插入图片描述
dataset和columnName作为参数,columnName是字段名,dataset是什么不说了,首先通过得到columnName字段在dataset中的下标位置,再通过withColumn在dataset表最后添加一列"tmpRowNumber",该列是通过row_number().over(Window.orderBy(columnName))得到的(row_number()还可以进行分组排序,分组求topN),是将columnName进行正序排序,然后再通过max和min函数得到该列的最大值和最小值,再通过filter过滤,得到该列中和最大值最小值之和除二相等的结果,该结果所对应的columnName的下标的值就是该字段的中位数
类似文章:
使用Sparksql求数据库表中单列字段中出现次数最高的值,以及出现的次数

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值