使用Sparksql计算数据库表中某一列字段的中位数

该方法是基于Sparksql内置函数进行计算
我先上代码:
在这里插入图片描述
dataset和columnName作为参数,columnName是字段名,dataset是什么不说了,首先通过得到columnName字段在dataset中的下标位置,再通过withColumn在dataset表最后添加一列"tmpRowNumber",该列是通过row_number().over(Window.orderBy(columnName))得到的(row_number()还可以进行分组排序,分组求topN),是将columnName进行正序排序,然后再通过max和min函数得到该列的最大值和最小值,再通过filter过滤,得到该列中和最大值最小值之和除二相等的结果,该结果所对应的columnName的下标的值就是该字段的中位数

没有更多推荐了,返回首页