一、概述
- 对应成功的数据预处理而言,把握数据的全貌至关重要。
- 基本统计描述可以用来识别数据的性质,凸显哪些数据值应该视为噪声或离群点。
二、中心趋势度量:均值、中位数、众数、中列数
- 也就是度量数据分布的中部或中心位置。(给定一种属性,它的值大部分落在何处)
- 频率:区间内数值的个数。
1)均值(mean)
- 数据集“中心”的最常用、最有效的数值度量是均值。
- 均值对应于关系数据库系统提供的内置聚集函数 average(SQL 的 avg() )。
- 加权平均值或加权平均
- 加权(ω):即权重,反应它们所依附的对应值的意义、重要性或出现的频率。
- 计算:xmean = ( ω1x1 + ω2x2 + ... +ωNxN ) / ( ω1 + ω2 + ... + ωN )
- 缺点
- 对极端值(例如:离群点)很敏感。(例如,公司的平均薪水会被少数几个高收入的经理显著推高)
- 方法
- 使用截尾均值:丢弃高低极端值后的均值。
2)中位数(median)
- 定义:有序数据值的中间值。
- 计算:N 个数值,若 N 是奇数,第 (N + 1) / 2 个数据为中位数,若 N 是偶数,则中位数不唯一,它是最