最近在读《python数据分析与挖掘实战(张良均等)》这本书,发现里面有很多很不错的数据分析方法,但是在重新敲代码的过程中,发现原书也有一些错误,不过正好让我重新熟悉了pandas和matplotlib以及numpy的操作。数据的预处理是数据分析过程中非常重要的一部分,具体结构如图所示:
![ccb2c380ada8383718ffeb3c2b5cf294.png](https://img-blog.csdnimg.cn/img_convert/ccb2c380ada8383718ffeb3c2b5cf294.png)
前面两篇文章梳理了用箱线图标注异常值和用拉格朗日插值法进行空白值填充的方法:
zakki:箱线图异变标注zhuanlan.zhihu.com![b44a4cd351f74b5158e031af3b8a8097.png](https://img-blog.csdnimg.cn/img_convert/b44a4cd351f74b5158e031af3b8a8097.png)
其实在数据清洗和预处理过程中,有时我们需要适当地对数据集进行变换。关于数据规范化,我们后面再说,本篇文章主要谈论对数据集的连续属进行离散化。
一、概念
某些分类算法,要求我们对连续性的属性进行分类处理,离散化的过程主要包括确定分类的个数,并将数据集映射到这些分类中,这里涉及三种分类方法:
1)等宽法
类似于制作频数分布图,将属性分布值分为几个等分的分布区间;
2)等频法
将相同数量的记录放入每个区间;
3)基于聚类的分析方法
将属性按照K-means算法进行聚类,然后根据聚类的分类,将同一聚类的记录合并到同一组内。
下面针对:肝气郁结证型系数数据集进行三种离散化的python实现,数据集下载地址:
https://github.com/zakkitao/database/blob/master/discretization_data.xlsgithub.com二、代码实现
1)导入数据集以及各种需要的库
import
2)等宽离散法
data
3)等频离散法
w
4)k-means分组
from
5)定义画图函数并生成图像
def
如图:按照顺序排列的三图
![52a98405cc7270baf5e211d93a2a2ef6.png](https://img-blog.csdnimg.cn/img_convert/52a98405cc7270baf5e211d93a2a2ef6.png)
![bca9ae3e1b6d571f001b76a4d13f3a3e.png](https://img-blog.csdnimg.cn/img_convert/bca9ae3e1b6d571f001b76a4d13f3a3e.png)
![c26353317e07acfc52bce7e6d9117a2a.png](https://img-blog.csdnimg.cn/img_convert/c26353317e07acfc52bce7e6d9117a2a.png)