数据挖掘概念与技术-笔记（2）

属性相关性分析

1.为什么要进行属性相关性分析

• 属性太多会降低系统性能，因此要过滤掉不相关和弱相关属性以提高系统性能

2.属性相关分析方法

属性相关性分析的基本思想是计算某种度量，用于量化属性与给定类或概念的相关性。这种度量包括信息增益

、gini索引、不确定性和相关系数。

信息增益计算：原理---删除信息量少的属性，收集信息量多的属性

训练集样本为S，根据某属性将S划分为m个类别，则S有si个Ci类样本，i=1,2,3......m

一个类为S属性的可能性为si/s

信息增益公式如下：

对于一个训练集给定阈值，如果根据某一属性计算所得的Gain小于给定阈值则认为其弱相关

概念描述的属性相关分析执行步骤：

1. 数据收集
2. 使用保守的AOI进行预相关分析
3. 使用选定的相关分析度量删除不相关和弱相关属性
4. 使用AOI产生概念描述