数据挖掘原理与实践 读后总结

《数据挖掘原理与实践》并不是很复杂难解，适合数据挖掘的初学者.该书概述了数据挖掘的基本过程,并对常用的方法进行了细致的讲解.并配合实例分析,使之更易入门.

这两天把这本书大致的浏览了以便,在此做个总结,以便下次预览时能有所领悟.

• 数据挖掘的定义

数据挖掘可以从两个方面来进行定义:技术和商业.从技术上来说数据挖掘就是从大量的数据中提取有用信息的过程.从商业的角度来说,数据挖掘是一种商业信息处理技术,其主要的特征是对大量业务数据进行抽取、转换、分析和建模处理,从中提取辅助商业决策的关键性数据.

• 数据挖掘任务

数据挖掘任务可以分为预测型任务和描述型任务,预测型任务就是根据其他属性的值预测特定属性的值,如回归、分类、离群点检测.描述型的任务就是寻找概况数据中潜在联系的模式,如聚类分析、关联分析、演化分析、序列模式挖掘.

• 数据挖掘过程

数据挖掘过程的定义为:从数据中鉴别出有效模式的非平凡过程.该模式是新的,可能有用的和最终可解的.从技术角度考虑，数据挖掘的一般流程为:

1. 数据清洗从原始数据集从清除无意义的或不合理的或者与研究无关的数据
2. 数据集成将清洗后的数据从多个数据源合并到一个数据源进行处理(本人认为随着分布式计算的兴起,可能不是必要的步骤)
3. 数据选择从处理后的数据源中选取特定的数据进行研究(往往数据源非常大,而在研究时,可以从其子集进行研究)
4. 数据转换将选中的数据源根据一定的转换规则,转换成数据挖掘算法可以处理的数据形式
5. 数据挖掘使用科学的技术方法从待挖掘的数据中找出数据模式和规律信息
6. 模式识别根据一定的评估标准,从处理后的数据集中筛选或分析出知识
7. 知识表示使用可视化或知识表达技术,来表示挖掘到的知识信息

• 分类与回归

1. 决策树分类方法

学过数据结构的人可以认为它是排序树的一种应用,只不过排序树只是对一个值树形进行分类,而决策树是根据多个属性来确定对象类别的方式而已(示例说明暂且略过).决策树分类算法的难点在于如何建立决策树,因为建立的规则不是事先知道的,而是需要进行动态探索.该书介绍了三种决策树算法:ID3、C45和CART算法.

ID3和C4.5都是用了信息增益作为属性分类的选择标准,因此需要介绍信息增益及其依赖概念.

信息熵(shang): 假设数据集人(人包括年龄、性别、婚否等信息)中的性别属性有三种选择(男,女,未知).那么要计算性别属性在数据集人中的信息熵值时,需要使用以下的计算方式.假设数据集中有个5个人,其中3个男人、2个女人和0个未知性别的人.则性别相对于数据集人来说的信息熵为:

-(3/5log3/5 + 2/5log2/5 + 0/5log0/5).意思就是说,计算每种类型发生的概率乘以2为底该概率的对数,然后对各种类型进行求和后，在乘以-1

增益信息: 假设数据集被使用性别划分,划分后将形成三个数据集,分布计算这三个数据集的另一属性的信息熵,假设是婚否,计算后,再根据比重求和,求和后拿性别的信息熵减去求和后的值,并得到了信息增益.

1. 贝叶斯分类方法
2. K-最邻近分类方法
3. 神经网络分类方法
4. 支持向量机
5. 集成学习法
6. 不平衡的数据分类
7. 线性回归
8. 非线性回归
9. 逻辑回归

• 聚类分析
• 关联分析
• 离群点挖掘