数据挖掘就是从海量的数据中挖掘出知识的过程。数据挖掘的重要性在当今这个数据爆炸增长的时代,就不需要多说了。下面总结一下数据挖掘的过程。
数据挖掘步骤:
- 数据清理。消除噪声和删除不一致的数据
- 数据集成。多种数据源可以组合在一起
- 数据选择。从数据库中提取与分析任务相关的数据
- 数据变换。通过汇总或聚集操作,把数据变换和统一成适合挖掘的形式。
- 数据挖掘。基本步骤,使用只能方法提取知识模式
- 模式评估。根据某种兴趣度度量,识别代表知识的真正有趣的模式
- 知识表示。使用可视化和知识表示数据,向用户提供挖掘的知识
数据挖掘可以挖掘的模式:
- 数据特征化与区分
1 特征化: 是目标类数据的一般特性,或特性的汇总(如,汇总一年内花费5000元以上的顾客)
2 数据区分:数据区分。经理相比较两组顾客,定期购买和不经常购买的顾客
- 挖掘频繁模式 ,关联和相关性
- 频繁模式:是在数据中频繁出现的模式,包括频繁项集,频繁子序列和频繁子结构(如顾客经常一起购买牛奶和面包)
- 挖掘频繁模式导致发现数据中有趣的关联和相关性
- 分类与回归
- 分类。顾名思义,就是分类
- 回归。 回归建立连续值函数模型
- 聚类分析
- 离群点分析
- 例子: 通过检测一个给定找好与正常的付费数额特别大,离群点分析可以发现信用卡欺骗性使用。离群点还可以通过购物地点和类型或购物来检测
总结: 数据挖掘可以挖掘的模式可以分为两大类,描述性的和预测性的。描述性挖掘任务刻画目标数据中数据的一般性质,预测性挖掘任务在当前数据上进行归纳,以便做出预测。