数据挖掘学习（二）——分类

定义  分类（classification）分类任务就是通过学习得到一个目标函数f , 把每个属性集x映射到一个预先定义的类标号y. 目标函数也称分类模型（classification model）。分类模型可以用于以下目的。

①描述性建模。 分类模型可以作为解释性工具，用于区分不同类中的对象。

②预测性建模。分类模型还可以用于预测未知记录的类标号。分类模型可以看作一个黑箱，当给定位置记录的属性集上的值时，它自动地赋予未知样本类标号。

     分类技术非常适合预测或者描述二元或标称类型的数据集。

       分类技术（或分类法）是一种根据输入数据集建立分类模型的系统方法。分类法的例子包括决策树分类法、基于规则的分类法、神经网络、支持向量机和朴素贝叶斯分类法。这些技术都使用一种学习算法确定分类模型，该模型能够很好地拟合输入数据中类标号和属性集之间的联系。学习算法得到的模型不仅要很好地拟合输入数据，还要能够正确地预测未知样本类标号的模型。

        解决分类问题的一般方法：首先，需要一个训练集（training set），它由类标号已知的记录组成。使用训练集建立分类模型i，该模型随后应用于检验集（test set），检验集由类标号未知的记录组成。

 

分类方法：

1.决策树。决策树是一种由节点和有向边组成的层次结构。树中包含三种节点：根节点、内部节点、叶节点或终结点。

2.最近邻分类器。 找出和测试样例的属性相对接近的所有训练样例，这些训练样例称为最近邻，可以用来确定测试样例的类标号。给定样例z的k-最近邻是指和z距离最近的k个数据点。必须选