NEFU数据科学导论(七)分类问题

一、概念

包括学习和分类两个过程
监督学习从数据中学习一一个分类模型或决策函数称为分类器( classifier )分类器对新的输入进行输出的预测,称为分类,输出变量Y取有限个离散值

 二、常用分类算法

提升方法

2.1评价指标

准确率

精确率与召回率

三、KNN算法

 3.1基本思想

3.2 算法流程‘

3.3基本要素

3.3.1距离度量

由不同的距离度量所确定的最近邻点是不一样的
 3.3.2K值的选择

3.3.3分类决策规则

四、贝叶斯定理 

4.1概念

先验概率         后验概率 

4.2朴素贝叶斯定理

4.3朴素贝叶斯步骤

五、决策树

5.1概念

5.1.1基本组成

5.2决策树学习

5.2.1思想

5.2.2流程

 

 

5.2.3决策树特征选择

 

信息增益

 

信息熵 

 

六、决策树-剪枝算法

6.1概念

 

6.2损失函数

 

 

6.3流程