一、概念
包括学习和分类两个过程
监督学习从数据中学习一一个分类模型或决策函数称为分类器( classifier )分类器对新的输入进行输出的预测,称为分类,输出变量Y取有限个离散值
二、常用分类算法
提升方法
2.1评价指标
准确率
精确率与召回率
三、KNN算法
3.1基本思想
3.2 算法流程‘
3.3基本要素
3.3.1距离度量
由不同的距离度量所确定的最近邻点是不一样的
3.3.2K值的选择
3.3.3分类决策规则
四、贝叶斯定理
4.1概念
先验概率 后验概率
4.2朴素贝叶斯定理
4.3朴素贝叶斯步骤
五、决策树
5.1概念
5.1.1基本组成
5.2决策树学习
5.2.1思想
5.2.2流程
5.2.3决策树特征选择
信息增益
信息熵
六、决策树-剪枝算法
6.1概念
6.2损失函数
6.3流程