【统计学习方法】——生成模型/判别模型

1.$$监督学习方法\{\begin{array}{r}生成方法\to 生成模型\\ \\ 判别方法\to 判别模型\end{array}$$
2.生成方法：（关心过程）

  先学习联合概率分布，再求出条件概率分布作为预测模型，即：生成模型表示了输入X产生输出Y的生成关系。常见的生成模型：朴素贝叶斯、隐马尔可夫模型

判别方法：（只关心结果）

  直接学习决策函数或条件概率分布作为预测模型。判别模型关心给定的输入X，应预测什么样的输出Y。常见的判别模型：K紧邻、感知机、决策树、逻辑斯蒂回归、最大熵、SVM、提升方法、条件随机场

3.特点：

生成方法：①可还原出联合概率分布
     ②收敛速度快：当样本容量增加时，学到的模型可更快收敛到真实模型
     ③适用于包含隐变量的情况
判别方法：①准确率更高：直接学习条件概率或决策函数，直接面对预测
     ②可简化学习问题：直接学习条件概率或决策函数，可对数据进行各种程度上的抽象定义特征并使用特征