《机器学习-小知识点》1： Generative VS Discriminative 问题

生成式模型（generative） vs 判别式模型（discriminative）

2021.12.22 在《统计学习方法》的时候，对此篇内容重新做了整理和更新

1 基本概念

监督学习的任务就是学习一个模型， 应用这一模型， 对给定的输入预测相应的输出。 这个模型的一般形式为决策函数：$$Y＝f(X)$$或者条件概率分布：$$P(Y|X)$$

举个例子，方便理解：

• 输入一个人身高2米，体重200斤的数据
• Y＝f(X) 输出为0（代表男） 是个分类的结果
• P(Y|X) 则可能输出 $P(男)=0.9，P(女)=0.1$

• 监督学习方法又可以分为生成方法（generative approach）和判别方法（discriminative approach）
• 所学到的模型分别称为生成模型（generative model） 和判别模型（discriminative model）

2 思路的区别

2.1 生成式模型（generative）

生成方法原理：① 由数据学习联合概率分布 P ( X , Y )