CH11 生成模型

CH11 生成模型

生成模型关注点是样本分布本身，解决的问题与任务，对样本分布建模，所以一定和概率分布有关，往往被称之为“概率生成模型”

给定训练数据，从相同分布生成新样本

监督学习可以细分为判别模型和生成模型。通俗地讲，比如我有一堆猫狗的图片，我要对他们进行分类，判别的模型只是要找到猫狗的差异就可以，比如说狗的体型要大些，所以看到体型大的我都认为是狗;而生成模型是通过学习猫是什么样的，狗是什么样的，它有能力生成新的一张新的猫或狗的图片，就和小孩画画差不多，如果都有这能力了自然会判别什么是猫，什么是狗（但是天下没有免费的午餐，根据研究和实验，在分类问题上，判别模型一般比生成模型做得好[2]，因为不一定能画得好啊）。

• 显式密度估计：明确定义并求解，显式对P(x,y)建模
• 隐式密度估计：学习可从样本采样而未明确定义的模型（从样本中生成新的样本）

当今三种最受欢迎的生成模型：

• PixelRNN与PixelCNN
• 变分自编码（VAE）
• 生成对抗网络（GAN）