概率生成模型：GDA和Navie Bayes

1.线性分类软输出模型包含概率判别模型和概率生成模型

2.概率判别模型对条件概率建模，概率生成模型对联合概率建模

3.逻辑回归是经典的概率判别模型，GDA和朴素贝叶斯是生成模型

4.GDA三个假设，目标y服从伯努利分布,每个类别下的属性服从均值不同，协方差矩阵相同的正态分布

5.朴素贝叶斯的一个假设是条件独立性，给定类别下特征属性相互独立

6.朴素贝叶斯的特征一般为离散变量

我们已经介绍了线性分类的硬输出模型，本文来介绍软输出模型，所谓的硬输出，就是对y={+1,-1}建模，软输出则输出一个概率y=[0,1]。硬输出模型大体有感知机、线性判别分析、支持向量机。软输出模型我们之前介绍过了大名鼎鼎的逻辑回归（概率判别模型），这节我们介绍概率生成模型。

线性分类之软输出模型

线性分类的软输出模型(y取值0~1，代表概率)包括概率判别模型和概率生成模型，概率判别模型最经典的就是大名鼎鼎的逻辑回归。小编之前的文章从【为什么要用sigmoid函数】到真的懂【逻辑回归】花费了许多精力来介绍，有不懂的可以回顾复习。

而概率生成模型典型的有高斯判别分析和