[李宏毅-机器学习]逻辑回归Logistic Regression

逻辑回归相对于线性回归，是在y=ax+b上用sigmoid做输出的限制

逻辑回归用于分类，线性回归用于拟合数据

使用梯度下降获得最终结果

为什么逻辑回归不能用均方误差？

判别式模式 和 生成式模型

判别式模型知道找到类别的判别式中的参数，即直接找到P（C|x）分布

而生成式模型需要先对P（x|C）进行假设建模（如高斯模型），然后找到该模型的参数，得到P（x|C）后，再间接计算P（C|x）

 

朴素贝叶斯

下图中，最后一行是P（x1=1|c2）

 

注意 其中z的得到，是通过不同的w和b，其中w，x，b都是向量

 

逻辑回归无法解决上图中的分类问题，因为逻辑回归是线性boundary，上图的情况无法用一个boundary

使用特征转换，将原来的特征转换到另外一个空间，可以得到线性boundary的空间

但是这种转换人为很难找到，因此想要让机器自己找到一个tranfromer

就将多个逻辑回归叠加到一起，让前边的逻辑回归自己找到一个tranformer，最后一个再用分类

每一个逻辑回归单元，就是一个神经元，这就是神经网络