logistic regression 多类别的分类问题 sigmoid function 判决边界

   

logistic regression (逻辑回归)产生的目的是解决回归问题，对于二元分类问题，预测函数hθ(x)最好是介于[0,1]之间，所以回归函数

符号这个要求，谨记逻辑回归是分类函数。不是为了拟合存在。

以下是解释：判决边界的PPT,有不懂的可以去看视频

    

 

以下是讲述逻辑回归的代价函数：凸优化

 

解释：计算代价函数J(θ)为什么不直接将hθ(x)=sigmoid(x)带入，因为sigmoid函数太过于复杂，若直接带入会导致J(θ)函数是非凸函数，如左图，无法进行梯度下降，所以，要进行凸优化，把代价函数搞成左边的样子。

将代价函数进行如上改造就可以变成凸函数了，就是凸优化。

下面就是讲述多分类的分类方法，基本思想就是将多分类分解成多个二元分类。