逻辑回归--logic的相关知识

1.logic的本质是分类问题即寻找边界值或者边界函数，然后可以那二分类法举例，非零即使一，然后逻辑回归就是将线性回归与sigmod函数结合在一起

具体公式如下：

将z带入到sigmoid函数中，就可以通过选择不同的w和b，来找到边界了。

其中逻辑回归的代价函数：

线性模型的时候，是这样的：

上图中这个函数，其实很容易理解了，我们用上面那个式子衡量某参数下的假设函数对自变量预测值和实际值之间的差距大小，然后把m个差距求和。

到了逻辑回归这里，其实代价函数就变简单了，为什么呢？我们只需要在线性回归模型的代价函数基础上做一下这样的修改即可作为一种代价函数：

但是因为我们的假设函数是sigmoid函数，所以最后我们上图中的代价函数的图形可能会变成这样一个丑陋的样子：

这样凹凸不平的函数，我们在使用梯度下降法求解最小值的时候是极易陷入局部最优解的，非常讨厌！我们要想想另外更好的代价函数形式。于是便调整了代价函数（具体为啥调整，可能是前辈们调了多种后能得到的还不错的代价函数）。

逻辑回归的损失函数：

经过整合为下面的函数

最后逻辑回归的成本函数：

是将所有损失函数的值加起来除以m，那么为了找到最佳参数w和b，所以要对成本函数进行梯度下降的方法，具体的求导如下：