机器学习02——逻辑回归

逻辑回归算是一种分类的算法，常用于解决二分类等常见的分类问题。

若是用线性回归解决某个分类问题，设置w的阈值使得线性的分类。在某些层面上也能达到不错的效果。但是若遇到类别不平衡的问题，就可能会造成错分，由此引出逻辑回归的方法。

这里引入一个sigmoid函数

 

此函数的y值往上收敛为1，往下收敛为0，所以这样就让我们可以更好的分类了。

这里g（x）求导后为g(x)×[1-g(x)] 。

所以我们将线性回归的损失函数套进这个sigmoid函数里面去，通过收敛就刚好能得到联众截然不同的结果，从而分类，这就是核心，从而得出决策边界。

 逻辑回归的算法（代价函数）

 截取另一篇博客

由于最终结果只有0和1，所以简化后：

 所以