gongxun1234的博客

原创 logistic回归梯度下降算法

在《机器学习实战》一书的第5章中讲到了Logistic用于二分类问题。书中只是给出梯度上升算法代码，但是并没有给出数学推导。故哪怕是简单的几行代码，依然难以理解。 由于sigma函数的特性，我们可作出如下的假设： 上式即为在已知样本X和参数θ的情况下，样本X属性正类(y=1)和负类(y=0)的条件概率。 将两个公式合并成一个，如下： 既然概率出来了，那么最大似然估计也该出场了。假定样