逻辑回归代价函数进行梯度下降求偏导时与线性回归的区别
从偏导的公式上来看,两种方式的公式是一样的,两者的区别就是 hθ(xi)激活函数 的定义不同,
- hθ(xi) 线性回归是普通的线性函数
- hθ(xi) 逻辑回归是sigmod函数
逻辑回归梯度下降推到具体参考:http://blog.csdn.net/Jiaach/article/details/78736577
总结:导致两者求导出来的式子一样的原因是逻辑回归代价函数中的log(hθ(xi)) 外面的对数函数跟里面hθ(xi) 代表的sigmod函数的e自然常数进行了抵消。