逻辑回归

显然，如果继续使用线性回归中的h(x),那么h(x)肯定会大于1或者小于0，为了让h(x)在0到1之间，定义这个函数

logistic函数有这样一个性质

令

合起来写也就是

这时候，它的loss function 也就是

对它取对数并且求导

最后得出

这个函数，在形式上与线性回归的参数迭代是一样的，但是h(x)的定义是不同的，线性回归

逻辑回归

参考资料：斯坦福机器学习讲义Notes1

大神博客 http://blog.csdn.net/Andrewseu/article/details/46742151