机器学习 学习总结 第四章 逻辑回归代价函数化简以及梯度下降法

代价函数

函数化简

代价函数回顾：

将代价函数合成一个公式可得：

显然，对y进行0 1 赋值，可以分别得到原来的表达式。

逻辑回归的代价函数完整表达式

逻辑回归代价函数如下：

根据这个代价函数，我们要做的就是找到使得J(θ)取得最小是的参数θ值。

梯度下降法

需要用迭代公式来同时迭代计算θ向量中所有的θ值。

线性回归和逻辑回归假设函数的不同：

第一个是线性回归的假设函数，第二个是逻辑回归的。由此看，逻辑回归和线性回归的梯度下降法是完全不同的。

图片主要截自吴恩达老师的机器学习视频看