逻辑回归
**
https://zhuanlan.zhihu.com/p/28415991
逻辑回模型 也叫sigmoid函数
公式
逻辑回归假设函数
公式
推出
线性回归的假设函数
代价函数
常见的代价函数
1.在线性回归中,最常用的是均方误差(代价函数)
2。在逻辑回归中,最常用的是代价函数是交叉熵
代价函数与梯度
逻辑回归
梯度下降中的梯度指的是代价函数对各个参数的偏导数,偏导数的方向决定了在学习过程中参数下降的方向,学习率(通常用α表示)决定了每步变化的步长。
代价函数与梯度*
线性回归
总结
线性回归梯度下降虽然函数样子等于逻辑回归梯度下降的样子
但是他们的h(x)是不一样的
线性回归的h(x)
线性回归的代价函数
线性回归的梯度
逻辑回归的h(x)
逻辑回归的代价函数
逻辑回归的梯度