公式推导转自 https://blog.csdn.net/pakko/article/details/37878837
二分类问题之所以不用单位阶跃函数是因为广义线性模型需要单调可微条件,所以需要sigmoid函数近似。
逻辑回归和线性回归区别个人感觉就是因变量的不同导致应用场景也不一样。还有就是两个的损失函数也不同
线性回归损失函数是平方误差,即最小二乘法。
逻辑回归损失函数是对数损失函数,因为如果使用平方误差损失函数,得出的函数是非凸,不易优化并且容易局部最小。
公式推导转自 https://blog.csdn.net/pakko/article/details/37878837
二分类问题之所以不用单位阶跃函数是因为广义线性模型需要单调可微条件,所以需要sigmoid函数近似。
逻辑回归和线性回归区别个人感觉就是因变量的不同导致应用场景也不一样。还有就是两个的损失函数也不同
线性回归损失函数是平方误差,即最小二乘法。
逻辑回归损失函数是对数损失函数,因为如果使用平方误差损失函数,得出的函数是非凸,不易优化并且容易局部最小。