逻辑回归损失函数为什么使用最大似然估计而不用最小二乘法?

逻辑回归函数一般用在分类问题上。
实际上也可以用最小二乘,但是最小二乘得到的权重效果比较差。
    如果用最小二乘法,目标函数就是差值的平方和,是非凸的,不容易求解,很容易陷入到局部最优。

如果用最大似然估计,目标函数就是对数似然函数,是关于w,b的高阶连续可导凸函数,可以方便通过一些凸优化算法求解,比如梯度下降法、牛顿法等。

展开阅读全文

没有更多推荐了,返回首页