logsitic 回归是一种分类方法，既可以应用于二分类问题也可以应用于多分类问题。
我们知道，要估计模型的参数，一个直观的想法是写出对数似然函数 L(w)，对 L(w) 求极大值，得到 w 的估计值。
对于 logistic 回归模型来说，具体步骤就是：
（1）写出似然函数
（2）写出对数似然函数
（3) 最大化 L(w) 等价于最小化 -L(w)-----------目标函数
（4）上式是关于 w 的高阶可导连续凸函数，利用梯度下降法求得最优解
不想敲公示了，贴张Ng的PPT吧
Logistic regression学习笔记
本文介绍了Logistic回归的基本概念，包括其在二分类和多分类问题中的应用。通过最大化对数似然函数来估计模型参数，并使用梯度下降法进行优化。此外，还探讨了正则化在防止过拟合中的作用，特别是L2正则化的岭回归，以及更高级的优化算法如Conjugate Gradient、BFGS和L-BFGS。
最低0.47元/天 解锁文章
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
