本文深入探讨逻辑回归模型，从单位阶跃函数sigmoid介绍开始，详细阐述LR模型的函数表达式、损失函数，并解释了为什么选用log损失函数而非平方损失函数。此外，还讲解了梯度下降法在参数学习中的应用，以及正则化方法如L1和L2正则化，以防止过拟合，增强模型泛化能力。
一、单位阶跃函数（sigmoid）
阶跃函数及其导数：
函数表达式：
当 x = 1 时，f(x) = 0.5 ; 当 x = 10 时，f(x) 接近于1 ，这也就是之前说过的，当x > 0 的时候，会非常快速的接近于1 ；当x < 0 的时候，会非常快速的接近于0 。这完全符合LR模型，对0-1分类时的要求。
下面再来看一下其导数：
即为：
也就是 f(x) 的导数 = f(x) * (1 - f(x))
二、LR模型的函数表达式
LR模型分为两个步骤：
1. 拟合数据点；
公式：
这里的w1，w2...是需要学习的参数，这里的x1，x2...是选取的特征。
最低0.47元/天 解锁文章
2288
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
