逻辑回归模型_【机器学习】逻辑回归模型详解

按照李航老师在《统计学习方法》中描述的方法论，我们将之后总结的每一个机器学习方法都按照“模型——策略——算法“来梳理。有一些方法间会共享一些策略（如：最小化交叉熵损失）与算法（如：梯度下降），因此它们出现第一次的时候我会着重说明，之后将一笔带过。有的时候我也说不清楚某部分知识是属于模型、策略还是方法，因此会出现强硬归类的现象。我不管，我就这么写。

逻辑回归的模型定义

图1 逻辑回归函数

当z趋近于+∞时，输出值趋近于1；当z趋近于-∞时，输出值趋近于0。

实际上，逻辑回归模型属于广义线性模型，就是将线性回归的输出，套了一层sigmoid函数。

sigmoid函数有一个非常重要的特性，那就是