关于逻辑回归的见解

AIgeeksu

已于 2025-06-05 22:15:30 修改

阅读量798

点赞数 9

CC 4.0 BY-SA版权

文章标签：逻辑回归算法机器学习

于 2025-06-05 02:16:00 首次发布

本文链接：https://blog.csdn.net/geeksu/article/details/148437901

逻辑回归通过将线性回归的输出映射到 $[0,1]\left[0,1\right]$ 区间，来表示某个类别的概率。也就是其本质是先通过线性回归的预测值 $y\boldsymbol{y}$ 输入到映射函数，既将线性回归的输出通过映射函数映射到 $[0,1]\left[0,1\right]$ .常用的映射函数是sigmoid函数,其图像：

在这里插入图片描述

关于sigmoid函数其形式如下：
$\frac{1}{1 + e^{-x}}$

sigmoid函数的导数特性：
$\begin{align*} f'(x) &= -\frac{1}{\left(1 + e^{x}\right)^2} \cdot -e^x\\ &= \frac{e^x}{\left(1 + e^{x}\right)^2} \\ &= \frac{1}{1 + e^{x}} \cdot \frac{e^{x}}{1 + e^{x}} \\ &= \frac{1}{1 + e^{x}} \cdot \frac{1 + e^{x} - 1}{1 + e^{x}} \\ &= \frac{1}{1 + e^{x}} \cdot \left(1 - \frac{1}{1 + e^{x}}\right) \\ &= f(\mathbf{x})\left(1-f(\mathbf{x})\right) \end{align*}$

逻辑回归结果可表示为：

$\mid \mathbf{x}) = \dfrac{1}{1 + e^{-\left(\beta_0 + \beta_1 x_1 + \beta_2 x_2 + \cdots + \beta_n x_n \right)}} = \dfrac{1}{1 + e^{-\left(\beta^T x\right)}}$