2.2 logistic回归

概念

逻辑概念

   logistic回归是一个用于监督学习的学习算法，输出标签y是0或者1。实际上就是一个二元分类问题。

数学概念

  对于一个输入的X，我们希望建立一个函数，该函数可以输出X是某一个结果的概率，记这个函数为$\hat{Y}$。表达式为$\hat{Y}$ = f(X).

---

sigmoid函数

  但是通常来说我们需要的是 X 是某个结果的概率P，P 是0~1之间的一个实数，但是普通的 Y 并不能控制在这个范围之内，所以我们引入了 Sigmoid函数 。

  以 $\hat{Y}=W^{T}X+b$ 为例，这是初始函数，其输出的结果是一个从无限小到无限大的一个值，我们引入 Sigmoid函数。

令$$Z=W^{T}X+b$$

则

$\hat{Y}=S(Z)$。

其中$$\mathbf{S}(\mathbf{Z})=\frac{1}{1+{\mathbf{e}}^{-}\mathbf{Z}}$$

函数图像和变化趋势如下：

---

这就是最基本的 logstic 回归模型。