Logistic 回归

Logistic 回归

---

Logistic回归作为一个学习算法，被用于输出y非0即1的监督学习问题中。Logistic回归的主要目标是使预测结果和训练数据的误差最小。

Cat vs No-cat

输入一张图像，由特征向量x来表示，回归算法将预估图像中有一只猫的可能性。
$Given x, \hat{y}=P(y=1|x), where 0 \le \hat{y} \le1$

在Logstic回归中的参数包括：

• 输入特征向量：$x \in R^{n_x}, n_x 为特征的个数$
• 训练标签：$y \in 0,1$
• 权重：$w\in R^{n_x},n_x为特征的个数$
• 门限值：$b \in R$
• 输出：$\hat{y} =\sigma (w^Tx+b)$
• Sigmoid 函数：$s=\sigma (w^Tx+b) = \sigma(z)=\dfrac{1}{1+e^{-z}}$

$(w^Tx+b)$是一个线性函数$f(ax+b)$，但是因为我们寻求一个在$[0, 1]$ 之间的可能性，所以使用了Sigmod函数。如上图所示，Sigmod函数值介于$[0,1]$ 之间。
我们能从图中观察得到：

• 当$z$是一个大的正数，有$\sigma (z) =1$
• 当$z$特别小或是一个“大的”负数时，$\sigma (z)=1$
• 当$z=0$时，$\sigma (z)=0.5$