Logistic回归

通常，Logistic回归用于二分类问题，例如预测明天是否会下雨。当然它也可以用于多分类问题.

Logistic回归是分类方法，它利用的是Sigmoid函数阈值在[0,1]这个特性。Logistic回归进行分类的主要思想是：根据现有数据对分类边界线建立回归公式，以此进行分类。其实，Logistic本质上是一个基于条件概率的判别模型(Discriminative Model)。

所以要想了解Logistic回归，我们必须先看一看Sigmoid函数 ，我们也可以称它为Logistic函数。它的公式如下：

整合成一个公式，就变成了如下公式

 

θ是参数列向量(要求解的)，x是样本列向量(给定的数据集).这样我们的数据集([x0,x1,...,xn])，不管是大于1或者小于0，都可以映射到[0,1]区间进行分类。hθ(x)给出了输出为1的概率

那么问题来了！如何得到合适的参数向量θ?

式即为在已知样本x和参数θ的情况下，样