ML之逻辑回归

问：逻辑回归是解决回归的问题吗？
答：不是，逻辑回归解决的是分类问题。

一、逻辑回归概念

面对一个回归或者分类问题，建立代价函数，然后通过优化方法迭代求解出最优的模型参数，然后测试验证我们这个求解的模型的好坏。
Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别）
是什么手段让逻辑回归只能输出两种值呢？答：Sigmoid函数。

二、Sigmoid函数

Logistic函数（或称为Sigmoid函数），函数形式为

其中e代表着常数 2.71828......
通过下面的图形可以看到，把任意一个z带入到Sigmoid函数中，都会得到一个(0,1)之间的值。那么我们能否把(0,1)之间的值想成是 0-100%的一个概率值呢？我们把概率小于50%的分为不易发生的一类。把剩余的分为另外一类。这样就产生了两个类别。达到分类的目的。这个就是逻辑回归作为分类的理论依据。

三、判定条件(分类的那条线)

对多元线性回归方程求Sigmoid函数hθ(x)=g(θ0+θ1x1+...+θnxn)，找到一组θ，假设得到−3+x1+x2=0的直线，把样本分成两类。把(1,1)代入g函数，概率值<0.5，就判定为负样本。这条直线就是判定边界，如下图： 

这条线就是线性回归函数，换句话说，参数z就是一个线性回归函数。
因此逻辑回归函数的表达式如下：

四、代价函数

逻辑回归方法主要是用最大似然估计来学习的，所以单个样本的后验概率为：

整个样本的后验概率就是：

五、最终运用梯度下降求解：

---

©著作权归作者所有：来自51CTO博客作者陆永剑讲师的原创作品，如需转载，请注明出处，否则将追究法律责任