逻辑回归与Python代码实现

篇博文主要介绍逻辑回归（logistic regression），首先介绍相关的基础概念和原理，然后通过Python代码实现逻辑回归的二分类问题。特别强调，其中大多理论知识来源于《统计学习方法_李航》和斯坦福课程翻译笔记以及Coursera机器学习课程。 本文来自于csdn，由火龙果软件Anna编辑、推荐。

本篇博文的理论知识都来自于吴大大的Coursera机器学习课程，人家讲的深入浅出，我就不一一赘述，只是简单概括一下以及记一下自己的见解。

1.逻辑回归假设函数

逻辑回归一般用于分类问题较多，但是叫做“regression”，而线性回归一般不建议用于分类，因为输出的y的值可能超出0/1范围。这也就是为什么逻辑回归假设函数里面有sigmoid函数的原因了。

2.成本函数

逻辑回归问题不在采用“最小均方”误差，因为里面含有非线性的sigmiod函数，使得成本函数J不再是一个平滑的“碗”，容易导致“局部最优”，所以采用如下cost function:

3.参数学习(梯度下降)

你会发现，这个