Machine Learning---4---Logistic回归

（1）写在前面的话：

机器学习算法一般是这样一个步骤：

1）对于一个问题，我们用数学语言来描述它，然后建立一个模型，例如回归模型或者分类模型等来描述这个问题；

2）通过最大似然、最大后验概率或者最小化分类误差等等建立模型的代价函数，也就是一个最优化问题。找到最优化问题的解，也就是能拟合我们的数据的最好的模型参数；

3）然后我们需要求解这个代价函数，找到最优解。这求解也就分很多种情况了：

      a）如果这个优化函数存在解析解。例如我们求最值一般是对代价函数求导，找到导数为0的点

      b）如果式子很难求导，例如函数里面存在隐含的变量或者变量相互间存在耦合，也就互相依赖的情况。这时候我们      就需要借助迭代算法来一步一步找到最有解了。

（2）Logistic回归 ：

模型：