Logistic回归（Logistic Regression）

Logistic回归分析也用于研究影响关系，即X对于Y的影响情况。Y为定量数据，X可以是定量数据或定类数据。

首先介绍logistic函数

                                        

这个函数的一个重要特征就是其导数可以用函数本身表示，下面是推导过程

                             

这里我们只关注二分类的logistic回归

假设Y在X的条件下有0和1两种可能

                                   

然后把两者结合起来得到

                  

对其求似然估计

                         

                      

对θ求导

              

到这里就可以使用梯度下降算法

                 

最终一步步得到最接近答案的值。

注意线性回归数学分析是可以得到最终的解析解的，而logistic回归不可以，只能使用梯度下降算法。