深度学习之逻辑回归

目录

前言：

原理：

损失函数：

对数损失函数：

梯度下降求解和b：

   代码实现：

---

前言：

     逻辑回归一般时解决分类问题某和估计某事发生的的可能,事实上它是被逻辑回归方程归一化的线性回归。

原理：

损失函数：

    首先要求出逻辑回归方程，它是由一元线性回归方程经过Singmoid函数的处理得到。逻辑回归求出的结果是0，1 的概率值，显然一元线性回归无法办到，这里引用了一个Singmoid函数：  （1）,一元线性回归方程为： （2）,逻辑回归方程为：  （3），逻辑回归方程 的结果为0和1，当为零的方程为：

（4），当结果为1时的方程为： （5），故将两者合起来损失函数为：（6）（这里当Y=1 时（6）式子为（4）当Y=0时，式子为（5））

对数损失函数：

       将（4）式和（5）式分别取对数,代入到（6）式中得：   (7)

经过化简得：

     ( 8 )

N个数据的损失函数为：

Loss L=ln[1+e^{-(\theta x+b)}]+(y-1)*(\theta *x+b)

梯度下降求解和b：

  (     其中y是（3）式   ）

不断迭代，求出合适的和b，最终得出逻辑回归方程。

   代码实现：

    初学，代码还不会写。