机器学习模型| 监督学习| 逻辑回归算法

 

逻辑斯蒂回归

　　线性回归的问题 —— 怎样判断肿瘤是否恶性？

         

 

 

 

     线性回归健壮性不够，一旦有噪声，立刻“投降”

   

 

逻辑斯蒂回归 —— 分类问题

     

 

 

 

Sigmoid函数（压缩函数） 0-1之间阶跃函数的平滑   --  解决阶跃函数非线性度不够的问题

   redu线性整流函数，比阶跃好点

       

 

 

         

我们将线性回归拟合出来的值用压缩函数进行压缩，压缩完成后用 0.5 做一个概率的判定边界，就能把样本分成两类，即正样本和负样本；

          

 

 

     

 

 

 

sigmoid函数中（神经网络中用的多），e-z 中 z 的正负决定了 g(z) 的值最后是大于 0.5 还是小于 0.5；即 z 大于 0 时，g(z) 大于 0.5，z 小于 0 时，g(z)小于 0.5
当 z 对应的表达式为分类边界时，恰好有分类边界两侧对应 z 正负不同，也就使得分类边界两边分别对应 g(z)>0.5 和 g(z)<0.5，因此根据 g(z) 与 0.5 的大小关系，就可以实现分类

逻辑斯谛回归损失函数

平方损失函数的问题

           

 

             

 

   

 

    

 

      h(oX)为预测值，y是真实值；

 

             

 

 梯度下降法求解

机器学习or监督学习的目的就是这个梯度下降函数（损失函数 和正则画像）

 

转载于:https://www.cnblogs.com/shengyang17/p/11442355.html