Adline网络的LMS算法与梯度下降

 

     LMS算法，即为最小均方差，求的是误差的平方和最小。

     利用梯度下降，所谓的梯度下降，本质上就是利用导数的性质来求极值点的位置，导数在这个的附近，一边是大于零，一边又是小于零的，如此而已。。。

      而这个里，导数的正负性，是依靠误差的正负来决定的，懒得多说，大致如图：

 

    

      

转载于:https://www.cnblogs.com/beigongfengchen/p/5485389.html