对于学习率与梯度下降的通俗总结:
针对原始的样本(1,2)
针对线性回归的函数 y=kx
对应的损失函数是 y=2kx^2,
那我们的方向就是希望最小化这个损失函数,得到最终的k值,然后再代入到
原始的线性函数中,那具体应该如何在最小化损失函数的时候得到对应的k值呢?
方法一:对于损失函数求导,然后令导数等于0,得到对应的k值,有时候并不能直接解出来,并且这种方式可能是局部最优;
方法二:采用梯度下降与学习率的方法去求得最后的k值...
原创
2019-06-11 20:26:10 ·
5447 阅读 ·
0 评论