weixin_44681025的博客

本文仅供个人学习记录复习所用，无其他用途。 看到一篇好文，分享记录下。 反向传播——通俗易懂_chengchaowei的博客-CSDN博客_反向传播最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版，然后又找了些资料看，才发现，中文版的译者在翻译的时候会对省略的公式推导过程进行补充，但是补充的又是错的，难怪觉得有问题。反向传播法其实是神经网络的基础了，但是很多人在学的时候总是会遇到一些问题，或者看到大篇的公式觉得好像很难就退缩了，其

对梯度的方向问题理解的不够透彻，在网上找到了一些讲解，存档一下便于自己记录回顾。 知乎： 为什么梯度反方向是函数值局部下降最快的方向？ - 知乎刚接触梯度下降这个概念的时候，是在学习机器学习算法的时候，很多训练算法用的就是梯度下降，然后资料和老师们也说朝着梯度的反方向变动，函数值下降最快，但是究其原因的时候，很多人都表达不清楚。所以我整理出…https://zhuanlan.zhihu.com/p/24913912 ...