优化算法
kakarotte99
这个作者很懒,什么都没留下…
展开
-
代价函数与梯度下降算法
梯度下降算法直观解释原创 2019-09-20 11:57:36 · 377 阅读 · 0 评论 -
误差的反向传播
基本概念 神经网络的代价函数是关于权重和偏置的多元函数且为复合函数,为求代价函数的最小值,可以使用求多元函数极小值的方法进行求解,因为最小值比如存在于极小值中。本文暂不讨论如何避免陷入局部最小值的方法,只讨论求极小值的方法。毫无疑问,代价函数在各个参数的偏导数为0的位置才是极小值位置。因此,反向传播的最终含义是求:∂C∂wjkl\frac{\partial C}{\partial w_{jk}^l...原创 2019-09-22 16:07:28 · 902 阅读 · 0 评论