(初学者)(梯度下降)(雅可比矩阵)(多维数组求导)(链式求导)
学习资料:
初学比较懵逼,最好跟着教程动手在纸上画(算)一遍
,就比较清晰了,如果我把每一细节与想法都写在纸上,一般都能解决问题.
三个由易到难的资料:
(都比较容易搜索到)
1.吴恩达机器学习
(b站)-梯度下降的某一节视频-给出一个直观但有点不清楚的过程.
2.<<一文弄懂神经网络中的反向传播法>>
-用实际的计算给出一个具体的反向求导过程.
3.台大公开课-李宏毅的深度学习
-某一节视频-(b站)-用雅可比矩阵清晰写出链式求导的过程.
其它:
http://cs231n.stanford.edu/vecDerivs.pdf cs231资料
https://zhuanlan.zhihu.com/p/29502026