- 没用轮子,前向反向传播:
个人记录,http://localhost:8889/notebooks/code/right-2fenlei.ipynb(relu-softmax) - 用了tf的轮子:
个人记录,http://localhost:8889/notebooks/code/10fenlei-Copy1.ipynb(10-fenlei)
参考资源:https://www.cnblogs.com/rongyux/p/7742152.html
https://www.jianshu.com/p/c5d74cb62020
http://www.elecfans.com/d/722634.html
这里要注意:激活函数选取不当可能导致梯度消失,更换激活函数即可。
反向传播,是根据链式法则,反向计算函数L对某参数w的导数。回推求导。
1.代码
# coding: