- 博客(2)
- 收藏
- 关注
转载 softmax,softmax loss和cross entropy的讲解
转载自: https://blog.csdn.net/u014380165/article/details/77284921这一篇主要介绍全连接层和损失层的内容,算是网络里面比较基础的一块内容。先理清下从全连接层到损失层之间的计算。来看下面这张图,来自参考资料1(自己实在懒得画图了)。这张图的等号左边部分就是全连接层做的事,W是全连接层的参数,我们也称为权值,X是全连接层的输入,也就是特征。从图上...
2018-06-03 11:05:04 625
转载 softmax loss对输入的求导推导
转载自: https://blog.csdn.net/u014380165/article/details/79632950我们知道卷积神经网络(CNN)在图像领域的应用已经非常广泛了,一般一个CNN网络主要包含卷积层,池化层(pooling),全连接层,损失层等。虽然现在已经开源了很多深度学习框架(比如MxNet,Caffe等),训练一个模型变得非常简单,但是你对损失函数求梯度是怎么求的真的了解...
2018-06-03 11:03:06 1284
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人