- 博客(3)
- 资源 (6)
- 收藏
- 关注
原创 Squeeze-and-Excitation Networks SE-net
ImageNet 2017夺冠架构:SENet paper传送门参考链接:传送门1 传送门2核心思想我认为是:不再使用传统的对输入通道经卷积后的结果通道们,进行简单的叠加,而是去寻找各通道间的相关性,给予各通道不同的权值,然后再进行加权求和。这个通道间的权值,通过学习得到。上图: S:首先是压缩,squeeze()把一个通道的map(尺寸为 mxn )压缩成一个数...
2018-06-01 20:27:05 1020
转载 BP反向传播算法推导
传送门传送门输出层梯度求解过程如上图所示,为一个输出层神经元,在计算输出层梯度的时候,我们不用去考虑前一层是如何输入的。所以我们用y来表示,图中的y(n)表示第n个样本在前一层的输出值,这一层的输入值。我们将当前节点定义为j。那么当前节点j的输入值之和为 这里的m是节点j前一层的输入节点的个数,其中包括一个偏置项b。这里的公式都很像,看公式注意下标。然后节点j的输出要经过激活函数,如图所示我们定...
2018-06-01 14:18:11 1572
caffe-master-2
2018-08-05
caffe-master
2018-08-05
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人