1. 神经元的数量:
和输入层类似,输出维度是多少,神经元就有多少
feature map大小 * feature map数量
2. 连接数量:
全连接:
输入层神经元数量*输出层神经元数量
CNN局部连接:
故由于局部连接机制,卷积层的连接数为:
局部连接的输入层神经元数*卷积层神经元数
以alexnet为例:
在第一个卷积层,神经元使用的感受野尺寸F=11,步长S=4,不使用零填充P=0。因为(227-11)/4+1=55,卷积层的深度K=96,则卷积层的输出数据体尺寸为[55x55x96]。55x55x96个神经元中,每个都和输入数据体中一个尺寸为[11x11x3]的区域全连接
即11*11*3 * 55*55*96
3. 参数数量:
每个深度切片(或每个feature map)上的神经元都使用同样的权重和偏差:
不考虑偏值项参数时:
卷积覆盖的输入层神经元数 * 输出feature map数量
延续上例:11*11*3 * 96
参考:CS231N
英文:http://cs231n.github.io/convolutional-networks/
中文:https://zhuanlan.zhihu.com/p/22038289