CNN卷积层神经元数量、连接数量、权重数量的计算

1. 神经元的数量:

和输入层类似,输出维度是多少,神经元就有多少

feature map大小 * feature map数量


2. 连接数量:
全连接:
输入层神经元数量*输出层神经元数量

CNN局部连接: 
故由于局部连接机制,卷积层的连接数为:
局部连接的输入层神经元数*卷积层神经元数


以alexnet为例:

在第一个卷积层,神经元使用的感受野尺寸F=11,步长S=4,不使用零填充P=0。因为(227-11)/4+1=55,卷积层的深度K=96,则卷积层的输出数据体尺寸为[55x55x96]。55x55x96个神经元中,每个都和输入数据体中一个尺寸为[11x11x3]的区域全连接

即11*11*3 * 55*55*96


3. 参数数量:
每个深度切片(或每个feature map)上的神经元都使用同样的权重和偏差:
不考虑偏值项参数时:
卷积覆盖的输入层神经元数 * 输出feature map数量
延续上例:11*11*3 * 96


参考:CS231N

英文:http://cs231n.github.io/convolutional-networks/

中文:https://zhuanlan.zhihu.com/p/22038289



展开阅读全文

没有更多推荐了,返回首页