1x1卷积
[Lin et al.,2013.Network in network]
1x1卷积实现的功能是遍历并应用ReLu非线性函数,从根本上理解是各单元都应用了一个全连接神经网络
实例
压缩nC的方法,压缩信道数量并 减少/增加 计算量
Inception network
[Szegedy et al.2014.Going deeper with convolutions]
作用
- 代替人工来确定卷积层中的过滤器类型
- 确定是否需要创建卷积层或池化层
计算成本
上图中5x5的filter,计算成本约120亿
接下来使用1x1卷积,构建瓶颈层,大量缩减计算
计算成本为原来的1/10
Inception module
这就是一个Inception module,解释一下最大池化,因为最大池化后信道数量仍然很大,所以用1x1卷积缩减信道
[Szegedy et al.,2014,Going Deeper with Convolutions]
分支
- 通过隐藏层做出预测,其实是一个softmax输出
- 防止网络发生过拟合
- 有趣的梗来源——inception(盗梦空间)