深度学习---之权值共享与全卷积替代全连接层的训练加速

一.权值共享

• 什么是权值共享，看了博客上的很多东西感激写的很复杂，其实很简单，举个例子：如果你用全连接层，每一个神经元对一个50×50图像上的每个像素点都需要权重去计算，而如果采用卷积的话，如果你的卷积核是3×3的，相当于这就是3×3的参数去作为滑动窗口，滑动一张图片，换句话说就是这张50×50图片就用这9个参数。相当于对于这张图片里的像素共享这9个参数，而不是像全连接层那样，每个像素都有一个不同的参数。

二.全卷积的网络为什么比有全连接层的网络快

• 因为卷积减少了参数啊，比如你一个网络最后3层都用全连接层，这时最后三层都改为卷积层，参数量少了，当然快了。