CNN 权值共享

 权值共享

在下图中，如果不使用权值共享，则特征图由10个32*32*1的特征图组成，每个特征图上有1024个神经元，每个神经元对应输入图像上的一块5*5*3的区域，所以一个神经元和输入图像的这块区域有75个连接，即75个权值参数，则共有75*1024*10=768000个权值参数，这对于参数的调整和传递非常不利，因此卷积神经网络引入权值共享原则，一个特征图上每个神经元对应的75个权值参数被每个神经元共享，这里的共享其实就是指的每个神经元中75个权值参数采用对应相同的权值，权值共享时，只是在每一个filter上的每一个channel中是共享的，这样便只需75*10=750个权值参数，而每个特征图的阈值也共享，即需要10个阈值，则总共需要750+10=760个参数。

神经元的偏置部分也是同一种滤波器共享的