卷积神经网络
参数的计算
参考链接
如果一个图像的尺寸是(28,28,1),即代表这个图像的是一个长宽均为28,channel为1的图像(channel也叫depth,此处1代表灰色图像)。如果使用全连接的网络结构,即,网络中的神经与与相邻层上的每个神经元均连接,那就意味着我们的网络有28 * 28 =784个神经元,hidden层采用了15个神经元,那么简单计算一下,我们需要的参数个数(w和b)就有:7841510+15+10=117625个,这个参数太多了,随便进行一次反向传播计算量都是巨大的,从计算资源和调参的角度都不建议用传统的神经网络。(图片是由像素点组成的,用矩阵表示的,2828的矩阵,肯定是没法直接放到神经元里的,我们得把它“拍平”,变成一个2828=784 的一列向量,这一列向量和隐含层的15个神经元连接,就有78415=11760个权重w,隐含层和最后的输出层的10个神经元连接,就有1176010=117600个权重w,再加上隐含层的偏置项15个和输出层的偏置项10个,就是:117625个参数了)