三维卷积与单层卷积神经网络

三维卷积与单层卷积神经网络

三维图像卷积

对于三维图像RGB的特征，有3个通道。彩色图像如果是6×6×3，这里的3指的是三个颜色通道，可以把它想象成三个6×6图像的堆叠。

第一个6代表图像高度，第二个6代表宽度，这个3代表通道的数目。同样你的过滤器也有一个高，宽和通道数，并且图像的通道数必须和过滤器的通道数匹配

相较于3个矩阵的堆叠，我们可以任务过滤器的一个三维的立方体。

叠加过滤器

如果我们不仅仅想要检测垂直边缘怎么办？如果我们同时检测垂直边缘和水平边缘，还有45°倾斜的边缘？

让这个6×6×3的图像和这个3×3×3的过滤器卷积，得到4×4的输出。（第一个）这可能是一个垂直边界检测器或者是学习检测其他的特征。第二个过滤器可以用橘色来表示，它可以是一个水平边缘检测器。

• 通过垂直过滤器，得到二维4x4的检测结果
• 通过水平过滤器，得到二维4x4的检测结果
• 将两种结果叠加得到三维检测结果

维度

三维图像维度：
$$n\times n\times n_c$$
过滤器维度：
$$f\times f\times n_c$$
卷积输出维度：
$$n-f+1\times n-f+1\times n_c^{\prime }$$
这里的padding=valid，stride=1，更一般的卷积输出如下：
$$\frac{n+2p-f+1}{s}\times \frac{n+2p-f+1}{s}\times n_c^{\prime }$$
其中输出的通道数即过滤器的个数

单层神经网络

假设你有10个过滤器，神经网络的一层是3×3×3，那么这一层有多少个参数呢？

• 每一层都是一个3×3×3的矩阵，因此每个过滤器有27个参数加上一个偏差，参数增加到28个。
• 有10个过滤器，加在一起是28×10，也就是280个参数。

不论输入图片有多大，参数数量取决于过滤器大小和数量，这就是卷积神经网络的一个特征，叫作“避免过拟合”。

符号说明

$$f^{[l]}:第l层的过滤器大小$$

$$p^{[l]}:第l层padding的数量$$

$$s^{[l]}:第l层stride的数量$$

$$n_c^{[l]}:第l层过滤器的数量$$

$$f^{[l]}\times f^{[l]}\times n_c^{[l-1]}:第l层的过滤器维度$$

$$f^{[l]}\times f^{[l]}\times n_c^{[l-1]}\times n_c^{[l]}:第l层权重维度$$

$$1\times 1\times 1\times n_c^{[l-1]}:第l层偏置维度$$

$$n_H^{[l-1]}\times n_W^{[l-1]}\times n_c^{[l-1]}:第l层的输入维度$$

$$n_H^{[l]}\times n_W^{[l]}\times n_c^{[l]}:第l层的输出维度$$

$$m\times n_H^{[l]}\times n_W^{[l]}\times n_c^{[l]}:第l层m个样本的输出维度$$

卷积神经网络中的网络类型

• 卷积层CONV
• 池化层POOL
• 全连接层FC