【计算机视觉面经三】卷积神经网络的平移不变性理解

一、什么是平移不变性

不变性就是目标发生了变换，但是你依然可以识别出来。在图像任务中，我们希望图像中的目标即使被平移、被旋转或者被缩放，模型都可以识别出来图像的目标。

所以不变性有下面几种：

1. 平移不变性：Translation Invariance
2. 旋转不变性：Rotation Invariance
3. 尺度不变性：scale Invariance
4. 光照不变性：Illumination Invariance

在图像分类任务中，平移不变性就是图像中的目标不管被移动到哪个位置，模型给出的标签应该都是相同的。

平移不变性对应的有一个概念是平移同变性（translation equivariance），这个是用在图像的目标检测中的，如果输入图像中的目标进行了平移，那么最终检测出来的候选框应该也相应的移动，这就是同时改变。

二、为什么会有平移不变性

主要是由两个原因，一个是卷积，一个是最大池化。

2.1 卷积

比方说目标是在图像的左上角，经过卷积之后，目标的特征也会在特征图的左上角；目标在图像的左下角，经过相同的卷积核卷积之后，目标的特征也会在特征图的左下角。然后卷积层后面接上一个全连接层进行分类，就算目标位置改变了，但是经过相同的卷积核卷积，然后展开变成全连接层。所以对于全连接层来说，改变的之后特征的位置。可能之前目标的特征是作为全连接的第一个神经元的输入，平移目标位置之后，该特征就作为全连接的最后一个神经元的输入。

不过这种说法想体现的就是，就算目标位置变了，经过相同卷积核提取的特征该有的都有，只是位置变了。

简单地说，卷积+最大池化约等于平移不变性。

卷积简单地说，图像经过平移，相应的特征图上的表达也是平移的。

在神经网络中，卷积被定义为不同位置的特征检测器，也就意味着，无论目标出现在图像中的哪个位置，它都会检测到同样的这些特征，输出同样的响应。

比如人脸被移动到了图像左下角，卷积核直到移动到左下角的位置才会检测到它的特征。

2.2 池化

比如最大池化，它返回感受野中的最大值，如果最大值被移动了，但是仍然在这个感受野中，那么池化层也仍然会输出相同的最大值。这就有点平移不变的意思了。

所以这两种操作共同提供了一些平移不变性，即使图像被平移，卷积保证仍然能检测到它的特征，池化则尽可能地保持一致的表达。

为什么池化可以提供平移不变性？我觉得这个相比上面的解释，是有一定的道理的。最大池化层返回感受野中的最大值，如果最大值被移动了，但是仍然在这个感受野中，那么池化层也仍然会输出相同的最大值。这就有点平移不变的意思了。