（八）计算机视觉 -- 6 区域卷积神经网络（R-CNN）系列

6. 区域卷积神经网络（R-CNN）系列

区域卷积神经网络（region-based CNN / regions with CNN features，R-CNN）是将深度模型应用于目标检测的开创性工作之一。

本节将介绍R-CNN和它的一系列改进方法（模型设计思路）：
快速的R-CNN（Fast R-CNN）、更快的R-CNN（Faster R-CNN）以及掩码R-CNN（Mask R-CNN）。

6.1 R-CNN

R-CNN首先对图像选取若干提议区域（如锚框也是一种选取方法）并标注它们的类别和边界框（如偏移量）。

然后，用卷积神经网络对每个提议区域做前向计算抽取特征。

之后，用每个提议区域的特征预测类别和边界框。

R-CNN的模型结构，如下图所示：

具体来说，R-CNN主要由以下4步构成：

(1) 对输入图像使用选择性搜索（selective search）来选取多个高质量的提议区域。
这些提议区域通常是在多个尺度下选取的，并具有不同的形状和大小。
每个提议区域将被标注类别和真实边界框。

(2) 选取一个预训练的卷积神经网络，并将其在输出层之前截断。将每个提议区域变形为网络需要的输入尺寸，并通过前向计算输出抽取的提议区域特征。

(3) 将每个提议区域的特征连同其标注的类别作为一个样本，训练多个支持向量机对目标分类。其中，每个支持向量机用来判断样本是否属于某一个类别。

(4) 将每个提议区域的特征连同其标注的边界框作为一个样本，训练线性回归模型来预测真实边界框。

局限性：

R-CNN虽然通过预训练的卷积神经网络有效抽取了图像特征，但其主要缺点是速度慢。

比如说，可能从一张图像中选出上千个提议区域，对该图像做目标检测将导致上千次的卷积神经网络的前向计算。这个巨大的计算量令R-CNN难以在实际应用中被广泛采用。

6.2 Fast R-CNN

R-CNN的主要性能瓶颈在于，需要对每个提议区域独立抽取特征。

由于这些区域通常有大量重叠，独立的特征抽取会导致大量的重复计算。

Fast R-CNN对R-CNN的一个主要改进在于，只对整个图像做卷积神经网络的前向计算。

Fast R-CNN的模型结构，如下图所示：

其主要计算步骤包括：

(1) 与R-CNN相比，Fast R-CNN用于提取特征的卷积神经网络的输入是整个图像，而不是各个提议区域。而且，这个网络通常会参与训练，即更新模型参数。
设输入为一张图像，将卷积神经网络的输出的形状记为 $1\times c\times h_1\times w_1$ 。

(2) 假设选择性搜索生成 n 个提议区域。这些形状各异的提议区域在卷积神经网络的输出上分别标出形状各异的兴趣区域。
这些兴趣区域需要抽取出形状相同的特征（假设高和宽均分别指定为 $h_2$ 和 $w_2$ ）以便于连结后输出。
Fast R-CNN引入兴趣区域池化（region of interest pooling，RoI池化）层，将卷积神经网络的输出和提议区域作为输入，输出连结后的各个提议区域抽取的特征，形状为 $n\times c\times h_2\times w_2$ 。

(3) 通过全连接层将输出形状变换为 $n\times d$ ，其中超参数 $d$ 取决于模型设计。

(4) 预测类别时，将全连接层的输出的形状再变换为 $n\times q$ 并使用softmax回归（ $q$ 为类别个数）。
预测边界框时，将全连接层的输出的形状变换为 $n\times 4$ 。
也就是说，为每个提议区域预测类别和边界框。

Fast R-CNN中提出的兴趣区域池化层与 池化层 一节的介绍有所不同：
在池化层中，通过设置池化窗口、填充和步幅来控制输出形状；
而兴趣区域池化层对每个区域的输出形状是可以直接指定的。

例如，指定每个区域输出的高和宽分别为 $h_2$ 和 $w_2$ 。
假设某一兴趣区域窗口的高和宽分别为 $h$ 和 $w$ ，该窗口将被划分为形状为 $h_2\times w_2$ 的子窗口网格，且每个子窗口的大小大约为 $(h/h2)\times (w/w2)$ 。
任一子窗口的高和宽要取整，其中的最大元素作为该子窗口的输出。
因此，兴趣区域池化层可从形状各异的兴趣区域中均抽取出形状相同的特征。

如下图所示，在 4×4 的输入上选取了左上角的 3×3 区域作为兴趣区域。
对于该兴趣区域，通过 2×2 兴趣区域池化层得到一个 2×2 的输出。
4个划分后的子窗口分别含有元素0、1、4、5（5最大），2、6（6最大），8、9（9最大），10。

6.3 Faster R-CNN

Fast R-CNN通常需要在选择性搜索中生成较多的提议区域，以获得较精确的目标检测结果。

Faster R-CNN提出将选择性搜索替换成区域提议网络（region proposal network, RPN），从而减少提议区域的生成数量，并保证目标检测的精度。

Faster R-CNN的模型结构，如下图所示：

与Fast R-CNN相比，只有生成提议区域的方法从选择性搜索变成了区域提议网络，而其他部分均保持不变。

具体来说，区域提议网络的计算步骤如下：

(1) 使用填充为1的 3×3 卷积层变换卷积神经网络的输出，并将输出通道数记为 c 。这样，卷积神经网络为图像抽取的特征图中的每个单元均得到一个长度为 c 的新特征。

(2) 以特征图每个单元为中心，生成多个不同大小和宽高比的锚框并标注它们。

(3) 用锚框中心单元长度为 c 的特征分别预测该锚框的二元类别（含目标还是背景）和边界框。

(4) 使用非极大值抑制，从预测类别为目标的预测边界框中移除相似的结果。最终输出的预测边界框即兴趣区域池化层所需要的提议区域。

值得一提的是，区域提议网络作为Faster R-CNN的一部分，是和整个模型一起训练得到的。

也就是说，Faster R-CNN的目标函数既包括目标检测中的类别和边界框预测，又包括区域提议网络中锚框的二元类别和边界框预测。

最终，区域提议网络能够学习到如何生成高质量的提议区域，从而在减少提议区域数量的情况下也能保证目标检测的精度。

6.4 Mask R-CNN

如果训练数据还标注了每个目标在图像上的像素级位置，那么Mask R-CNN能有效利用这些详尽的标注信息进一步提升目标检测的精度。

Mask R-CNN的模型结构，如下图所示：

Mask R-CNN在Faster R-CNN的基础上做了修改。

Mask R-CNN将兴趣区域池化层替换成了兴趣区域对齐层，即通过双线性插值（bilinear interpolation）来保留特征图上的空间信息，从而更适于像素级预测。

兴趣区域对齐层的输出包含了所有兴趣区域的形状相同的特征图。
它们既用来预测兴趣区域的类别和边界框，又通过额外的全卷积网络预测目标的像素级位置。

参考

《动手学深度学习》