关于感受野的计算

积跬步以至千里。

于 2021-03-31 16:59:16 发布

阅读量491

点赞数 2

分类专栏：机器学习卷积网络技术学习与分享文章标签：卷积神经网络网络深度学习计算机视觉

本文链接：https://blog.csdn.net/SpiritedAway1106/article/details/115354797

版权

卷积神经网络感受野计算公式特征图卷积层

关键词由CSDN通过智能技术生成

技术学习与分享同时被 3 个专栏收录

19 篇文章 5 订阅

订阅专栏

机器学习

13 篇文章 5 订阅

订阅专栏

卷积网络

6 篇文章 1 订阅

订阅专栏

感受野是卷积网络一个十分重要的概念，我们在详解卷积神经网络CNN 一文中简单介绍了下其概念以及用了一个例子来直观说明感受野的计算。这里我们将尝试推导一下其计算公式，为此我们需要先明确几点：

感受野是指卷积神经网络各输出特征图中的每个像素点在原始输入图片上映射区域的大小
卷积计算方式为，从输入图像的左上角开始，将卷积核覆盖在输入图中，对应位置的数据相乘后在进行相加，如下图所示

一定要记住这个动图，可以帮助我们更好的理解感受野的推导，接下来我们会用纯脑补方式进行推导。
特征图大小计算公式为

$\begin{aligned}O_w &= floor\bigg(\frac{W-F_w}{S_w} \bigg)+1 \\ O_h &= floor\bigg(\frac{H-F_h}{S_h} \bigg)+1 \end{aligned}$

设 $n$ 表示卷积层数， $k_n$ 表示第 $n$ 层卷积使用的卷积核大小， $s_n$ 表示第 $n$ 层卷积使用的卷积步长， $r_n$ 表示第 $n$ 层卷积得到的特征图的感受野， $F_n$ 表示第 $n$ 层卷积得到的特征图。

(为了简化描述，事实上卷积核大小以及特征图大小均应描述为 $W * H$ 的格式，这里均假设 $W = H$ ，且只用 $W$ 来描述其大小)

很明显有 $r_0=1、r_1=k_1$

在计算 $r_2$ 时，我们从 $F 2$ 开始倒推， $F 2$ 对于 $F 1$ 的感受野为 $k_2$ ，即 $F_2$ 的一个像素点对应 $F_1$ 的区域大小为 $k_2$ ，要获取 $F_1$ 的 $k_2$ 区域大小，需要在第 $1$ 层卷积时，移动 $k_2-1$ 次卷积核 $k_1$ ，此时对应原图的区域大小为 $k_2-1)s_1+k_1$ ，因此有 $r_2 = (k_2-1)s_1+k_1 = (k_2-1)s_1+r_1$ 。根据倒推过程，我们可以进行正向卷积推导，即输入原图大小为 $k_2-1)s_1+k_1$ ，经过两层卷积，得到大小为 $1$ 的特征图，表示如下

$(k_2-1)s_1+k_1 \overset{k_1,s_1}{\longrightarrow} k_2 \overset{k_2,s_2}{\longrightarrow} 1$

也就是说，经过两层卷积之后，得到特征图的一个像素点对应原图的区域大小为 $k_2-1)s_1+k_1$ . 因此

$r_2 = (k_2-1)s_1+k_1 = (k_2-1)s_1+r_1$

计算 $r_3$ 时，仍采用倒推的方式， $F_3$ 对 $F_2$ 的感受野为 $k_3$ ，即 $F_3$ 的一个像素点对应 $F_2$ 的 $k_3$ 区域大小， $F_2$ 的 $k_3$ 区域大小则对应 $F_1$ 的 $k_3-1)s_2+k_2$ 区域， $F_1$ 的 $k_3-1)s_2+k_2$ 区域则对应原图 $k_3-1)s_2+k_2-1)s_1+k_1$ 的区域，因此有

$\begin{aligned}r_3 &= ((k_3-1)s_2+k_2-1)s_1+k_1 \\&= (k_3-1)s_2s_1+(k_2-1)s_1+k_1 \\&= (k_3-1)s_2s_1+(k_2-1)s_1+r_1 \\&= (k_3-1)s_2s_1+r_2\end{aligned}$

倒推完成之后，我们仍进行正向卷积推导，即输入原图大小为 $k_3-1)s_2+k_2-1)s_1+k_1$ ，经过三层卷积，得到大小为 $1$ 的特征图，表示如下

$((k_3-1)s_2+k_2-1)s_1+k_1 \overset{k_1,s_1}{\longrightarrow} (k_3-1)s_2+k_2 \overset{k_2,s_2}{\longrightarrow} k_3 \overset{k_3,s_3}{\longrightarrow} 1$

也就是说，经过三层卷积之后，得到特征图的一个像素点对应原图的区域大小为 $k_3-1)s_2+k_2-1)s_1+k_1$ . 因此有

$\begin{aligned}r_3 &= ((k_3-1)s_2+k_2-1)s_1+k_1 = (k_3-1)s_2s_1+r_2\end{aligned}$

同样的方式可推理出 $r_4=(k_4-1)s_3s_2s_1+r_3$

最终，可归纳出

$r_n=(k_n-1)\prod\limits_{i=1}^{n-1}s_i+r_{n-1}$

如果你有兴趣，也可以对该过程进行正向卷积推导，即输入原图大小为 $（k_n-1）\prod\limits_ {i = 1} ^ {n-1} s_i + r_ {n-1}$ ，经过 $n$ 层卷积之后得到大小为 $1$ 的特征图，表示如下

$\begin{aligned}&(k_n-1)\prod\limits_{i=1}^{n-1}s_i+(k_{n-1}-1)\prod\limits_{i=1}^{n-2}s_i+(k_{n-2}-1)\prod\limits_{i=1}^{n-3}s_i + \cdots + (k_4-1)\prod\limits_{i=1}^{3}s_i+ (k_3-1)\prod\limits_{i=1}^{2}s_i+ (k_2-1)\prod\limits_{i=1}^{1}s_i+ k_1 \\ &\overset{k_1,s_1}{\longrightarrow} \\ &(k_n-1)\prod\limits_{i=2}^{n-1}s_i+(k_{n-1}-1)\prod\limits_{i=2}^{n-2}s_i+(k_{n-2}-1)\prod\limits_{i=2}^{n-3}s_i + \cdots + (k_4-1)\prod\limits_{i=2}^{3}s_i+ (k_3-1)\prod\limits_{i=2}^{2}s_i+ k_2 \\ &\overset{k_2,s_2}{\longrightarrow} \\ &(k_n-1)\prod\limits_{i=3}^{n-1}s_i+(k_{n-1}-1)\prod\limits_{i=3}^{n-2}s_i+(k_{n-2}-1)\prod\limits_{i=3}^{n-3}s_i + \cdots + (k_4-1)\prod\limits_{i=3}^{3}s_i+k_3 \\ &\overset{k_3,s_3}{\longrightarrow} \\ &(k_n-1)\prod\limits_{i=4}^{n-1}s_i+(k_{n-1}-1)\prod\limits_{i=4}^{n-2}s_i+(k_{n-2}-1)\prod\limits_{i=4}^{n-3}s_i + \cdots +k_4 \\ &\vdots \\ &\overset{k_{n-2},s_{n-2}}{\longrightarrow} \\ &(k_n-1)\prod\limits_{i=n-1}^{n-1}s_i +k_{n-1} \\ &\overset{k_{n-1},s_{n-1}}{\longrightarrow} \\ &k_n \\ &\overset{k_{n},s_{n}} {\longrightarrow} \\ &1\end{aligned}$