论文笔记：Non-Local Neural Network

论文笔记：Non-Local Neural Network

Abstract

卷积和循环操作都一次只在一个局部neighborhood上操作。

受到传统计算机视觉中非局部中值计算的启发，作者决定使用此方法在深度学习上。

公式

通用公式：
$${\mathbf{y}}_i=\frac{1}{\mathcal{C}(\mathbf{x})}\sum _{\forall j}f\left({\mathbf{x}}_i,{\mathbf{x}}_j\right)g\left({\mathbf{x}}_j\right)$$
$\mathbf{y}$ is output. $x$ 是输入信号。$i$是输出的值第i位置的值，j代表所有可能位置。

$\mathbf{y}$ 与$\mathbf{x}$ 具有相同大小的维度。

$C(x)$是正则化常量

$f$代表两处变量的关系

非局部模块十分的灵活，可以放在网络的前面，可以很容易与循环层，卷积层放到一起。

实例

为了简便考虑，g就作为一个简单的线性变换$g\left({\mathbf{x}}_j\right)=W_g{\mathbf{x}}_j$， 其中$W_g$是作为需要学习的参数。

接下来我们考虑函数$f$:

Gaussian

$$f({\mathbf{x}}_i,$$