BMN: Boundary-Matching Network for Temporal Action Proposal Generation阅读笔记

论文链接：http://arxiv.org/abs/1907.09702
论文代码：
https://github.com/PaddlePaddle/…（PaddlePaddle）
https://github.com/JJBOY/…（Pytorch）
原作者知乎解析：https://zhuanlan.zhihu.com/p/75

BSN方法回顾

相比“自上而下”的方法，BSN生成的提名具有更加精确的时间边界和更加灵活的持续时间。
优点：
框架：提出了一种全新的且非常有效的时序提名生成框架，能够产生满足(1)时长灵活(2)边界准确(3)评分可靠的时序动作提名；
灵活性：BSN方法的模块非常简单且灵活，能够灵活地应用于不同的垂类场景。
但也存在一些问题：
1.BSN中提名特征构建和置信度评估过程无法并行地对Proposals处理，导致效率低下：BSN中，每个window会生成各自的动作发生概率集合，以及不同位置和持续时间的proposals。window需要依赖各自的概率构建不同的插值函数对proposals进行特征采样。

2.BSN中构造的Proposal特征过于简单，无法很好地捕捉时间上下文：BSN从TEM预测的动作发生概率中采样BSP特征，相比于直接使用原始特征，其丢失了很多信息。同时，其也缺乏相邻Proposals之间的特征交互。

3.BSN是多阶段而非统一的框架：BSN分为三个阶段，PEM的训练依赖于前面TEM和PGM模块的输出，导致整体框架的繁琐，缺乏统一性。

BMN改进：针对以上问题，BSN的原作者Tianwei Lin等人在ICCV2019上提出了边界匹配网络（Boundary-Matching Network，BMN），对BSN进行了改进。主要贡献包括下列三个方面：

​ 1.引入了边界匹配机制来评估密集分布的提名的置信度，该机制可以很容易地嵌入到网络中。

​ 2.提出边界匹配网络(BMN)，在BMN的两个分支中同时生成时间边界概率序列和BM置信图，并将其作为一个统一的框架进行联合训练。

​ 3.大量的实验表明，BMN可以获得比其他SOTA方法更好的提名生成性能。具有显著的效率、很强的通用性和更好的时间动作检测性能。

BMN运行逻辑：

因为BMN是一个End-to-End网络，相比于BSN的三阶段模型，其更加简洁，只包括一个训练和一个推断过程.

特征抽取

同BSN一样，BMN采用相同的双流网络来提取空间和时间特征，并将其进行拼接，输出 $\left(l_w,400\right)$ 大小的特征，如下图所示。其中400表示拼接后的特征维度。而$l_w$表示：每个视频以相同的时间间 隔 $\sigma$ 进行采样，送入双流网络，因为每个视频的帧数不同，能得到不同时间长度 $l_w=l_v/\sigma$ 的特 征。

BMN

BMN由三个模块组成：

1.Base Module：通过两个1D卷积来增大时间感受野，并作为主干为后续的TEM和PEM模块提供共享特征。

2.Temporal Evaluation Module(TEM)：利用Base Module的输出，生成每个时间位置动作开始和结束的概率。

3.Proposal Evaluation Module (PEM)：利用Base Module的输出，经过BM Layer生成BM Feature Map。BM Feature Map再经过一系列卷积层处理后得到BM Confidence Map，作为Proposals的置信度分数。

Base Module

与BSN不同，为了方便后续端到端的训练，BMN先引入了一个基本模块，其为TEM和PEM模块提供共享的特征，并采用时间卷积来增大感受野。

输入: Feature Extraction中得到的大小为 $\left(l_w,400\right)$ 的特征 $F_w$ ，对应一个Window中的 $l_w$ 个 时间位置。
结构: Base Module由两个kernel_size $=3$ ， groups $=4$ 的 $1\mathrm{D}$ 卷积组成，融合邻域内时间位置的信息:

### Base Module ###
# feat_dim: 400
# hidden_dim_1d: 256
# input: (B, 400, l_w)

self.x_1d_b = nn.Sequential(
   nn.Conv1d(self.feat_dim, self.hidden_dim_1d, kernel_size=3, padding=1, groups=4),
   nn.ReLU(inplace=True),
   nn.Conv1d(self.hidden_dim_1d, self.hidden_dim_1d, kernel_size=3, padding=1, groups=4),
   nn.ReLU(inplace=True) 
)

### forward ###:
base_feature = self.x_1d_b(x)

输出: 经过两个1D卷积，通道数变为 256 ，时间长度维持 $l_w$ 。因此输出base_feature维度为 $\left(B,256,l_w\right)$ 。这样window信息可以被表示为 ω = { t w , s , t w , e , Ψ w , F w } \omega=\left\{t_{w, s}, t_{w, e}, \Psi_{w}, F_{w}\right\} ω={tw,s​,tw,e​,Ψw​,Fw​} 。 $t_{w,s}$ 和 $t_{w,e}$ 分别 表示该window在整个视频中的开始和结束时间， ${\Psi }_w$ 表示该window中包含的真实动作实例标 注，而 $F_w$ 即Base Module中得到的特征。
总结：通过共享主干的方法，BMN中不再需要先生成概率，再构造每个proposal的BSP特征，而 是直接从Base Module的输入构造proposal特征。这为BMN的端到端训练创造了可能。

Temporal Evaluation Module

提起TEM，BSN中也有一个同名的模块。两篇文章中TEM模块的作用和结构类似但也略有区别。从输入输出的角度来看，这里的Base Module和TEM模块合起来的作用近似于BSN中的TEM模块。而且在BSN中，TEM模块需要生成三个值，包括动作发生，开始和结束的概率。而BMN中，TEM模块只需要生成后两个值。如下图中左边的红色实线（Starting概率曲线）和蓝色虚线（Ending概率曲线）。同时，两个TEM模块都需要监督信号进行监督。但是，BSN中的TEM模块作为分阶段训练中的第一阶段，完成该模块的训练后才能进行后续步骤，而BMN为端到端的模型。

输入: Base Module作为共享主干，其输出的 $\left(B,256,l_w\right)$ 被同时输入到两个模块，左边即为这 里的TEM模块。
结构：对于开始和结束分支，都包含一个核为 3 的1D卷积（进行时间信息融合）和一个核为1的1D 卷积（改变通道数匹配输出）。最后利用sigmoid函数生成相应范围为 $[0,1]$ 的概率。

### Temporal Evaluation Module ###
# hidden_dim_1d: 256
# input: (B, 256, l_w)

self.x_1d_s = nn.Sequential(
   nn.Conv1d(self.hidden_dim_1d, self.hidden_dim_1d, kernel_size=3, padding=1, groups=4),
   nn.ReLU(inplace=True),
   nn.Conv1d(self.hidden_dim_1d, 1, kernel_size=1),
   nn.Sigmoid()
   )
self.x_1d_e = nn.Sequential(
   nn.Conv1d(self.hidden_dim_1d, self.hidden_dim_1d, kernel_size=3, padding=1, groups=4),
   nn.ReLU(inplace=True),
   nn.Conv1d(self.hidden_dim_1d, 1, kernel_size=1),
   nn.Sigmoid()
   )

### forward ###
start = self.x_1d_s(base_feature).squeeze(1)
end = self.x_1d_e(base_feature).squeeze(1)

输出: 对于每一个观测window，得到 $l_w$ 个时间位置的开始概率 $P_{S,w}={\left\{p_{t_n}^s\right\}}_{n=1}^{l_w}$ 和结束概率 $P_{E,w}={\left\{p_{t_n}^e\right\}}_{n=1}^{l_w}$ 。大小皆为 $\left(B,l_w\right)$ 。
标签: BMN采用与BSN相同的TEM标签生成方式，利用区域的重叠程度来对预测出的概率进行监督。具体来说，对于window内每一个真实动作实例 ${\phi }_g=\left(t_s,t_e\right)$ ，定义其开始和结束区域分别为 $r_S=\left[t_s-d_g/10,t_s+d_g/10\right]，r_E=\left[t_e-d_g/10,t_e+d_g/10\right]$ 。其中 $d_g=t_e-t_s$ ，表示动作实例的持续时间。对于window内每一个时间位置 $t_n$ ，定义属于它的局部区域为 $r_{t_n}=\left[t_n-d_f/2,t_n+d_f/2\right]$ ，其中 $d_f=t_n-t_{n-1}$ ，表示两个时间位置间隔。 然后，将 $r_{t_n}$ 与每一个实例的 $r_S$ 和 $r_E$ 分别计算重叠程度IoR。 $\mathrm{O}$ 。R表示重叠区域与 $r_{t_n}$ 的比 值。取其中的最大值作为 $g_{t_n}^s$ 和 $g_{t_n}^e$ ，得到标签集合 $G_{S,w}={\left\{g_{t_n}^s\right\}}_{n=1}^{l_w}，G_{E,w}={\left\{g_{t_n}^e\right\}}_{n=1}^{l_w}$

# temporal_scale: 100
# temporal_gap: 0.01
# boundary_ratio: 0.5

# generate R_s and R_e
gt_bbox = np.array(gt_bbox)
gt_xmins = gt_bbox[:, 0]
gt_xmaxs = gt_bbox[:, 1]
gt_lens = gt_xmaxs - gt_xmins
gt_len_small = np.maximum(self.temporal_gap, self.boundary_ratio * gt_lens)
gt_start_bboxs = np.stack((gt_xmins - gt_len_small / 2, \
                           gt_xmins + gt_len_small / 2), axis=1)
gt_end_bboxs = np.stack((gt_xmaxs - gt_len_small / 2, \
                         gt_xmaxs + gt_len_small / 2), axis=1)

# calculate the ioa for all timestamp
anchor_xmin = [self.temporal_gap * (i - 0.5) for i in range(self.temporal_scale)]
anchor_xmax = [self.temporal_gap * (i + 0.5) for i in range(self.temporal_scale)]
match_score_start = []
for jdx in range(len(anchor_xmin)):
    match_score_start.append(np.max(ioa_with_anchors(anchor_xmin[jdx], anchor_xmax[jdx], 
                                    gt_start_bboxs[:, 0], gt_start_bboxs[:, 1])))
match_score_end = []
for jdx in range(len(anchor_xmin)):
    match_score_end.append(np.max(ioa_with_anchors(anchor_xmin[jdx], anchor_xmax[jdx], 
                                            gt_end_bboxs[:, 0], gt_end_bboxs[:, 1])))
match_score_start = torch.Tensor(match_score_start)
match_score_end = torch.Tensor(match_score_end)

损失：为了保证得到的概率的可靠性，需要损失函数对TEM进行监督。这一步也与BSN中基本一 致。具体而言，损失函数可以分为两部分：
$$L_{TEM}=L_{bl}\left(P_S,G_S\right)+L_{bl}\left(P_E,G_E\right)$$
$L_{bl}\left(P_S,G_S\right)$ 对应动作开始概率预测的损失， $L_{bl}\left(P_E,G_E\right)$ 对应动作结束概率预测的损失。 $L_{bl}$ 的计算方法如下:
$$L_{bl}=\frac{1}{l_w}\sum _{i=1}^{l_w}\left({\alpha }^{+}{b}_i\log \left(p_i\right)+{\alpha }^{-}\left(1-b_i\right)\log \left(1-p_i\right)\right)$$
其中， $b_i=\mathrm{sign}\left(g_i-{\theta }_{IoP}\right)$ ，其通过 $g_i$ 与阈值 ${\theta }_{IoP}$ 的比较，将 $[0,1]$ 连续分布的标签 $g_i$ 转 换为 { 0 , 1 } \{0,1\} {0,1} 的二值标签 $b_i$ ，阈值大小设置为 $0.5$ 。 ${\alpha }^{+}=\frac{l_w}{l+},{\alpha }^{-}=\frac{l_w}{l-}$ 起到平衡正负样本的作 用。 $l_{+}$和 $l_{-}$分别代表正负样本的数目，即 $b_i$ 为 1 和为 0 的数目。
注意：BMN与BSN不同，是端到端的，这里只是得到了第一个loss，要联合后面PEM的loss进行联合训练。

Proposal Evaluation Module

在BSN中，我们需要经过TEM和PGM模块得到Proposals和相应的BSP特征，然后再将其送入PEM 模块，为每个Proposal生成一个置信度分数。但是，这样的做没办法端到端的训练，也无法实现 快速的推断。而PEM模块很好地解决了这两个问题。具体来看看它是怎么做到的。
PEM模块可以分为两个步骤:
1.利用Boundary-Matching Layer生成BM feature map: $M_F\in R^{C\times N\times D\times T}$ 。
2.将BM feature map经过几个卷积层，进一步得到BM confidence map: $M_C\in R^{D\times T}$ 。

BM feature map

首先介绍一下什么是BM置信度图。此处，我们将一个时序提名定义为一个开始边界和一个结束边界所构成的边界匹配对。然后我们按照时序提名开始边界的位置以及时序提名的长度将所有可能存在的时序提名结合成一个二维的边界匹配图。如下图所示，在这个图上的每一列上的时序提名具有相同的开始时间，而每一行上的时序提名具有相同的时序长度。此外，由于右下角这个三角形区域中的时序提名的结束时间超出了视频的范围，因此在训练和测试时不被纳入考虑。
输入：同TEM模块，使用Base Module的输出特征 $\left(B,256,l_w\right)$ 作为输入。
结构: 在Boundary-Matching Layer之前，先会经过一个核为3的1D卷积:

# hidden_dim_1d: 256
# input: base_feature (B, 256, l_w)
# output: (B, 256, l_w)
self.x_1d_p = nn.Sequential(
            nn.Conv1d(self.hidden_dim_1d, self.hidden_dim_1d, kernel_size=3, padding=1),
            nn.ReLU(inplace=True)
### forward ###
confidence_map = self.x_1d_p(base_feature)

下面对Boundary-Matching Layer进行介绍。
为了更好地实现并行化，我们定义一个大小为 $D\times T$ 的矩阵，如上图所示。其中T为时间位置的数目，即这里的 $l_w$ 。而 $\mathbf{D}$ 表示预先设置好的Propsoal的最大持续时间。对于ActivityNet1.3，矩 阵大小为 $100\times 100$ ；对于 THUMOS14，矩阵大小为 $64\times 128$ 。这样一来，矩阵中的每一个位置 $(i,j)$ 代表了一个proposal ${\phi }_{i,j}$ ，每个proposal对应的时间范围为[starting，
starting+duration]，整体上涵盖了所有可能的proposal情况。如 $(48，42)$ 代表了起始位置为 42，结束位置为 90 的proposal。图中的灰色区域，对应无法取到的值，该区域中的proposal的结 束位置会超过采样的时间长度 $T$ 。
有了这样一个 $D\times T$ 的矩阵，接着就需要为矩阵中的每一个位置（每一个proposal ${\phi }_{i,j}$ ）构造 一个大小为 $C\times N$ 的特征，最终就可以得到 $M_F\in R^{C\times N\times D\times T}$ 的BM特征图。下面具体来看 是如何构造特征的。

我们可以对每个proposal所处区域[starting, starting +duration]内的输入特征进行采样。其中， C等于输入的通道维度256，而 $\mathrm{N}$ 代表在一个proposal中采样的点的个数，原文中取 $N=32$ 。为 了更快地进行采样，对于每一个proposal ${\phi }_{i,j}$ ，我们预先定义好一个单独的采样权重矩阵，记为 $w_{i,j}$ ，如上图中的sampling mask weight所示，其大小为 $T\times N$ 。 使用大小为 $C\times T$ （即 $256\times l_w)$ 的输入特征 $S_F$ 与其进行矩阵乘法，即可以产生该proposal采样后的 $C\times N$ 的 boundary-matching feature。这样一来，特征采样过程可以很简单快速地用一个矩阵乘法来实 现:
$$S_F\times W=M_F$$
其中， $S_F\in R^{C\times T}；W\in R^{T\times N\times D\times T}$ ，对应 $D\times T$ 个proposals各自的采样权重 $w_{i,j}\in R^{T\times N}$ ，当数据集的设置确定后，这个矩阵就可以确定下来; 而 $M_F\in R^{C\times N\times D\times T}$ ， 对应 $D\times T$ 个proposals各自采样后的特征 $m_{i,j}^f\in R^{C\times N}$ 。
注意：实际使用时，对不同的window而言，所有可能的proposal的位置是固定的，所以采样 mask权重矩阵 $W$ 对不同window是相同的，即对Batch维度是相同的。因此，实现是非常高效 的。

参考网站：
1.https://zhuanlan.zhihu.com/p/451759608
2.https://zhuanlan.zhihu.com/p/75444151
3 .https://blog.csdn.net/cxx654