(十)论文阅读 | 目标检测之Cascade R-CNN


简介

在这里插入图片描述

图1:论文原文

论文是发表在 C V P R   2018 {\rm CVPR\ 2018} CVPR 2018上的一篇关于目标检测的论文, C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN是一个多阶段监测器,通过设置不同的 I o U {\rm IoU} IoU值级联几个检测网络达到不断优化检测结果的目的。论文原文 源码


0. Abstract

在目标检测中,通常使用 I o U {\rm IoU} IoU确定正负样本。随着 I o U {\rm IoU} IoU阈值的增大,模型性能往往会下降:(1)阈值增大意味着更少的正样本,容易导致模型过拟合;(2)模型训练与推理使用不同 I o U {\rm IoU} IoU值会出现不匹配现象(在训练阶段可以通过 I o U {\rm IoU} IoU阈值区别正负样本,得到的正样本质量更高;而推理阶段由于没有标注框,将所有得到的结果当做正样本,所以得到的正样本质量不如前者。下面实验有证明这个问题)。作者提出 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN用于解决上述问题,它由一组使用逐渐增加的 I o U {\rm IoU} IoU阈值所训练的检测器组成,避免产生密集的假阳性结果。基于当前模型输出可以作为下一个模型的有效输入, C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN通过一个阶段接着一个阶段的方式训练。这种再采样的方法有效地减弱了模型的过拟合(当前模型的输出是经过修正后的结果,得到更多高质量的候选框,这样提高 I o U {\rm IoU} IoU值也能获得足够数量的正样本)。在推理阶段也使用这种级联的结构,使得假设和模型更加匹配。实验结果为在 C O C O {\rm COCO} COCO数据集上达到了 S O T A {\rm SOTA} SOTA

论文贡献:(一)提出一种多阶段级联的目标检测算法;(二)级联思想可以应用到其他检测算法中;(三)给出了一种在目标检测中 I o U {\rm IoU} IoU选取的策略。


1. Introduction

在基于 R {\rm R} R- C N N {\rm CNN} CNN的两阶段检测算法中, I o U {\rm IoU} IoU阈值通常设置为 0.5 0.5 0.5,但得到的正样本质量不高。如下图:在这里插入图片描述

图2:实验结果

如图 ( a ) {\rm (a)} (a) ( b ) {\rm (b)} (b)是选取不同 I o U {\rm IoU} IoU阈值得到的结果, u = 0.7 u=0.7 u=0.7的结果要好于 u = 0.5 u=0.5 u=0.5。图 ( c ) {\rm (c)} (c)横轴表示对 R P N {\rm RPN} RPN所使用的阈值,纵轴表示经回归后得到的边界框同标注框的 I o U {\rm IoU} IoU值,而不同颜色的线表示使用不同阈值训练模型。实验结果表明,当 R P N {\rm RPN} RPN所用阈值与模型训练所使用的阈值较接近时,得到的结果更好。如蓝色的线 u = 0.5 u=0.5 u=0.5在横坐标为 0.5 0.5 0.5附近时得到的结果最好。这就证明了摘要部分提到的不匹配问题。图 ( d ) {\rm (d)} (d)是采用不同 I o U {\rm IoU} IoU值训练模型所得到的 A P {\rm AP} AP值,验证了简单地增加 I o U {\rm IoU} IoU值不能提高模型的性能。

由此,作者提出了 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN,它是一种序列化模型,当前模型的输出作为下一个模型的输入。由上图 ( c ) {\rm (c)} (c)可知,由不同 I o U {\rm IoU} IoU训练得到的模型结果大都位于灰线以上,这表明可使用特定 I o U {\rm IoU} IoU值训练模型的输出可以作为更高 I o U {\rm IoU} IoU值训练模型的输入。(单一阈值训练的模型性能有限,如果采用 0.5 0.5 0.5训练的模型,得到的 I o U {\rm IoU} IoU 0.5 0.5 0.5附近;而如增大 I o U {\rm IoU} IoU阈值会得到如图 ( d ) {\rm (d)} (d)的结果。而现在采用一组逐渐增大的 I o U {\rm IoU} IoU 0.5 0.5 0.5 0.6 0.6 0.6 0.7 0.7 0.7训练模型。如使用 0.5 0.5 0.5得到的 I o U {\rm IoU} IoU 0.55 0.55 0.55,经过 0.6 0.6 0.6得到的 I o U {\rm IoU} IoU 0.65 0.65 0.65,经过 0.6 0.6 0.6得到的 I o U {\rm IoU} IoU 0.75 0.75 0.75…)因此,每个阶段的过程是致力于得到有效的样本用于训练下一个阶段。在推理阶段也采取同样的操作。

C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN是一个简单高效的模型,可以集成到任何基于 R {\rm R} R- C N N {\rm CNN} CNN的两阶段检测算法中。


2. Related Work

相关工作部分首先介绍了基于 R {\rm R} R- C N N {\rm CNN} CNN的检测算法,以及 Y O L O {\rm YOLO} YOLO S S D {\rm SSD} SSD R e t i n a N e t {\rm RetinaNet} RetinaNet等一阶段检测算法。最后谈及了基于迭代边界框回归的多阶段检测算法。


3. Object Detection

在这里插入图片描述

图3:不同网络结构

( a ) {\rm (a)} (a) F a s t e r   R {\rm Faster\ R} Faster R- C N N {\rm CNN} CNN结构,其中H0为产生建议框的过程 R P N {\rm RPN} RPNB0为产生的建议框,H1为检测头、后接分类分支和回归分支,CB分别为分类分支和回归分支(下同)。对比图 ( b ) {\rm (b)} (b) ( d ) {\rm (d)} (d),迭代边界框回归采用同 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN类似的级联结构,但是每次使用的 I o U {\rm IoU} IoU阈值相同,即共用检测头H1。而图 ( c ) {\rm (c)} (c)使用了不同的检测头,但是不是级联的结构,只是将不同的检测结果融合。

3.1 Bounding Box Regression

令建议框为 b = ( b x , b y , b w , b h ) {\rm b}=(b_x,b_y,b_w,b_h) b=(bx,by,bw,bh)、标注框为 g {\rm g} g,边界框回归的目的是找到一种映射 f f f使得 f ( b ) = g f({\rm b})={\rm g} f(b)=g。为了控制回归过程中尺度和位置变化,一般采用向量 Δ = ( δ x , δ y , δ w , δ h ) Δ=(δ_x,δ_y,δ_w,δ_h) Δ=(δx,δy,δw,δh)作为预测值: δ x = ( g x − b x ) / b w ,   δ y = ( g y − b y ) / b h δ_x=(g_x-b_x)/b_w,\ δ_y=(g_y-b_y)/b_h δx=(gxbx)/bw, δy=(gyby)/bh

δ w = l o g ( g w / b w ) ,   δ h = l o g ( g h / b h ) (3.1) δ_w={\rm log}(g_w/b_w),\ δ_h={\rm log}(g_h/b_h)\tag{3.1} δw=log(gw/bw), δh=log(gh/bh)(3.1)

由于在回归过程中,每次只对 b b b作微小的调整, Δ Δ Δ往往非常小。所以回归损失函数通常小于分类损失。为了提高回归效率,通常会对上式变形,如使用 δ x ′ = ( δ x − μ x ) / σ x δ_x^{'}=(δ_x-μ_x)/σ_x δx=(δxμx)/σx代替 δ x δ_x δx。此外,前人已有工作证明了单次回归不足以训练高性能的模型。转而使用迭代式的回归方法,如图 3 3 3中的 ( b ) {\rm (b)} (b) f ′ ( x , b ) = f ○ f ○ … ○ f ( x , b ) (3.2) f^{'}(x,{\rm b})=f○f○…○f(x,{\rm b})\tag{3.2} f(x,b)=fff(x,b)(3.2)

但是,这种结构也存在以下问题:(1)单个阈值如 u = 0.5 u=0.5 u=0.5并不能得到最佳模型,如图 3 3 3中的 ( c ) {\rm (c)} (c);(2)在每次迭代后,边界框的偏移变化剧烈。如下图:

在这里插入图片描述

图4:随迭代得到的 Δ Δ Δ

图中横纵坐标是上述提到的 Δ Δ Δ值,其中图中红色点属于离群点,大量噪声不利于网络的训练。由上图可知,经过每次的迭代,虽然得到的值更加集中(边界框更接近于标注框),但也产生了大量的离群点。这会给下次模型的带来大量的噪声,不利于模型的训练。

3.2 Detection Quality

分类器 h ( x ) h(x) h(x)给图像 x x x分配类别,给定一个训练样本 ( x i , y i ) (x_i,y_i) (xi,yi),目的是最小化一个分类交叉熵损失函数 L c l s ( h ( x i , y i ) ) L_{cls}(h(x_i,y_i)) Lcls(h(xi,yi))。通常使用 I o U {\rm IoU} IoU 值为建议框预分配类别标签。则根据阈值 u u u和类别 g y g_y gy,有:
y = { g y , I o U ( x , g ) ≥ u 0 , o t h e r w i s e (3.3) y=\left\{ \begin{aligned} &g_y,&IoU(x,g)≥u\\ &0,&otherwise\\ \end{aligned} \right.\tag{3.3} y={gy,0,IoU(x,g)uotherwise(3.3)

这里阈值 u u u的设置成为关键,如果 u u u太大,不能得到足够多的正样本;如果 u u u太小,在正样本中包含很多负样本。一种解决的方法如图 3 3 3 中的 ( c ) {\rm (c)} (c) ,则分类损失函数定义为: L c l s ( h ( x ) , y ) = ∑ u ∈ U L c l s ( h u ( x ) , y u ) (3.4) L_{cls}(h(x),y)=\sum_{u∈U}L_{cls}(h_u(x),y_u)\tag{3.4} Lcls(h(x),y)=uULcls(hu(x),yu)(3.4)

如下图:
在这里插入图片描述

图5:IoU直方图

如上图中的纵轴为正样本数。如第一幅图所示,正样本数随着 I o U {\rm IoU} IoU值增大而急剧减小,这将导致模型的过拟合。此外,分类器既要处理高质量的正样本,也要处理低质量的正样本,这将导致其不能很好地优化。由此证明上式 ( 3.4 ) (3.4) (3.4)不能很好地应对 I o U {\rm IoU} IoU值的变化。后两幅图是 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN处理的结果。


4. Cascade R-CNN

4.1 Cascaded Bounding Box Regression

C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN中,模型以级联的方式构建,如图 3 3 3中的 ( d ) {\rm (d)} (d) f ( x , b ) = f T ○ f T − 1 … ○ f 1 ( x , b ) (4.1) f(x,{\rm b})=f_T○f_{T-1}…○f_1(x,{\rm b})\tag{4.1} f(x,b)=fTfT1f1(x,b)(4.1)

作者指出,与迭代式的边界框回归不同的是(如图 3 3 3中的 ( b ) {\rm (b)} (b)), C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN是一个再采样的过程,每个阶段输入的分布都不相同;在训练和推理阶段使用相同的分布;在每个阶段使用再采样样本对回归模型 { f T , f T − 1 , … f 1 } \{f_T,f_{T-1},…f_1\} {fT,fT1,f1}优化。

4.2 Cascaded Detection

如图 3 3 3中的 ( d ) {\rm (d)} (d) C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN的每个阶段通过阈值 u t u^t ut优化分类器 h t h_t ht和回归器 f t f_t ft,且 u t > u t − 1 u^t>u^{t-1} ut>ut1。通过最小化以下损失函数优化分类器和回归器: L ( x t , g ) = L c l s ( h t ( x t ) , y t ) + λ [ y t ≥ 1 ] + L l o c ( f t ( x t , b t ) , g ) (4.2) L(x^t,g)=L_{cls}(h_t(x^t),y^t)+λ[y^t≥1]+L_{loc}(f_t(x^t,{\rm b}^t),{\rm g})\tag{4.2} L(xt,g)=Lcls(ht(xt),yt)+λ[yt1]+Lloc(ft(xt,bt),g)(4.2)

这里 b t = f t − 1 ( x t − 1 , b t − 1 ) {\rm b}^t=f_{t-1}(x^{t-1},{\rm b}^{t-1}) bt=ft1(xt1,bt1) g g g是对于 x t x^t xt的标注框, λ = 1 λ=1 λ=1,[·]为指示函数, y t y^t yt是在给定阈值 u t u^t ut x t x^t xt的类别标签。由上式可知,当前阶段的位置预测损失函数同前一阶段相关,通过结构的级联得到损失函数的级联。


5. Experimental Results

如图 3 3 3中的 ( d ) {\rm (d)} (d) C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN的结构,共采用 3 3 3个阶段,阈值分别设置为 0.5 0.5 0.5 0.6 0.6 0.6 0.7 0.7 0.7在这里插入图片描述

图6:AP比较

上图 ( a ) {\rm (a)} (a)中实线为单个检测器的结果,阈值分别设置为 0.5 0.5 0.5 0.6 0.6 0.6 0.7 0.7 0.7。虚线是 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN加入级联后得到的 A P {\rm AP} AP值。 ( b ) {\rm (b)} (b)中为加入标注框后的实验结果。横纵为设置的 I o U {\rm IoU} IoU值,纵轴为 A P {\rm AP} AP值,各实线为相应 I o U {\rm IoU} IoU值训练的检测器。三者均有提升,但阈值为 0.7 0.7 0.7的模型提升最明显。由上组实验得到的结论为: u = 0.5 u=0.5 u=0.5并非最佳的阈值;通过高阈值的训练才能得到高精度的检测器。在这里插入图片描述

图7:Cascade R-CNN各阶段的结果

如图为 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN I t e r a t i v e   B B o x {\rm Iterative\ BBox} Iterative BBox I n t e g r a l   L o s s {\rm Integral\ Loss} Integral Loss的对比:
在这里插入图片描述

图8:Cascade R-CNN同Iterative BBox和Integral Loss的对比

此外,论文还有针对 I o U {\rm IoU} IoU值选取、阶段数、回归策略等做了消融实验。详细步骤及结果请查看原文在这里插入图片描述

图9:实验结果对比

下图是将级联结构应用到各种两阶段检测算法中的实验结果:
在这里插入图片描述

图10:实验结果对比

由上图可以得到,在两阶段算法中加入级联结构后,在不显著增大计算量和参数的情况下提高了模型的精度。


6.Conclusion

论文提出的 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN是一种多阶段的目标检测方法。平衡了提高 I o U {\rm IoU} IoU阈值对提高检测性能的利弊。一方面,提高 I o U {\rm IoU} IoU阈值可以得到高质量的正样本,从而提高检测器的性能;另一方面,提高 I o U {\rm IoU} IoU阈值显著减少了正样本的数量,增加了模型过拟合的风险。 C a s c a d e   R {\rm Cascade\ R} Cascade R- C N N {\rm CNN} CNN的级联思想可以应用于其他检测算法中,进一步提高模型性能。


参考

  1. Cai Z, Vasconcelos N. Cascade R-CNN: Delving Into High Quality Object Detection[C]. computer vision and pattern recognition, 2018: 6154-6162.
  2. https://blog.csdn.net/qq_21949357/article/details/80046867.
  3. https://zhuanlan.zhihu.com/p/42553957.


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值