Detecting Flying Objects using a Single Moving Camera
PAMI 2017
http://cvlab.epfl.ch/research/unmanned/detection
https://drive.switch.ch/index.php/s/3b3bdbd6f8fb61e05d8b0560667ea992
Flying Objects Detection from a Single Moving Camera
CVPR2015
Unmanned Aerial Vehicles (UAVs) 无人机
aircrafts 飞机
本文要解决的问题是用一个运动的相机来检测飞行物体,飞行物体在图像画面中占的面积可能很小。这个问题的难度还是比较大的,一方面相机的运动导致背景的变化,另一个方面,飞行物体的速度可能比较快,面积小导致检测的难度加大。
这里我们使用 3D descriptors 从 spatio-temporal image cubes 提取特征,对这些特征进行分类,判断其是否是感兴趣目标或威胁物体
we detect whether an object of interest is present and constitutes danger by classifying 3D descriptors computed from spatio-temporal image cubes,
我们将 spatio-temporal image cubes 称之为 st-cubes,看看下面的示意图吧:
下图每一行对应一个 st-cube
这些 st-cube 是怎么来的了? 我们首先对连续帧进行 motion-stabilized,然后 应用一个 多尺度滑动窗口方法提取 st-cube,每个尺寸独立提取
multi-scale sliding window approach to extract st-cubes。
这里我们使用 motion-stabilization 而不是 基于 optical flow 的原因是:
1) it remains effective even when the shape of the object to be detected is blurry or barely visible
2) learning-based motion compensation focuses on the object and is more resistant to complicated backgrounds, compared to the optical flow method
3 Detection Framework
我们的检测流程主要包括以下几个步骤:
1)将视频序列分为长度为 N帧的子序列,序列序列重叠 50%
2)从每个子序列中提取 st-cubes,使用多尺度滑动窗口方法,每个尺寸独立进行
3)对每个 st-cubes 进行 运动补偿,建立 stabilized st-cubes
4)对每个 st-cubes进行分类,判断其是否含有感兴趣目标
5)因为每个尺度是独立处理的,在同一个位置我们在尺度空间进行非极大值抑制,得到最好的检测结果。
这里我们介绍两个分类器用于判断每个 st-cubes 是否含有感兴趣目标
we want to train a classifier that takes as input st-cubes such and returns 1 or -1, depending on the presence or absence of a flying object
3.1 3D HoG with Gradient Boost
我们的第一个方法依赖于 boosted trees 学习一个分类器形式如下 :
使用 Gradient Boost algorithm 来学习弱分类器参数
3.2 Convolutional Neural Networks
4 Motion compensation
这里需要做运动补偿,因为 不管是 3D HoG 还是 the filter responses in the CNN case 都受 the global object motion 的影响,也就是我们需要这个运动影响
4.1 Boosted tree-based regressors
一个方法是 使用 boosted trees regressors 来做运动补偿
4.2 CNN-based regressors
使用 CNN网络来做运动补偿
Structure of the CNNs used for motion compensation
Examples of motion compensation
物体的尺度会变化
尺度调整对于检测是有帮助的
Influence of the st-cubes sizes