《ECO: Efficient Convolutional Network for Online Video Understanding》
前言
这是一篇2018年提交在ECCV的论文,在文章的 Introduction部分,作者描述了自己对构建行为识别模型的一些看法:1、作者认为一个动作良好的初始分类是可以从单帧中获取的。所以单帧的领域信息对于网络都是冗余的。2、要想连接远距离帧的上下文关系,不能只是简单的预测分数相加(类似TSN)。所以作者想到了可以结合TSN和3DCNN的各自优势,构建一个既可以减少冗余信息计算量又可以实现长距离帧与帧之间连接的模型。
这个模型有三个特点:1、与TSN类似从整个视频抽取固定数量帧来代表整个视频的信息。2、用3DCNN来学习帧与帧之间的联系。3、网络直接给出视频级的分数,不需要融合分数。
模型
模型的输入是从视频的N等份子片段中随机采样的一个帧(即输入为N个帧)。每个帧都由一个二维卷积网络(权值共享)处理,它产生一个特征表示编码帧的外观。然后将所有帧的表示叠加起来,并将它们输入到一个3D卷积网络中。这个网络生成最终的action类标签。