【论文复现】Temporal Pyramid Network for Action Recognition

本文介绍了香港中文大学和商汤科技在CVPR 2020发表的TPN网络,用于解决视频分类问题。TPN借鉴了slowFast网络的思想,构建时间金字塔以捕获不同时间尺度的特征,同时在空间尺度上进行对齐和增强监督信息。论文提出了时间尺度和空间尺度两部分的解决方案,通过实验展示了其在视频理解上的优势。作者分享了论文阅读和代码复现的过程,感谢相关团队的支持和激励。
摘要由CSDN通过智能技术生成

论文地址: https://arxiv.org/abs/2004.03548

导读:这篇文章是香港中文大学和商汤发表在CVPR 2020 的文章
作者提出TPN网络,用于视频分类问题的解决,思想和slowfast的思想相似

在这里插入图片描述

在相同速率下很难识别出来走、慢走和跑的动作,不同的视频帧速率对检测结果影响很大,现有的视频模型设计忽略了视觉速度这一至关重要的点
在此之前facebook的kaiming提出slowFast代码地址)网络结构的想法很相似,快慢结合的网络,上面一个分支是slow网络,输入低帧率,用于捕获空间语义信息;下面一路是fast网络,用于捕获运动信息,具体如下图:
在这里插入图片描述
上面两个图,下面六个图,呈现出来了金字塔形状,不同尺度的下采样送入网络,问题在于需要重复提取不同时间尺度上的特征,计算花费很大

所以提出来了解决方法:

第一部分

时间尺度

  1. 在不同分辨率的特征图中,以不同的帧速率提取不同组合的特征图,并形成新的特征图

  2. 以单个分辨率特征图为例,将特征图 F(C ×T ×W ×H) 根据 {r1, …, rM; r1 < r2 < … < rM} 划分组合得到新的特征图
    F { C × X r 1 × W × H , ⋯   , C × T r M × W × H } F\left\{ C × \frac{X}{r^1} × W × H, \cdots ,C × \frac{T}{rM} × W × H \right\} F{ C×r1

  • 0
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值