【Mimic】《Mimicking Very Efficient Network for Object Detection》

最新推荐文章于 2021-08-11 16:22:18 发布
最新推荐文章于 2021-08-11 16:22:18 发布
阅读量1.1k 收藏 3
点赞数
分类专栏： CNN / Transformer
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/bryant_meng/article/details/83422938
版权

CVPR论文解读：非常高效的物体检测Mimic方法

二次学习（周志华教授）、knowledge distilling（Geoffrey Hinton）

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

实验比较多，但是抓住重点

  • 比用imagenet 预训练的效果好
  • 和baseline（big network）性能相仿，但是模型大大压缩
  • 注意 1/2 其实参数量减少了 1/4，因为卷积是在两层之间
  • 学backbone最后一层 feature map 结果比较好
  • 可以偷师，就是 big network 和 small network 的 backbone 不同
  • 最多减少了 1/8

在这里插入图片描述

bryant_meng
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
[2017CVPR]Mimicking very efficient network for object detection 论文笔记
weixin_45750753的博客
03-11 316
目录出发点Method总结 出发点 作者的出发点是，现有的检测backbone都是分类那边过来的，但是这些网络分类效果好，检测不一定就是最好的。假如我想要设计并找到一个更有效的网络，我们都需要预先在ImageNet上训练这些模型然后再检测任务上进行微调，这往往需要训练特别久，并且作者还发现小网络在ImageNet训练的结果并不好，在这上面再在检测任务上微调效果也不好。所以，作者提出了别的方式来获得预训练权重：用一个检测效果很好的网络来指导其他小检测网络训练，并确保两者检测性能差不多。 即：在原有GT训练的基
《Quantization Mimic: Towards Very Tiny CNN for Object Detection》的阅读总结
fish_like_apple的博客
09-10 1629
前言： {     此文为论文《Quantization Mimic: Towards Very Tiny CNN for Object Detection》的阅读总结。     此论文的主题是速度和结构的优化，而不是提高准确率；综合了两种方式：Quantization（量化）和Mimic（模仿）。     论文地址：https://arxiv.org/pdf/1805.02152.pdf...
Mimicking Very Efficient Network for Object Detection
05-17
新的深度学习文献本篇文章是Mimicking方法在检测任务上的尝试。mimicking作为一种模型压缩的方法，采用大网络指导小网络的方式将大网络习得的信息用小网络表征出来，在损失较小精度的基础上大幅提升速度。 Mimicking方法通常会学习概率输出的前一层，被称为"Deep-ID"，这一层的张量被认为是数据在经过深度网络后得到的一个高维空间嵌入，在这个空间中，不同类的样例可分性要远超原有表示，从而达到表示学习的效果。本文作者提出的mimicking框架则是选择检测模型中基础网络输出的feature map进行学习Mimic作为一种模型小型化的方法，Hinton在 Distilling the Knowledge in a Neural Network一文中已经详细定义并介绍过，但近些年来大部分有关于mimic的论文主要都是局限在较为简单的classification 的任务中，而对于较为复杂一些的detection任务，直接套用以前的方案则显得不行。本文提出了一种学习feature map来实现Object Detection任务上mimic的方法。
【论文笔记】非常高效的物体检测mimic方法 Mimicking Very Efficient Network for Object Detection
Tiffany的博客
09-07 1636
转载：http://www.sohu.com/a/160564635_651893 AI科技评论按：CVPR 2017正在夏威夷火热进行中，精彩论文层出不穷。下文是Momenta 高级研发工程师蒋云飞对此次 CVPR 收录的 Mimicking Very Efficient Network for Object Detection 论文进行的解读。 背景 Mimic作为一
Mimicking Very Efficient Network for Object Detection 论文翻译
shaohehe的博客
08-16 355
CVPR论文解读：非常高效的物体检测Mimic方法
weixin_33910460的博客
08-01 428
雷锋网 AI科技评论按：虽然CVPR 2017已经落下帷幕，但对精彩论文的解读还在继续。下文是Momenta高级研发工程师蒋云飞对此次大会收录的 Mimicking Very Efficient Network for Object Detection 一文进行的解读。 背景 Mimic作为一种模型小型化的方法，Hinton在Distilling th...
MIMIC-IV文档介绍及使用笔记.docx
12-17
MIMIC-IV（Medical Information Mart for Intensive Care IV）是一个公开可用的重症监护单元（ICU）数据库，用于医学研究。它包含了丰富的临床数据，如患者人口统计信息、入院记录、实验室测试、药物使用、诊断和...
mimic-code:MIMIC代码存储库
05-11
MIMIC代码存储库 这是研究社区共享的代码库。 该存储库旨在成为共享，完善和重用用于分析代码的中央枢纽。 要了解有关MIMIC的更多信息，请访问： : 。 该网站的源代码位于。 您可以在以下开放获取文章中阅读有关...
mimic-tools:MIMIC数据资源
04-28
MIMIC数据资源 该存储库将资源重组以用于语料库处理 1.要求 您已克隆存储库 cd ~ git clone git@github.com:jtourille/mimic-w2v-tools.git 您已经成功下载了mimic-iii并填充了一个postgres数据库。 有关详细说明，...
mimic重症监护数据库建库语句
08-27
MIMIC（Medical Information Mart for Intensive Care）数据库是医疗信息领域的重要资源，尤其在重症监护医学研究中扮演着至关重要的角色。该数据库提供了大量匿名化的重症监护病房（ICU）患者数据，包括生理指标、...
目标检测论文解读四（检测蒸馏论文三篇）
蓝鲸鱼的博客
08-11 696
在论文中，作者使用蒸馏来训练基于CNN的检测器，不需要ImageNet预训练。 具体来说： 从整个feature map中采样的特征进行模拟，并使用变换层将小网络中的特征映射到大网络的同维上。 在训练小网络时，优化了两个网络的特征图上来自同一区域的特征之间的相似性。 ...
CVPR2017 2D目标检测相关论文
burning_keyboard的博客
10-08 2719
CVPR2017 2D目标检测相关论文 梗概总结
YOLO_Online 将深度学习最火的目标检测做成在线服务实战经验分享
算法攻城狮
10-27 3697
部分 YOLO 结果： YOLO_Online 将深度学习最火的目标检测做成在线服务 第一次接触 YOLO 这个目标检测项目的时候，我就在想，怎么样能够封装一下让普通人也能够体验深度学习最火的目标检测项目，不需要关注技术细节，不需要装很多软件。只需要网页就能体验呢。 在踩了很多坑之后，终于实现了。 效果： 1.上传文件 2.选择了一张很多狗的图片 3.YOLO...
（五）目标检测新趋势拾遗
女王の专属领地
04-11 1114
转载自知乎：https://zhuanlan.zhihu.com/p/34142321 关于作者： @李家丞同济大学数学系本科在读，现为格灵深瞳算法部实习生。 -------------------------------------------------------------------------------------------- 近年来，深度学习模型逐渐取代传统机器视觉方法而成...
cvpr2017 object detection
mengmengmiao的博客
09-07 1857
（1）Feature Pyramid Networks for Object Detection 利用简单设计的多层网络融合策略有效解决多尺度目标定位困难的问题 （2）A-Fast-RCNN: Hard positive generation via adversary for object detection 将对抗学习和Fast R-CNN结合，来增加遮挡和姿态变化的物体的数量。 （3
【Tiny CNN】《Quantization Mimic: Towards Very Tiny CNN for Object Detection》
bryant_meng
11-13 1110
ECCV-2018 文章目录1 Background and Motivation2 Innovation3 Advantages / Contributions4 Methods4.1 Quantization4.2 Mimic4.3 Quantization + Mimic5 Datasets6 Experiments6.1 WIDER FACE6.2 PASCAL VOC7 Conclu...
Object Detection(目标检测神文)
热门推荐
Mars_WH的专栏
08-21 6万+
目标检测神文，非常全而且持续在更新。转发自：https://handong1587.github.io/deep_learning/2015/10/09/object-detection.html，如有侵权联系删除。 Papers ———————————————————————————————————- Deep Neural Networks for Object Detection Ov...
Object Detection清单
lien0906的专栏
03-20 3835
HOMECATEGORIESARCHIVESLINKSSEARCHABOUT MEObject Detection Published: 09 Oct 2015  Category: deep_learningJump to...PapersR-CNNFast R-CNNFaster R-CNNLight-Head R-CNNCascade R-CNNMultiBoxSPP-NetMR-CNNYO...
视频物体检测文献阅读笔记
Wayne2019的博客
01-06 3012
Impression Network for Video Object Detection 基于印象机制的高效多帧特征融合，解决defocus and motion blur等问题（即视频中某帧的质量低的问题），同时提高速度和性能。 类似TSN，每个segment选一个key frame（注意，TSN做视频分类是在cnn最后才融合不同的segments）。特征融合前需要用Optical
mimic concept
最新发布
07-27
MIMIC concept是指在MIMIC数据库中用于表示医学概念的表格和代码。根据引用\[2\]的描述，MIMIC数据库中包含了45个在mimiciii schema中创建的表格，以及52个在public schema中创建的表格，这些表格都是根据MIMIC提供的数据创建的。这些表格包含了各种医学概念的信息，可以用于进行医学研究和分析。根据引用\[3\]的描述，MIMICIV的更新中也包含了对PostgreSQL的concepts代码的更新。因此，如果你需要使用MIMIC concept，你可以根据MIMIC数据库的安装指南，修改相应的文件并运行相应的SQL脚本来创建和使用这些表格和代码。 #### 引用[.reference_title] - *1* [MIMIC IV数据库衍生表格配置](https://blog.csdn.net/weixin_44830949/article/details/126972024)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [MIMIC-III：MIMIC_Extract代码实例数据预处理](https://blog.csdn.net/weixin_44157403/article/details/123694680)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [MIMICIV2.0版本Concepts自动生成](https://blog.csdn.net/NickyCat/article/details/125868001)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值