Quantization Mimic: Towards Very Tiny CNN for Object Detection

最新推荐文章于 2021-05-05 15:29:23 发布
最新推荐文章于 2021-05-05 15:29:23 发布
阅读量333 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JachinMa/article/details/104560013
版权

本文提出了一种使用量化后的教师网络进行知识蒸馏来得到性能较好的用于目标检测的学生量化网络。

其框架如下：
在这里插入图片描述
首先训练一个全精度的大型网络，然后在训练阶段对其和学生网络的特征图同时进行量化。用L2损失来定义两个网络的差距。

JachinMa
关注
目标检测 cvpr iccv eccv最新进展，包含代码
xiao__run的博客
05-21 4831
object-detection Contents: R-CNN Fast R-CNN Faster R-CNN Light-Head R-CNN Cascade R-CNN SPP-Net YOLO YOLOv2 YOLOv3 SSD DSSD FSSD ESSD MDSSD Pelee R-FCN FPN RetinaNet MegDet DetNet ZSD Based on han...
tiny_cnn 程序总结1----tiny_cnn简述
Buyi_Shizi的博客
05-18 1501
tiny_cnn实现了LeNet的字符识别功能，实现的方式也是利用卷集神经网络，整个网络共有6层，依次为convolution_layer，average_pooling_layer， convolution_layer，average_pooling_layer，convolution_layer，fully_connected_layer。     首先，第一层：convolution_l
《Quantization Mimic: Towards Very Tiny CNN for Object Detection》的阅读总结
fish_like_apple的博客
09-10 1645
前言： {     此文为论文《Quantization Mimic: Towards Very Tiny CNN for Object Detection》的阅读总结。     此论文的主题是速度和结构的优化，而不是提高准确率；综合了两种方式：Quantization（量化）和Mimic（模仿）。     论文地址：https://arxiv.org/pdf/1805.02152.pdf...
【Tiny CNN】《Quantization Mimic: Towards Very Tiny CNN for Object Detection》
bryant_meng
11-13 1138
ECCV-2018 文章目录1 Background and Motivation2 Innovation3 Advantages / Contributions4 Methods4.1 Quantization4.2 Mimic4.3 Quantization + Mimic5 Datasets6 Experiments6.1 WIDER FACE6.2 PASCAL VOC7 Conclu...
Quantization Mimic: Towards Very Tiny CNN for Object Detection 论文笔记
weixin_30297281的博客
03-06 145
摘要 　　在本文中，我们提出了一个简单而通用的框架，用于训练非常微小的CNN（例如，通道数减少到1/32的VGG）用于目标检测。由于表示能力有限，为检测等复杂任务训练非常小的网络具有挑战性。据我们所知，我们称为Quantization Mimic的方法是第一个专注于非常小的网络的方法。我们使用两种类型的加速方法：模仿和量化。 Mimic通过从教师网络传输知识来提高学生网络的性能。量化将全...
结合量化的知识蒸馏（Quantization Mimic）
AI Flash
08-28 7304
"Quantization Mimic Towards Very Tiny CNN for Object Detection"这篇文章通过将知识蒸馏（Knowledge Distillation）与量化技术（Model Quantization）有效结合，能够诱导训练生成纤细、但性能良好的目标检测网络（主干网络通道数少、层数浅的R-FCN或Faster RCNN）。Quantization Mim...
Tiny_cnn用自己的数据训练和测试
u012507022的博客
07-03 1万+
Tiny_cnn是一个简洁的纯C++11实现的深度学习框架。在Windows系统只需高版本的VS(VS2013或者更高本)+opencv即可，本人用的是VS2013+opencv2.4.11。关于tiny-cnn的具体细节，很多博客写得很详细。本人只介绍一种基于tiny-cnn快速简单的使用方法。
量化模拟：非常小CNN的对象检测
32Quantization Mimic：Towards Very TinyCNN for Object Detection（量化模拟：易伟1†、潘新宇2†、秦宏伟3、欧阳万里4、严俊杰31清华大学，北京，中国2香港中文大学，中国香港3SenseTime，北京，中国4悉尼大学...
目标检测(Object Detection)算法合集（持续更新ing）
阿木寺的博客
07-14 7312
object-detection This is a list of awesome articles about object detection. R-CNN Fast R-CNN Faster R-CNN Light-Head R-CNN Cascade R-CNN SPP-Net YOLO YOLOv2 YOLOv3 YOLT SSD DSSD FSSD ESSD MDSSD Pel...
C++卷积神经网络实例：tiny_cnn代码详解（1）——开篇
热门推荐
陈俊岭的程序员之路（公众号求关注，方便交流）
03-09 2万+
　　在之前完成了《C++开发人脸性别识别教程》系列博客的编写之后，我开始将工作重点转移到与我的研究生课题关联更为密切的深度学习上来。深度学习编程有几个经典的框架，首屈一指的当属Caffe，然后还有Matlab环境下的MatConvNet工具箱。有关这两个深度学习框架的资料网络上有很多，这里不再过多介绍。而我这里选择用github上的另外一个简洁的纯C++深度学习框架——Tiny_cnn。　　首先将...
Tiny_cnn训练数据集
11-10
Tiny_cnn训练数据集
卷积神经网络tiny_cnn代码
12-29
卷积神经网络tiny_cnn代码
linux编译tiny cnn,tiny-cnn开源库的使用(MNIST)
weixin_28881989的博客
05-05 256
tiny-cnn是一个基于CNN的开源库，它的License是BSD 3-Clause。作者也一直在维护更新，对进一步掌握CNN非常有帮助，因此以下介绍下tiny-cnn在windows7 64bit vs2013的编译及使用。2.源文件里已经包括了vs2013project，vc/tiny-cnn.sln，默认是win32的，examples/main.cpp须要OpenCV的支持。...
C++卷积神经网络实例：tiny_cnn代码详解（3）——层间继承关系
陈俊岭的程序员之路（公众号求关注，方便交流）
03-11 1万+
　　在上一篇博文中我们顺利将tiny_cnn的程序调试通过，在这篇博文中我们尝试从整体角度给出对tiny_cnn这个深度学习框架的解读，重点论述一下其各个层直接类封装的继承关系。　　一、卷积神经网络快速入门　　tiny_cnn作为卷积神经网络的一种实现形式，在探讨其框架结构之前，首先需要简要介绍一些卷积神经网络相关的知识。首先，给出经典卷积神经网络的网络结构：　　这个是经典的LeNet-5的网络结...
tiny_cnn源码阅读(4)-convolutional_layer
KangRoger的专栏
06-02 1646
convolutional_layer是用来计算卷积的。 connection_table connecction_table是一个二维数组，(x,y)的值（true/false)表示x和y是否关联，即是用来判断和那几个feature_map连接的。在其实现中，内部数据结构为一个bool类型队列，函数is_connected判断是否关联 bool is_connected(cnn_siz
tiny-cnn安装教程
mensaochun的博客
09-14 1677
tiny-cnn最近在看caffe源码，看得有点吃力，可能还是因为c++的基础不够。上知乎的时候发现有一个轻量级别的cnn框架，称为tiny-cnn，不过经过多个版本的更迭，现在已经取名为tiny-dnn，增加了包括RNN在内的多种神经网络。这个框架也是用c++写的，依赖很少，号称只要引用头文件就可使用的框架。于是我打算开始阅读这个开源代码，一方面帮助自己熟悉cnn算法的实现，另外一方面也可以提高c
C++卷积神经网络实例：tiny_cnn代码详解（12）——从CNN中看多态性
陈俊岭的程序员之路（公众号求关注，方便交流）
04-02 9250
　　最近由于在准备论文的相关事宜，导致博客的更新速度有点缓慢，望大家见谅。不过该更新还是要更新的，所以今天我就挤出一点时间来更新一篇。由于之前的博文已经将tiny_cnn中相关的网络层结构介绍的差不多，接下来的博文中着重介绍卷积神经网络的训练流程和测试流程，重点就是前向传播算法和反向传播算法。不过我在研究CNN前向传播算法的流程时，发现作者在前向传播算法的调用过程中，很好的体现了C++的多态性特点...
tiny_cnn源码阅读(1)-编译运行源码
KangRoger的专栏
05-29 2913
机器学习是理论性很强的一门课程，在工程实践时，常常难以把理论和代码结合起来。想通过一个工程来学习一下机器学习中的卷积神经网络。 tiny_cnn是c++写的实现cnn的代码，想通过代码来了解理论，学习和锻炼一下编程能力。tiny_cnn是c++11编写的，只有头文件，不依赖其他库就能运行MINST。计算卷积以及求导，这样大规模复杂的运算一般都是用GPU，tiny_cnn并没有是用GPU，它只是是用
tiny-cnn开源库的使用(MNIST)
网络资源是无限的
01-24 2万+
tiny-cnn开源库的使用(MNIST)
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值