2019年12月_m_buddy

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

原创《Distilling Object Detectors with Fine-grained Feature Imitation》论文笔记

代码地址：Distilling-Object-Detectors1. 概述导读：这篇文章是在two stage检测网络Faster RCNN基础上使用知识蒸馏改进亲轻量级网络性能。其中的核心思想是teacher网络中需要传递给student网络的应该是有效的信息，而非无效的背景区域信息，因而文章将backbone输出的特征图与RPN网络输出的结果进行组合，从而得到student网络应该学习的...

2019-12-28 22:49:30 1518

原创《Object detection at 200 Frames Per Second》论文笔记

1. 概述导读：这篇文章是在检测模型上使用知识蒸馏，从而实现在减小检测模型尺寸与推理时间的同时，尽可能提升小模型的检测性能。这篇文章是基于Tiny-YOLO的检测模型，但是在知识蒸馏的部分做了较多的工作，归纳为：（1）objectness scaled distillation：按照目标是否为检测模型的置信度给蒸馏的网络添加权重参数，相当于是objectness-ware；（2）FM_NMS（...

2019-12-28 21:29:33 573

原创《Distilling the Knowledge in a Neural Network》论文笔记

1. 概述这篇文章是比较早的文章，但是很多后序的工作都是源自于此，文章中提出了使用soft target（文章中说的是softmax层的输出）来实现大的模型到小的模型之间的知识迁移，从而提升小模型的性能。对于这里使用soft target而非hard target（如分类的类别目标），其原因是软目标能够提供更多可供训练的信息，而硬目标则会造成梯度上方差的减小。有了软目标的帮助小的模型能够更少的参...

2019-12-21 13:59:31 230

原创网络模型int8量化中使用的一些量化方法

1. 概述前言：这篇博客中涉及到的是网络在做int8 infer时候涉及到的量化方法，这里并不涉及到int8训练的东西，这篇文章涉及到的量化方法主要来自于：Quantizing deep convolutional networks for efficient inference: A whitepaper。深度学习中网络的加速主要有如下的几种方式：1）设计高效且小的网络，如Mobil...

2019-12-21 00:28:07 5045

原创《Learning Efficient Convolutional Networks through Network Slimming》论文笔记

代码地址：slimming1. 概述导读：这篇文章是一篇关于CNN网络剪枝的文章，文章里面提出通过BatchNorm层的scaling参数确定重要的channel，排除不重要的channel，从而达到网络瘦身的目的。此外文章还引入了L1范数，通过L1范数约束的稀疏特性使得BN的scaling参数趋于0，从而帮助确定非重要的channel，并按照给定的阈值剪裁掉。总的来说这篇文章具有一定局限性...

2019-12-21 00:07:17 651

原创《CenterMask：Real-Time Anchor-Free Instance Segmentation》论文笔记

代码地址：CenterMask1. 概述导读：在这篇文章提出的新instance分割方法是基于FCOS的，首先，文章在FOCS的box检测的基础上通过添加一个SAG-Mask（spatial attention-guided mask）分支来实现像Mask RCNN中类似的分割效果。在FCOS检测的box结果基础上使用空间注意力特征（spatial attention map）帮助进行目标聚...

2019-12-14 15:56:23 9838 3

原创 Windows进程间通信方法——共享内存

1. 概述Win32 API中共享内存(Shared Memory)实际就是文件映射的一种特殊情况。进程在创建文件映射对象时用0xFFFFFFFF来代替文件句柄(HANDLE)，就表示了对应的文件映射对象是从操作系统页面文件访问内存，其它进程打开该文件映射对象就可以访问该内存块。由于共享内存是用文件映射实现的，所以它也有较好的安全性，也只能运行于同一计算机上的进程之间。2. 编码2.1...

2019-12-14 10:46:59 3581

原创《HTC：Hybrid Task Cascade for Instance Segmentation》论文笔记

代码地址：mmdetection1. 概述导读：级联优化策略在许多的任务中被证实是提升性能的有效策略，而在实例分割中引入级联优化策略还是比较新的尝试。而简单地将Cascade RCNN与Mask RCNN相结合（Cascade Mask RCNN）只能带来很少的性能提升，其中的关键是没有很好利用检测与分割之间相互关联，因而这篇文章基于此提出了一个新的网络结构Hybrid Task Casca...

2019-12-14 00:22:04 2162