lovep1的博客

1、paper：https://arxiv.org/pdf/2104.09044.pdf2、code：https://github.com/dvlab-research/ReviewKD思谋科技出品的paper，d2的源码，是不是考虑白嫖一波，先分析一下paper的思想

paper：https://arxiv.org/pdf/2103.02340.pdfcode：GitHub - daixinghome/Distill_GID_detectron2首先给出论文链接和源码链接，默默地发现是基于D2的代码，说不定可以白嫖一波，先写一下论文，后续再仔细研读一下源码，旷视的工作还是很良心的，重点指出的是，这篇paper和我的上一篇kd的博客的paper都是覆盖anchor-based、anchor-free的，因此我觉得算是很不错的工作。1、abstract ..

paper：https://openreview.net/pdf?id=uKhGRvM8QNHcode：https://github.com/ArchipLab-LinfengZhang/Object-Detection-Knowledge-Distillation-ICLR20211、摘要： 开篇paper提到kd之所以在目标检测上的失败主要是两个原因：1、前景和背景之间的像素不平衡。 2、缺乏对不同像素之间的关系的蒸馏。基于这两个原因，本文提出了注意力引导机制和non-local机制来..

直接上论文survey：https://arxiv.org/pdf/2006.05525v6.pdf开局提到有数种模型加速的方法：1、权重共享和剪枝2、低秩分解3、转移的紧凑卷积滤波器：这些方法通过转移去除无关紧要的参数或压缩卷积滤波器4、KD然后摘要里面说明kd的key problem是如何将teacher模型里面的knowledge transfer到student模型，一个kd系统包括三个部分，knowledge、蒸馏算法，teacher模型。入下图所示：接下来文章回.

paper：https://arxiv.org/pdf/2005.12872.pdfcode：https://github.com/facebookresearch/detr近年，transformer开始大量从NLP引入计算机视觉，使得很多工作有了新的方向，本篇paper是第一篇端到端的将transformer引入目标检测和全景分割的工作，我对这个领域也没有那么熟悉，算是一起扫盲了，如果有新的idea，可以尝试复现一波，本文将按照paper的结构进行叙述（本篇paper解读只是占个坑，我对DETR

paper：https://arxiv.org/abs/2103.09460code：https://github.com/megvii-model/YOLOF本文最大的贡献应该是对FPN重新进行了思考，从另外一个角度认为fpn解决的也许不是多尺度特征融合的问题，干掉了由于fpn带来的多级密集anchors带来的庞大计算量的问题，针对paper认为的fpn潜在解决的问题，paper提出了新的结构，替代fpn，使用单级featuremap预测，从而大幅度减少了计算量和训练时的迭代时间，本文将按照pap

本文详细讲解dnn和cnn的反向传播流程。其实无论是dnn还是cnn、pool层，最重要的是，我们要弄清楚反向传播的四个公式，弄清楚他们，我们就明白整个网络是如何运作和优化的，4个核心公式分别是： 1、输出层的误差方程 -这个是基础 2、误差传递方程 3、可训练参数权重w的变化率（梯度） 4、可训练参数偏置b的变化率（说到底其实网络就是在算误差，然后优化w和b，使得最后误差最小）同时理解各种层的前向推理过程，那么整个网络的流动和机制就相当清晰了。...

本文主要分析各种norm化方法，包括batch norm， group norm， instance norm，等，用的最多的肯定是batch norm，后续凯明何大佬又提出了gropu norm，但是其实在cv里面还没有真正的普及，尤其是在工业界部署上面，用的最多的还是batch norm，尤其是前两年大量paper提出基于BN层的模型剪枝方法、基于BN的融合卷积计算方法等（本文不提及，后续文章有需要会单独分析此类论文）后，batch-norm凸显的更加重要了，本文将不按照论文结构解析。1、batch

本文主要是理解各个回归损失函数的区别和改进，其实最主要的还是这些损失函数在yolo中起到了非常大的作用，包括从最原始的yolov3中引入，到v4、v5中变成真正的官方损失函数，确实很有效。本文将逐条分析这些损失函数，并不会按照论文结构来描述。1、IOU paper：https://arxiv.org/pdf/1608.01471.pdf iou-loss本身是是从人脸检测的paper引入进来的，由于此文只分析损失函数比较简单，我们只讨论IOU-LOSS，先看paper的原图：...

本文讨论或者复习一下目前最流行的深度学习目标检测算法的坐标回归方式，注意，本文讨论的是anchor-based，至于anchor-free的方法，每一种anchor-free各自对应一种后处理，咱们这边就不详细讨论了。一、常用的faster rcnn、retinanet、ssd等cls+reg head类型。 总体来说，根据anchor来提供初始坐标，然后利用anchor的初始值去回归线性变化时的参数（偏移值和尺寸值），最后将这些参数配合固定anchors成为具体的坐标，细节如下： ...

paper：https://arxiv.org/abs/1911.09516code：https://github.com/ruinmessi/ASFF

paper：https://openaccess.thecvf.com/content_ICCV_2019/html/Choi_Gaussian_YOLOv3_An_Accurate_and_Fast_Object_Detector_Using_Localization_ICCV_2019_paper.htmlcode：https://github.com/jwchoi384/Gaussian_YOLOv3

paper：https://arxiv.org/abs/1808.01244code：https://github.com/princeton-vl/CornerNet首先，这篇paper的代码我是没有跑通的（训练自己的数据集），但是是一篇非常具有开创性的paper，后面的centernet（object as points）等都是基于这个工作来做的，backbone用的是hourglass，讲道理，这个backbone实在是太重了，在以point为核心的one-stage检测算法中广泛应用，但实在

paper：https://arxiv.org/pdf/1904.07850.pdf官方代码：https://github.com/xingyizhou/CenterNet我的代码：https://github.com/panchengl/centernet_prune 首先提一下我的代码复现（torch），官方代码支持包括2d目标检测、3d检测、姿态估计任务，我移除了其他的任务，并简单的重构了代码，使得代码更加易读，然后基于我改后的代码完成了模型压缩（剪枝方案），并使用了VOC的测试方法（..

paper：https://arxiv.org/pdf/1904.01355.pdfcode：https://github.com/tianzhi0549/FCOS我的复现：https://github.com/panchengl/pcldetection 当年经典的SOTA算法，现在似乎有点精度落后（但依旧很高），但是近期paper团队有重新对fcosnet做了实验进行改进，精度直接冲到SOTA了（我记得coco-ap达到0.49了），改动在哪忘了，先讨论原版的文章结构，有时间再写新的p..

论文地址：https://arxiv.org/pdf/1708.02002.pdfkeras复现代码（19年左右最广泛使用）：我的复现：https://github.com/panchengl/pcldetection总体印象： 号称第一个以one-stage结构能够干赢two-stage结构的算法，根据实际使用来看，精度还是有差异（coco上超过了faster -rcnn，但实际使用中光以ap值而言也许并不准确，比如误检的问题并不能够完全体现，faster rcnn还是相当优秀），但..

paper:https://arxiv.org/abs/1703.06870code:https://github.com/matterport/Mask_RCNN mask rcnn是基于faster rcnn的改进的一种实例分割算法（得到目标实例同时也生成bbox，检测结果也刷出新高），由目标检测算法直接引申到实例分割领域，典型的top-down，也叫做 detect-then-segment，顾名思义，先检测后分割。在实例分割上一度领先独领风骚，即便是放在现在，mask rcnn的效果也..

cascade rcnn：是基于faster rcnn的一种改进，我的理解是这个算法更趋近于stage by stage的算法，利用不同的IOU阈值选取，将多级目标检测器进行级联，进一步的优化检测结果，这个算法应该是各个比赛刷榜的主要算法了，不出意是速度奇慢，但在two-stage里面，我觉得相当具有代表性。文章出发点： 1、IOU=0.5（此处IOU指的是正负样本的界定值）时会出现较多的误检，应为0.5时正样本会引入更多的背景 2、但一味的提高iou并不一定是好事，阈值越小，对应...

two-stage中最经典的通用目标检测算法，希望下篇在本文的基础上更进一步分析two-stage算法1、结构详解逻辑图： 训练原理图（来源-https://blog.csdn.net/weixin_43198141/article/details/90178512）完整细节图（来源见水印）：从上图可以看出，faster rcnn可以分为三部分：1、backbone：基础的特征提取网...