如何评价CVPR 2021的论文接收结果？

链接：https://www.zhihu.com/question/446299297

编辑：深度学习与计算机视觉

声明：仅做学术分享，侵删

一年一度的计算机视觉顶会即将放榜，大家的rebuttal成功了么？你是否想知道有哪些新方向可以跟，可以看看小伙伴的留言哟！

作者：匿名用户

https://www.zhihu.com/question/446299297/answer/1756103953

初审是 234

我已经在很有限的GPU资源和人力资源条件下做到了我自认为的最好。

论文Idea也非常有新意，得到了所有reviewer的一致认可，自认为开劈了所在领域中之前所有人都去回避的问题。论文的主要欠缺在性能没有刷的很高，但是投稿结束后也超过了竞争对手模型，rebuttal中因为政策并未提及新结果。

（所有实验都是我自己一个人独立完成，论文所有内容都是我一人自己写的，导师稍微给润色的）

我的rebuttal也是参考了很多被录取的论文rebuttal风格，正面回答了所有的点。

但是最终还是被拒绝了。

我觉得我已经尽我最大的力了，我觉得我还需要反思，导师也需要反思。

CV业界，有人欢喜有人忧，我这样的博士生，何时可以迎来自己的高光时刻

作者：王云鹤
https://www.zhihu.com/question/446299297/answer/1755955558

恭喜组内中稿的小伙伴们，目前还看不到rebuttal之后的分数，我先开一个之前的分数，主要是想告诉大家：

rebuttal真的很重要！rebuttal真的很重要！rebuttal真的很重要！

这次投稿组里的主要方向还是模型压缩、蒸馏、搜索和AdderNet，中稿的paper和分数如下（等最终分数出来我再更新），有arxiv版本的也附上了：

1. Distilling Object Detectors via Decoupled Features
分数 | pre-rebuttal：233

简介：前景背景分离的蒸馏技术对检测任务更有帮助哦~

2. HourNAS: Extremely Fast Neural Architecture Search Through an Hourglass Lens
分数 | pre-rebuttal：234

简介：这个论文也是曲折，主要的目的是降低NAS的成本，在2020年初我们就与很多业界的朋友们一起探讨过，NAS的成本下不去，NAS的商用成本就有些高，那这篇paper里面，我们尝试对搜索空间一步步缩减，4个小时在ImageNet上直接搜索就可以获得非常好的性能！

https://arxiv.org/pdf/2005.14446.pdf

3. Manifold Regularized Dynamic Network Pruning

分数 | pre-rebuttal：244

简介：动态剪枝的过程中考虑了样本复杂度与网络复杂度的约束，获得了更好的性能。

4. Learning Student Networks in the Wild
分数 | pre-rebuttal：224

简介：一种不需要原始训练数据的模型压缩和加速技术，主要是讨论如何从大量未标注数据中提取出有用的信息，并合理地加以利用。系列论文见：

王云鹤：【已开源】华为诺亚方舟实验室提出无需数据网络压缩技术https://zhuanlan.zhihu.com/p/81277796

5. AdderSR: Towards Energy Efficient Image Super-Resolution
分数 | pre-rebuttal：123

简介：加法网络宇宙当中一篇重要的paper，关于如何把加法网路应用到图像超分辨率中，并且获得了不错的结果，对于拍照任务，功耗还是十分重要的。这个paper里面我们通过两个小技术，把benchmark上的模型精度损失控制到了0.1dB以内：

https://arxiv.org/pdf/2009.08891

王云鹤：华为开源加法神经网络 | CVPR-20 Oral：https://zhuanlan.zhihu.com/p/113536045

6. ReNAS: Relativistic Evaluation of Neural Architecture Search
分数 | pre-rebuttal：233

简介：NAS predictor当中ranking loss的重要性，我个人觉得是一个NAS问题当中很重要的方向，不过构建数据集的成本偏高。

https://arxiv.org/pdf/1910.01523.pdf

7. Pre-Trained Image Processing Transformer
分数 | pre-rebuttal：125

简介：底层视觉预训练模型，这个之前感谢 极视平台/机器之心/量子位 等媒体朋友的报到和大家的关注，这个分数也是有趣，（有道是没有拿过5的投稿经历就是不完整）细节不多说了，很快就开源了~

https://arxiv.org/pdf/2012.00364.pdf

8. Data-Free Knowledge Distillation For Image Super-Resolution
分数 | pre-rebuttal：244

简介：DAFL算法的SR版本~

9.Positive-Unlabeled Data Purification in the Wild for Object Detection
分数 | pre-rebuttal：2344

简介：PU大法好！系列paper如下。

王云鹤：NeurIPS 2019-已开源: 华为诺亚方舟实验室提出基于少量数据的云端网络压缩技术：https://zhuanlan.zhihu.com/p/93211365

最后，感谢审稿人的意见和ACs负责人的discuss，后续分数出来会再更新，部分paper很快就可以开源了。再次提醒小伙伴们，一定要好好rebuttal！

作者：丁霄汉
https://www.zhihu.com/question/446299297/answer/1756260197

等我把准备投ICCV的实验跑起来再回来写。

在旷视实习期间的工作RepVGG和Diverse Branch Block（也可以称之为ACNet v2）都中了。

前者是VGG类极简架构，3x3卷积一卷到底，连分支结构都没有，ImageNet上可达80.5%正确率，跟SOTA架构如RegNet比都有可见的性能提升。代码和模型全都放出了，Git上已经1100+ star了。之前写了个稿子在这里：丁霄汉：RepVGG：极简架构，SOTA性能，让VGG式模型再次伟大

后者是一个通用building block，可以用一个很像Inception的block（其中包括average pooling，1x1-bn-3x3-bn连续卷积）来替换通常的卷积，极大地丰富模型的微观结构，提升多种架构的性能。有意思的点在于，这样一个复杂的block可以在训练结束后等价转换为一个卷积，因此模型的最终大小和速度（相对于使用普通卷积的模型）完全不变！

这两个工作的共同点在于用了结构重参数化技术，都属于我们的“重参数化宇宙”：结构A对应一组参数X，结构B对应一组参数Y，如果我们能将X等价转换为Y，就能将结构A等价转换为B。同样思想的还有ACNet（ICCV-2019）和ResRep（去年搞的一个剪枝方法，Res50无损压缩超过50%，也就是说从76.15%的标准模型压到76.15%，真正意义的无损）。最近我也会写篇文章总结一下重参数化思想及其应用。

作者：匿名用户
https://www.zhihu.com/question/446299297/answer/1756872941

第一次以一作(共一)身份中三篇，来分享一下投稿历程。

第一篇从18年开始投，投了cvpr19, iccv19,neurips20和今年的cvpr，这是我第一篇用deep learning做的工作。有意思的是iccv的审稿人让我投learning的会，neurips的ac让我投cv的会。不过好在是idea没过时，加上老板给力支持投顶会和很好的建议，并且每次我都会加一些新的理论分析和实验结果，所以得分越来越高，甚至neurips和这次cvpr都得到了一个最高分。

第二篇是共一，带着一个博士一年级的学弟在做，这个学弟基础较好，本科期间就发过文章，再加上老板，我，和他自己发的文章都是一个topic，他自己动手能力也比较强，所以相对比较轻松。只是在刚开始拿到老板给的这个basic idea的那段时间，我们都比较挣扎，不知道从哪里切入，后面framework成形之后就比较顺利了，基本上就是帮他分析实验结果，然后建议怎么设计实验和拍数据。paper改起来也比较轻松，调调逻辑即可，还有最后老板会把关，这个文章只投了一次就中了。

第三篇也是一个共一，带的是一个博士二年级的学弟。我们从19年11月份开始做，那时候他一年级刚入学。他主要的问题之前没做过cv，没做过deep learning，也没做过research，所以很多东西要从头教。还有一个大问题是，他做的这个文章的方向和idea虽然是我想的，但是我，我们老板，以及其他作者从来没有做个这个topic，组里没积累，我们也是边做边学，所以老板把文章交给我全权负责了。

这个文章原来定的是投eccv20，但是那时候远没达到我心中的标准，就给喊停了。然后就neurips20，感觉还差点意思，所以我也没帮师弟上手改，只给他重写了intro，其他就是在pdf给他标出来，迭代了十几轮之后，就这样投出去了，当是给他涨涨经验，熟悉一下改paper的流程和注意点，以及投稿整个流程，结果是一个summary reject。

这次cvpr投稿感觉内容都差不多了，但是依然非常赶，主要是拍数据他花了挺多时间的，然后前面我在帮他做formulation，我印象中为这个文章至少就通了三个宵和若干凌晨三点半。这次从头到脚基本都给他重写了，甚至几个图我觉得太丑了也给重画了，一直奋战到了最后一刻我记得。投出去那一刻觉得还是挺有戏的，毕竟idea和topic足够新也足够热。审稿意见尽管是333，但是看的出来几个审稿人还是非常欣赏文章，给我的感觉是出于谨慎给的3，毕竟之前没人这样做过。因为这个文章，还把另外一个同学的文章给砍了（完成度太低是主要原因，即使这次投iccv也非常赶）。

作者：DC1991
https://www.zhihu.com/question/446299297/answer/1756080329

就我个人的论文来说，审稿人给的建议都很中肯，提出的问题也很合理。和老板讨论后写了rebuttal。今天结果出来，中了。做的是关于category-level 6D pose estimation的，我们方法仅使用了real-world 训练集，但是速度和精度都超过了之前的SOTA。后面论文和代码都会放出来。感兴趣的可以讨论。

☆ END ☆

如果看到这里，说明你喜欢这篇文章，请转发、点赞。微信搜索「uncle_pn」，欢迎添加小编微信「 mthler」，每日朋友圈更新一篇高质量博文。

↓扫描二维码添加小编↓