【自监督学习】主题论文推荐

自监督学习本质上是一种无监督学习的方法，通常会设置一个“Pretext tasks”，根据数据的一些特点，构造Pesdeo Labels来训练网络模型。通过自监督得到的模型，可以作为其他学习任务的预训练模型，为其提供更好的训练初始区域。
以下论文供大家参考学习：
1.Self-Supervised Visual Feature Learning With Deep Neural Networks: A Survey
本文广泛回顾了基于深度学习的自监督图像或视频中的一般视觉特征学习方法，总结并列出了一组有希望的未来自我监督视觉方向特征学习。
PDF下载链接：https://www.aminer.cn/pub/5cede105da562983788e4af1/?f=cs

2.Badgr: An Autonomous Self-Supervised Learning-Based Navigation System
本文研究了如何使用一种从经验中学习物理导航能力的方法超越纯粹基于几何的方法。本文中的强化学习方法被称之为BADGR，是一种端到端的基于学习的移动机器人导航系统，可以使用在真实环境中收集的自主标记的异常数据进行训练，而无需任何模拟或人工监督。BADGR可以在现实世界的城市和越野环境中导航，具有几何上分散注意力的障碍物。它还可以整合地形偏好，推广到新的环境，并通过收集更多数据继续自主改进。
PDF下载链接：https://www.aminer.cn/pub/5e4672c93a55ac14f595d8ac/?f=cs

3.Distilling Localization For Self-Supervised Representation Learning
通过可视化和诊断分类错误，研究者观察到当前的对比模型在定位前景对象方面无效，限制了它们提取判别性高级特征的能力。为此他们提出了一种数据驱动的方法来学习背景不变性。通过这种方法（DiLo），在ImageNet分类上进行自我监督学习，以及在PASCAL VOC和MSCOCO上进行对象检测，可以实现显着的性能。
PDF下载链接：https://www.aminer.cn/pub/5e982cc591e0119e8a9523e2/?f=cs

4.3D Human Pose Machines with Self-supervised Learning.
本文提出了一种简单而有效的自我监督校正机制，从丰富的图像中学习人类姿势的所有内在结构。对 Human3.6M 和 HumanEva-I 基准测试的广泛评估表明，与所有比较的竞争方法相比，本文提出的框架具有卓越的性能和效率。
PDF下载链接：https://www.aminer.cn/pub/5c3ed5c6e1cd8e0a96069f53/?f=cs

5.ALBERT: A Lite BERT for Self-supervised Learning of Language Representations
本文提出了两种参数还原技术，以降低内存消耗并增加训练BERT的速度（Devlin等人，2019）。文中最佳模型在 GLUE、RACE 和 SQuA 基准测试上建立了新的最先进的结果，同时与 BERT-large 相比，参数更少。
PDF下载链接：https://www.aminer.cn/pub/5e5e18e493d709897ce3a0f2/?f=cs

查看更多论文：https://www.aminer.cn/topic/5f685d8d92c7f9be21b22359?=cs