自监督（无监督）学习笔记（更新至MoCo v1）

cv转向自监督学习

原因

自监督学习是指利用代理任务从无标注数据中自动生成标签，通过人为构造的监督信息对网络进行训练。从而可以学习到为下游任务有价值的表征。对于是否监督学习而言，主要依据是是否在有无标注的大规模数据集进行预训练。

两类自监督学习

图像变换式自监督学习

基于图像本身的上下文关系，构建代理任务

对比式自监督学习（重点）

利用数据增强产生丰富样本，学习区分样本间相似度，特定损失函数：InfoNCE，在2020年后主流发展趋向以对比式自监督学习为主，原因在于基于对比的性能更加稳定，实质上其训练过程不利用任何监督信息

自监督学习演化

在自监督学习发展过程中，主要经历两个阶段，第一个阶段可以概括为三个必要：大量负样本是必要的，复杂的数据增强是必要的，对比损失是必要的；第二个阶段可以概括为以下四点：跟腱画的架构与训练方式（倾向于实时），负样本不是必要的，对比损失不是必要的，无动量更新、无预测期、无梯度停止、无目标编码器

MoCo

概述

论文在摘要部分构指出该模型构建一种具有队列的动态字典和动量编码器的对比学习方法。论文弥补了自监督学习与监督学习的性能差距，在引言中指出了对比学习的概念、字典构建的假设、Momentum Contrast以及代理任务（instance discrimination），在方法部分提出对比学习架构，将对比学习看做字典查询，同时具体阐述MoCo架构，在实验部分主要围绕分类和下游任务。