[论文阅读-Contrastive Learning（3）] 2020 arXiv SimCLR

2020 arXiv A Simple Framework for Contrastive Learning of Visual Representations

动机

该文章算一个总结性的文章，对目前contrastive learning中常见的一些模块方法进行了比较，说明了最重要的三个模块：data augmentation、net architecture、loss function

方法

作者首先给出了一个对比学习的总体框架：

T是数据增广方式，f是特征提取器，g是两个MLP，用来把特征再做一个映射，在映射的空间上设计contrastive loss。文章主要通过在CIFAR-10上的实验效果说明问题。

首先作者比较了不同的数据增广方法T对效果的影响程度：