自监督-论文笔记（二）“Unsupervised Feature Learning via Non-Parametric Instance Discrimination”

论文：“Unsupervised Feature Learning via Non-Parametric Instance Discrimination”--2018CVPR

链接：论文链接         代码链接

摘要：主要论述如何通过非参数的实例判别进行无监督的特征学习。本文使用CNN backbone，原始图片输入网络后输出一个经过L2标准化的128维向量，通过Non-Parametric Softmax Classifier计算每个单一样本被识别正确的概率，同时使用Memory Bank存储特征向量，通过NCE来近似估计softmax的数值减少计算复杂度，最后使用Proximal Regularization稳定训练过程的波动性。主要的思想是将每个单一实例都看作不同的“类”。

主要贡献：在无监督的情况下学习从实例本身到其特征表示的映射。

方法：

1、Non-Parametric Softmax Classifier

解决：用特征向量代替权重向量，使用Mermory Bank V 来存储上述的实例特征向量。

2、Noise-Contrastive Estimation

解决：降低实例特征向量与向量间的计算复杂度

Q:NCE得到单个实例的后验概率后，具体计算复杂度是怎么从O(n)到O(1)的。

3、Proximal Regularization（近端正则化）

解决：由于每个实例代表一个类，训练过程中每个类只访问一次，导致学习过程在随机抽样波动中波动很大。近端正则化有助于稳定训练、加快收敛速度和改进学习表示，而额外成本可以忽略不计。

内容：

结果：

思考：