自监督学习|Self-supervised Learning
文章平均质量分 83
自监督学习主要是利用辅助任务从大规模的无监督数据中挖掘自身的监督信息,通过这种构造的监督信息对网络进行训练,从而可以学习到对下游任务有价值的表征。本专栏主要对相关论文进行速读简析
FancyCode Artist
花有重开日,人无再少年。
展开
-
自监督学习系列(3) : A simple framework for contrastive learning of visual representations
目录 相关信息 主要思想 讨论 结果 ImageNet accuracies of linear classifiers ImageNet accuracy of models trained with few labels Comparison of transfer learning performance of our self-supervised approach with supervised baselines Reference 首先还是论文的相关信息 Paper: A.转载 2021-08-03 15:26:06 · 528 阅读 · 0 评论 -
自监督学习系列(2) SimSiam: Exploring Simple Siamese Representation Learning
首先还是论文的相关信息 Paper:Exploring Simple Siamese Representation Learning 地址:https://arxiv.org/abs/2011.10566 主要思想 SimSiam用一句话描述:就是没有momentum encoder的BYOL(水了一篇博客偷笑!) Loss: SimSiam的架构与BYOL一样也是三个阶段的架构。 将图像经过转换后通过两个相同网络,再过小网络Projection,最后进行预测。与B...原创 2021-08-03 15:12:51 · 771 阅读 · 0 评论 -
自监督学习系列(1) BYOL: Bootstrap Your Own Latent
目录 论文的相关信息。 主要思想 讨论 结果 Linear evaluation on lmageNet Semi-supervised training on lmageNet(使用label数据进行微调) Ablation study 补充 首先粘贴一下论文的相关信息。 Paper:Bootstrap your own latent: A new approach to self-supervised Learning 地址:https://arxiv.org/abs/20...原创 2021-08-03 13:10:04 · 541 阅读 · 0 评论