BYOL论文笔记(Bootstrap Your Own Latent A New Approach to Self-Supervised Learning)
BYOL论文笔记(Bootstrap Your Own Latent A New Approach to Self-Supervised Learning)一、基本架构二、BYOL实现细节数据增强:使用在SimCLR中同样的一系列数据增强,包括随机水平翻转、颜色扰动、高斯模糊等。网络架构:使用resnet50、resnet50(1x)作为基本的编码器,使用两层的MLP作为online和target网络的投影器(2048-4096,4096-256),预测层和投影层使用同样的结构。优化:使用La
原创
2021-12-21 11:18:34 ·
557 阅读 ·
0 评论