Self-Supervised Learning
关注
分享
扫一扫
文章平均质量分 92
Fulin_Gao
主要研究方向包括开放集识别（Open-Set Recognition）、开放世界识别（Open-World Recognition）、增量学习（Incremental Learning）、新类别发现（Novel Category Discovery）、少样本学习（Few-Shot Learning）
展开
-
【自监督学习】iBOT in ICLR 2022
iBOT：对于一张图片，该方法首先进行两次全局裁剪与增强得到两张全局视图，之后进行随机mask再产生两张带mask的全局视图，并分别送入教师和学生网络；学生与教师网络均有两个映射头，一个用于映射$[\text{CLS}]$，另一个用于映射特征图，之后以两个网络的输出一致性为损失进行学生网络的更新；教师网络由指数移动平均更新，还采用了中心化和锐化操作避免模式崩溃。原创 2024-07-13 13:09:45 · 1146 阅读 · 9 评论 -
【自监督学习】DINO in ICCV 2021
DINO：对于一张图片，该方法首先进行全局和局部的裁剪与增强并分别送入教师和学生网络，之后以两个网络的输出一致性为损失进行学生网络的更新，另外教师网络由指数移动平均更新，还采用了中心化和锐化操作避免模式崩溃。原创 2024-07-10 21:33:23 · 1141 阅读 · 0 评论