- 博客(8)
- 收藏
- 关注
RSS订阅原创 ALIGN
ALIGN:Scaling Up Visual and Vision-Language Representation Learning With Noisy Text Supervision 论文笔记 这是谷歌在2021年2月放出地一篇文章，关于visual and vision-language representations，其中在图文检索地指标上达到了sota，但是相应地成本代价也很大，论文中art性也没有那么高，属于一力降十会，且数据集私有，不存在复现可能，总体来说商业价值大于学术价值。ab
2022-05-31 17:57:46
718
原创 MLP-Mixer，External Attention，RepMLP
MLP-Mixer，External Attention，RepMLP文章目录MLP-Mixer，External Attention，RepMLPMLP-Mixer：An all-MLP Architecture for Vision (Google)Beyond Self-attention: External Attention using Two Linear Layers for Visual Tasks (清华 胡事民组，在审)Do You Even Need Attention? A St
2021-05-09 16:02:57
1360
1
原创 VSRN
VSRN：Visual Semantic Reasoning for Image-Text Matching[ICCV 2019]文章目录VSRN：Visual Semantic Reasoning for Image-Text Matchingabstractintromethodexperimentsablation study总结abstract 现有的image representation缺少像caption那样全局的语义概念，所以作者提出简单可解释的推理模型，来对场景内关键物体和语义来
2021-04-24 19:43:19
1283
原创 VirTex
VirTex: Learning Visual Representations from Textual Annotations【CVPR2021】2020.06已放出，还被壕无人性的CLIP引用。目录VirTex: Learning Visual Representations from Textual Annotationsabstractintromethodlanguage modelingvisual backbonetextual headmodel sizetokenizationtrai
2021-03-24 13:16:29
1452
原创 ViT
【arxiv2020.10,ICLR2021】ViTAn Image is Worth 16x16 Words: Transformers for Image Recognition at Scale目录abstractintroViT延申参考abstract之前或是直接CNN连attention或是将attention替换CNN的一部分，并保持CNN整体结构。作者认为这种对于CNN依赖不必要，pure transformer一样可以对于图像patch输入在分类任务有良好表现。最终，作者先在大量数据
2021-03-19 09:02:57
15934
15
原创 Normalizer-Free ResNets（上）论文笔记
【ICLR2021】characterizing signal propagation to close the performance gap in unnormalized resnets ------deepmind这是NFnet的上半部论文，下半部论文请参考Normalizer-Free ResNets（下）论文笔记目录abstractintrobackgroundsignal propagation plots(SPP)scaled weight standardizationdeter
2021-03-15 20:52:57
564
1
原创 Normalizer-Free ResNets（下）论文笔记
【arxiv2021】High-Performance Large-Scale Image Recognition Without Normalization -----deepmind文章目录contributionintroBN好在哪，怎么替代Adaptive Gradient Clipping (AGC)NF+AGCExperimentsappendix总结contribution采用AGC解决上一个关于normalizer-free工作的batchsize大就崩溃的问题整体性能上调过
2021-03-15 09:15:40
318
原创 Learning to Rank: From Pairwise Approach to Listwise Approach论文笔记
【ICML2007】Learning to Rank: From Pairwise Approach to Listwise Approach目录Abstractintroprobability modelsPermutation ProbabilityTop One Probability讨论为什么优于pairwise方法总结Abstract学习排序多用于文件检索，collaborative filtering.以前学习排序的方法将object pairs作为instance，这里将rankin
2021-03-13 17:34:50
618
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人