- 博客(5)
- 收藏
- 关注
RSS订阅原创 Fast and High Quality Image Denoising via Malleable Convolution阅读笔记
计算量和时延友好的动态卷积MalleConv以及基于此设计的网络结构MalleNet，应用于图像降噪领域，具有实际应用价值
2022-10-04 19:10:07
389
1
原创 A Practical Contrastive Learning Framework for Single Image Super-Resolution阅读笔记
Abstract对比学习在高层视觉任务中取得了巨大成功，但在底层视觉任务中很少提出相关方法。将为高层任务设计的原始对比学习方法直接应用于底层任务是颇具挑战性的，因为获取的全局视觉表征不足以重建得到丰富的纹理与细节信息。本文基于样本构建与特征提取两个角度，为单图超分(SISR)提出了一种显著的对比学习框架。现有方案提出了一些简单的样本构建方法（例如将低质量输入视为负样本，gt视为正样本）并采用先验模型（预训练的VGG）以获得特征嵌入而不是探索一种任务友好的方式。为此，我们为SISR提出了一...
2021-12-14 11:09:03
3926
3
原创 RuntimeError: Cant call numpy() on Variable that requires grad. Use var.detach().numpy() instead.
RuntimeError: Can't call numpy() on Variable that requires grad. Use var.detach().numpy() instead.
2021-12-06 16:16:30
2635
1
原创 MAE：Masked Autoencoders Are Scalable Vision Learners阅读笔记
2021年11月11日当天挂在arXiv上的文章，何凯明的一作，在发布后不久马上拜读了一下，在此记录一下。Introduction随着硬件的发展，如今的模型可以轻易在数以百万计的数据集上取得过拟合的效果。这一点在NLP的自监督预训练中取得巨大的成功，无论是自回归模型GPT-3还是masked autoencoding的BERT，都通过移除然后学习预测部分数据完成训练，可以借此训练泛化性优异的参数超过千亿的模型。Masked autoencoding，一种更为通用的...
2021-11-21 21:29:23
2567
原创 High-Performance Large-Scale Image Recognition Without Normalization阅读笔记
摘要BN是大多数分类模型的关键组分，但因其依赖于batch的大小以及在样本间引入相关性，也存在许多不受欢迎的特点。虽然近期有文章成功不适用BN训练了较深的ResNet，但这些模型的测试准确率通常无法与最佳BN网络的结果比肩，且对于大学习率和强数据增强不稳定。在本文中作者提出了一种自适应梯度裁剪技术以克服这些问题，并设计了一类效果显著的网络NENets。在ImageNet上，较小的模型测试结果可以与EfficientNet-B7相当，训练时间则加快了8.7倍，而最大的模型取得了86.5%的...
2021-09-06 23:26:25
417
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人