Few-shot Daily 2023/01/13

公众号:皮皮嬉

Few-shot相关


1st Place Solution for ECCV 2022 OOD-CV Challenge Image Classification Track

海康威视研究院、北京大学、浙江大学

https://arxiv.org/pdf/2301.04795.pdf

OOD-CV挑战是一种分布外泛化out-of-distribution generalization任务。在这一挑战中,我们的核心解决方案可以概括为:噪声标签学习是一个强大的测试时域自适应优化器。简而言之,主要流程可以分为两个阶段,用于域泛化的预训练阶段和用于域自适应的测试时训练阶段。在预训练阶段只利用有标签的源数据,在测试时训练阶段只利用无标签的目标数据。在预训练阶段,提出一种简单有效的掩码级复制粘贴数据增强策略,以增强分布外泛化能力,以抵抗这一挑战中的形状、姿态、上下文、纹理、遮挡和天气域变化。在测试训练阶段,利用预训练模型为未标记的目标数据分配噪声标记,并提出一种标记周期性更新的DivideMix方法进行噪声标记学习。在集成测试时增强和模型集成策略后,该解决方案在OOD-CV挑战赛的图像分类排行榜上排名第一。


1st Place Solution for ECCV 2022 OOD-CV Challenge Object Detection Track

海康威视研究院、浙江大学

https://arxiv.org/pdf/2301.04796.pdf

OOD-CV挑战是一种分布外泛化out-of-distribution generalization任务。为了解决目标检测跟踪中的这一问题,本文提出了一种简单有效的先泛化再适应(general-then-adapt, G&A)框架,该框架由两阶段域泛化和一阶段域适应组成。域泛化部分由一个监督模型预训练Supervised Model Pretraining阶段和一个弱半监督模型预训练Weakly Semi-Supervised Model Pretraining阶段实现,前者使用源数据进行模型预热,后者使用具有box-level标签的源数据和具有image-level标签的辅助数据(ImageNet-1K)进行性能提升。域适应部分以无源域适应Source-Free Domain Adaptation范式实现,仅使用预训练模型和未标记目标数据以自监督训练方式进一步优化。所提出的G&A框架帮助我们在OOD-CV挑战赛的目标检测排行榜上取得第一名。


HyperDomainNet: Universal Domain Adaptation for Generative Adversarial Networks

NeurIPS 2022

俄罗斯国家研究型高等经济大学、莫斯科物理技术学院

https://arxiv.org/pdf/2210.08884.pdf

https://github.com/MACderRu/HyperDomainNet

GANs领域自适应框架作为在非常有限的训练数据情况下训练GANs的主要成功方法,近年来取得了巨大的进展。本文通过提出一个极其紧凑的参数空间来微调生成器,显著改进了这一框架。本文提出一种新的域调制技术,只允许优化6000维向量,而不是StyleGAN2的3000万个权重,以适应目标域。我们将这种参数化应用于最先进的域适应方法,并表明它与完整的参数空间具有几乎相同的表现力。我们提出了一种新的正则化损失,大大增强了微调生成器的多样性。受优化参数空间规模缩小的启发,我们考虑了GANs的多域自适应问题,即根据输入query设置同一模型何时可以适应多个域。本文提出HyperDomainNet,这是一种超网络,可以根据目标域预测我们的参数化。经验证实,它可以成功地一次学习多个域,甚至可以泛化到未见过的域。


Boosting Out-of-Distribution Detection with Multiple Pre-trained Models

武汉大学、北京师范大学、华为诺亚方舟实验室

https://arxiv.org/pdf/2212.12720.pdf

分布外检测Out-of-Distribution (OOD) detection,即识别输入是否是从训练分布以外的新分布采样的,是在开放世界中安全部署机器学习系统的一项关键任务。最近,利用预训练模型的事后检测post hoc detection显示出了良好的性能,并且可以扩展到大规模问题。这一进步提出了一个自然的问题:我们能否利用多个预训练模型的多样性来提高事后检测方法的性能?本文提出一种检测增强方法,通过集成来自预训练模型的多个检测决策。该方法使用p-value而不是常用的硬阈值,并利用多假设检验的基本框架来控制分布内(ID)数据的真阳性率true positive rate。专注于model zoos的使用,并在各种OOD检测基准上与当前最先进的方法进行了系统的经验比较。与单模型检测器相比,所提出的集成方案显示了持续的改进,并显著优于当前竞争的方法。所提出方法在CIFAR10和ImageNet基准上的相对性能提高了65.40%和26.96%。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值