CVPR 2022 | 元学习在图像回归任务的表现

©PaperWeekly 原创 · 作者 | 高宁

单位 | ALR (KIT) & BCAI, Germany

研究方向 | 小样本学习，元学习，机器人视觉

引言

元学习因其能够快速适应训练中未曾见过的任务而被广泛用于小样本分类和函数回归。然而，在图像等高维输入的回归任务上并没有得到很好的探索。本文做出了两个主要贡献，有助于理解这个几乎没有探索过的领域。首先，我们设计了两种过去元学习领域中未有过的复杂度的跨类别级视觉回归任务，即物体识别锁定和位姿估计。

为此，本文 (i) 详尽地评估了常见元学习技术在这些任务上的表现，并 (ii) 定量分析了最近元学习算法中常用的各种深度学习技术的效果以增强泛化能力，包括数据增强，域随机化，任务增强和元正则化。另外，本文 (iii) 为在视觉回归任务上训练元学习算法提供了一些见解和实用建议。其次，我们建议在条件神经过程 (CNPs) 中的任务表达学习空间上添加功能对比学习 (FCL)，并以端到端的方式进行训练。

实验结果表明，由于损失函数选择不当以及元训练集太小，先前工作的结果具有误导性。具体来说，我们发现在没有微调的情况下，CNPs 在大多数任务上都优于 MAML。此外，我们观察到没有针对设计的任务增强会导致严重的欠拟合。

论文标题：

What Matters for Meta-Learning Vision Regression Tasks?

论文链接：

https://arxiv.org/abs/2203.04905

代码链接：

https://github.com/boschresearch/what-matters-for-meta-learning

前提

我们现在以统一的方式简要描述 MAML 和 CNPs。我们假设所有任务都是从同一个分布 中采样的，每个任务 都包含