领域泛化文献综述阅读笔记

Generalizing to Unseen Domains: A Survey on Domain Generalization

https://arxiv.org/pdf/2103.03097.pdf

1. 领域泛化（Domain Generalization）的目标是什么？或者已经实现了什么？

• 目标：从若干个具有不同数据分布的数据集（领域）中学习一个泛化能力强的模型，以便在未知 (Unseen) 的测试集上取得较好的效果。

2. 文献中总结了哪些方法，每个方法的关键是什么？

2.1 领域泛化的三类方法

文献中总结了三类方法：数据操作、表征学习、学习策略^[2]

[1] 数据操作：包括数据增强和数据生成两大部分。
[2] 表征学习:指的是学习领域不变特征(Domain-invariant representation learning)以使得模型对不同领域都能进行很好地适配。领域不变特征学习方面主要包括四大部分：核方法、显式特征对齐、领域对抗训练、以及不变风险最小化(Invariant Risk Minimiation, IRM)。此外还有特征解耦。
[3] 学习策略:指的是将机器学习中成熟的学习模式引入多领域训练中使得模型泛化性更强。这一部分主要包括基于集成学习和元学习的方法。此外还有自监督