#今日论文推荐# 哈佛医学院等最新《深度无监督领域适应UDA》综述，49页pdf阐述研究UDA进展与展望

#今日论文推荐# 哈佛医学院等最新《深度无监督领域适应UDA》综述，49页pdf阐述研究UDA进展与展望

深度学习已经成为解决不同领域的现实问题的首选方法，部分原因是它能够从数据中学习，并在广泛的应用中取得令人印象深刻的表现。然而，它的成功通常依赖于两个假设: (i) 大量的标记数据集需要精确的模型拟合，(ii) 训练和测试数据是独立的和同分布的。因此，它在不可见的目标域上的性能不能得到保证，特别是在适应阶段遇到非分布数据时。在部署深度神经网络时，目标域数据的性能下降是一个关键问题，它成功地训练了源域数据。针对这一问题，提出了无监督域适应(Unsupervised domain adaptation, UDA)，利用标记源域数据和未标记目标域数据在目标域中执行各种任务。UDA在自然图像处理、视频分析、自然语言处理、时间序列数据分析、医学图像分析等方面取得了良好的成果。在这篇综述中，作为一个快速发展的主题，我们提供了一个系统的比较方法和应用。此外，还讨论了UDA与其密切相关的任务，如域泛化和分布外检测之间的联系。此外，指出了目前方法的不足和可能的发展方向。

深度学习是机器学习的一个子领域，旨在通过层次结构发现输入数据的多层分布式表示(Goodfellow et al., 2016)。在过去的几年里，基于深度学习的方法出现了爆炸式的发展，深度学习大大改善了最先进的方法，以解决各种机器学习问题和应用(LeCun et al., 2015)。特别是，深度学习已经将传统的信号处理方法转变为以端到端方式同时学习特征和预测模型(Bengio et al., 2013)。虽然监督深度学习是各种任务中最普遍和最成功的方法，但它的成功取决于(i)大量的标记训练数据和 (ii) 独立和同分布(i.i.d.) 训练和测试数据集的假设(Huo et al., 2022)。由于对各种应用领域的海量数据集进行可靠的标记通常是昂贵和令人望而却步的，对于目标领域中没有足够的标记数据集的任务，通过利用来自源领域的丰富标记数据，有强烈的需求来应用训练好的模型(Xu and Yan, 2022)。然而，这种学习策略会受到数据分布变化的影响，即源域和目标域之间的域变化(Zhang et al., 2022)。因此，当遇到非分布(OOD)数据时，即源分布与目标分布不同(Che et al.， 2021)，训练模型的性能可能会严重下降。例如，应用于目标域的种群与源域的种群不同的疾病诊断系统的性能不能得到保证。
为了应对这一问题，人们提出了无监督域适应(UDA)作为一种可行的解决方案，将从标记源域学到的知识迁移到不可见的、异构的、无标记的目标域(Liu et al., 2021i, 2022g)，如图2所示。UDA旨在减轻源和目标域之间的域转移(Kouw, 2018)。UDA的解决方案主要分为统计矩匹配(例如，最大均值差异(MMD) (Long et al., 2018))，域风格转移(Sankaranarayanan et al., 2018)，自训练(Zou et al., 2019; Liu et al., 2021e,l）和特征级对抗学习(Ganin et al., 2016; He et al., 2020a,b; Liu et al., 2018)。

论文题目：Deep Unsupervised Domain Adaptation: A Review of Recent Advances and Perspectives
详细解读：https://www.aminer.cn/research_report/62fe33247cb68b460f063de0https://www.aminer.cn/research_report/62fe33247cb68b460f063de0
AMiner链接：https://www.aminer.cn/?f=cs