文章目录
前言
- 文章来自2020年的ICLR
- 本文是本人领域自适应与最优传输系列论文的第70篇,所有系列论文的相关代码在https://github.com/CtrlZ1/Domain-Adaptation-Algorithms,希望各位大佬们不吝点赞,给个Star哦~
摘要
- 联邦学习提高了在分布式设备网络上进行机器学习的数据隐私性和效率,如手机、物联网和可穿戴设备等。然而,由于域漂移的问题,使用联邦学习训练的模型仍然不能推广到新设备。当源节点收集的标记数据在统计上与目标节点的未标记数据不同时,就会发生域转移。在这项工作中,我们提出了一个原则性的方法来解决联合域适应的问题,其目的是使在不同节点之间学习到的表示与目标节点的数据分布保持一致。我们的方法将对抗适应技术扩展到联邦设置的约束。此外,我们设计了动态注意机制,并利用特征解纠缠来增强知识转移。在经验上,我们对多个图像和文本分类任务进行了广泛的实验,并在无监督联邦域适应设置下显示了良好