最优传输论文（七）：Enhanced Transport Distance for Unsupervised Domain Adaptation论文原理

前言

• 本文属于我最优传输系列里的七篇，该专栏用于记录本人研究生阶段相关最优传输论文的原理阐述以及复现工作。
• 本专栏的文章主要内容为解释原理，论文具体的翻译及复现代码在文章的github中。

原理阐述

文章介绍

• 文章发表于2020年的CVPR。

摘要

• 最优传输模型已经被应用于UDA（无监督领域自适应）用于对齐分布。然而，传输距离不能反映来自领域知识或类别先验（domain knowledge or category prior）的判别信息。
• 作者提出了增强运输距离（enhanced transport distance,ETD），这种方法，所谓ETD就是建立一个注意力运输距离，注意力机制其实就是对OT问题的成本矩阵C进行加权，而作者的加权方式非常新颖，由于OT针对小样本，所以很可能小批量抽样实例不能反映实际分布，所以说作者专门设计了一个全局的网络W，用于给C加权，从而添加全局信息。也就是说，本文的核心切入点，就是改进OT小样本取样的缺陷。
• 另外，Kantorovich potential variable被深度学习网络给参数化了来学习潜在空间的分布，这就很有意思。
• 同时作者使用了基于熵的正则化。