（ETN）Learning to Transfer Examples for Partial Domain Adaptation笔记

Learning to Transfer Examples for Partial Domain Adaptation笔记

这是篇关于部分域适应的论文，他也提到了之前三篇比较经典的关于部分域适应的论文，并指出了它们的不足之处。

1.SAN:https://mp.csdn.net/editor/html/115243021

2.PADA:https://mp.csdn.net/editor/html/115277950

3.IWAN:https://mp.csdn.net/editor/html/115249318

作者认为SAN和PADA虽然减少了离群源类的权重，但是对于源分类模型的训练还是用到了所有的源域数据，那么当分类模型应用到目标域数据上时，离群数据就会对性能产生一定的影响；IWAN的第一个域判别器区分源域和目标域只是基于域信息，而没有根据源域的辨别性信息，这会对共享类和离群类产生无差别的重要性权重。

    关于上句话的理解：举个例子，如果源域中有猫和老虎这两个类别，而目标域中只有猫这一个类别，因为猫和老虎有很多相似的特征，所以IWAN会给猫和老虎都赋予比较高的权重。

作者提出了ETN方法，用 表示源样本的权重，他把权重进一步放到了源分类模型中。得到以下的目标函数：

那么如何量化每个源域样本的可迁移性呢？

作者采用了一个额外的域鉴别器，它通过将源域样本分类到目标域的sigmoid概率来粗略的衡量源域样本的可迁移性。为了在域信息中同时考虑到辨别性信息，作者在前还设置了一个额外的标签预测器。使用的是leaky-softmax激活函数：

至于为什么要在分母上增加一个常数，

感觉作者没有说，以我的理解是为了让大概率变得更大，小概率变得更小。哇·····写到后面我才意识到leaky-softmax的作用，就是让下面这个式子加和小于1啊。感谢~~~

表示样本属于源域中类别c的概率，加和之后就是样本属于源域的概率（因为使用的是leaky-softmax激活函数，所以加和概率是小于1的）

的值越小，就以为这该样本越可能来自共享类，就给他一个高权值，所以的输出可以量化源域样本对可迁移性：